Как искусственный интеллект отслеживает эмоции
Компания Apple впервые анонсировала свое исследование депрессии в августе 2020 года. Ранее сообщалось, что компания использует только определенные данные о состоянии здоровья, такие как частота сердечных сокращений, режим сна и то, как человек взаимодействует со своим телефоном, чтобы сделать выводы о психическом здоровье. Однако в отчете Wall Street Journal говорится, что ученые также будут наблюдать за движениями, речью, сном, и даже частотой опечаток, чтобы выявить стресс, депрессию и тревогу. Информация будет поступать как с Apple Watch, так и с камеры и микрофона iPhone. Данные, полученные с помощью устройств Apple, будут сравниваться с опросниками психического здоровья и уровнем кортизола (полученным из волосяных фолликулов участников).
В статье говорится, что Apple также участвует в исследованиях, направленных на выявление когнитивных нарушений и аутизма у детей на основе данных iPhone и Apple Watch. Эти исследования являются следствием заинтересованности Apple состоянием здоровья пользователей. Компания вложила значительные средства в мониторинг физической активности, сна, слуха, менструального цикла, диеты и других показателей здоровья человека. Алгоритм также интегрирует медицинские данные и может отправить отчет о состоянии здоровья вашему врачу.
Исследование депрессии выводит сбор данных о состоянии здоровья на новый уровень — теперь система может делать предположения о вашем эмоциональном состоянии. Эта область искусственного интеллекта, также известная как “аффективные вычисления” направлена на использование различных данных, включая выражения лица, для понимания эмоций человека, часто в коммерческих целях. По данным исследования Grand View, в 2019 году рынок аффективных вычислений составил 20 миллиардов долларов.
Уже сейчас эмоциональный ИИ используется в процессе подбора персонала в таких крупных компаниях, как Dunkin’ Donuts, Unilever, Carnival Cruise Lines и IBM, чтобы понять личность кандидата. Такого рода технологии также используются в экспериментальных и коммерческих целях для выявления засыпающих водителей, в тюрьмах для выявления стресса, а во время пандемии — в цифровых классах, чтобы понять, испытывали ли онлайн-учащиеся трудности с уроками.
Author: https://www.iphones.ru
Возникающие проблемы
При этом технология столкнулась с критикой не только из-за сбора огромных объемов конфиденциальных данных, но и потому, что она не так хороша как кажется. “В целом продукты, которые определяют психическое здоровье не являются особенно точными”, — говорит Хейли Цукаяма, законодательный активист Фонда Electronic Frontier.
Ученые также заявили что эмоциональный искусственный интеллект опирается на ошибочную идею. В статье 2019 года, опубликованной в академическом журнале “Психологическая наука в общественных интересах”, группа исследователей изложила проблемы, связанные с эмоциональным ИИ. “Попытки просто ”считывать” внутренние состояния людей на основе анализа только движений лица, без учета различных аспектов, в лучшем случае являются неполными, а в худшем — полностью лишены обоснованности, независимо от того, насколько сложны вычислительные алгоритмы”, -— пишут они. В статье исследователи призвали к более глубокому изучению того, как люди используют мимику лица чтобы передать и скрыть эмоции, и как люди понимают эмоции других людей на основе мимики их лиц.
Будущее технологии
То, насколько эффективна эта технология, имеет огромное значение, особенно с учетом того, что в нее инвестирует все больше и больше технологических компаний, таких как Apple. В августе прошлого года Amazon дебютировал с новым устройством для здоровья с функцией, которая определяет эмоциональный тон вашего голоса. В статье для престижного журнала Nature, Кроуфорд призвал к созданию законов для гарантии надежности и открытости приложений на основе эмоционального ИИ. В ней он ссылается на ущерб, нанесенный тестами на полиграфе или детекторе лжи, которые использовались десятилетиями и в конечном итоге были признаны ненадежными.
Цукаяма говорит, что также важно, чтобы компании четко говорили о том, что их технология может, а что не может сделать. В случае обнаружения депрессии, компания должна дать понять пользователю, что это не является диагнозом и не отменяет необходимости консультации с врачом.
Тиффани К. Ли, юрист по технологиям и доцент юридического факультета Университета Нью-Хэмпшира, говорит, что, по ее мнению, исследования Apple могут быть полезны с медицинской точки зрения. При этом ее беспокойство по поводу эмоционального искусственного интеллекта в целом заключается в том, что он использует огромное количество персональных данных. Без федерального законодательства о конфиденциальности, которое включает защиту биометрических данных людей, пользователи не могут контролировать то, как их данные используются, обрабатываются и хранятся.
Apple тестирует свой проект по диагностике депрессии в контексте академического исследования, в котором действуют жесткие правила, касающиеся прозрачности и согласия участников. И, как отмечает The Journal в своем отчете, исследование UCLA-Apple может никогда не привести к выходу приложения на рынок. Исследование рассчитано на три года и началось в 2020 году. На следующем этапе оно будет расширено до 3000 участников. Тем не менее, исследования Apple в сфере эмоционального искусственного интеллекта являются еще одним свидетельством того, что эта область развивается.
