Может ли искусственный интеллект распознавать ложь?

25.09.2019 в 18:35

Компьютеры не очень хорошо вычисляют искажения, и это становится проблемой, поскольку технологии все чаще используются для принятия важных решений. Ученые из Университета Южной Калифорнии разобрались, способен ли искусственный интеллект видеть ложь.

Алгоритмы терпят неудачу, выступая в роли детекторов лжи, — это обнаружила исследовательская группа, изучающая механизмы распознавания эмоций. Два уже завершенных ею эксперимента подрывают основы популярной психологии и методов обучения ИИ, которые базируются на том, что мимика отражает мысли.

«И люди, и так называемые алгоритмы чтения эмоций полагаются на народную мудрость, гласящую, что наши чувства написаны на лице. Это далеко от истины. Люди улыбаются, когда они злы или расстроены, маскируют истинные переживания, и часто выражение лица не имеет ничего общего с внутренним состоянием, а лишь отражает культурные традиции», — отмечает профессор Джонатан Грэтч.

Конечно, люди знают, что окружающие могут врать с невозмутимым лицом. Игроки в покер блефуют. Соискатели обманывают работодателей. Неверные супруги лгут. И политики тоже могут жизнерадостно произносить не соответствующие действительности заявления.

Тем не менее, алгоритмы не так хороши в обнаружении двуличия, хотя они все чаще используются для считывания человеческих эмоций и принятия судьбоносных решений. Например, Министерство внутренней безопасности инвестирует в программы для прогнозирования потенциальных угроз. Некоторые страны используют массовое наблюдение для мониторинга коммуникаций населения. Алгоритмы применяются в фокус-группах, маркетинговых кампаниях и при проверке потенциальных сотрудников.

«Мы пытаемся развеять мнение о том, что точное распознавание мимики помогло бы узнавать чужие мысли. Подумайте о том, как люди использовали детекторы лжи в прошлом. Тогда эту технологию применяли не всегда верно, точно так же, как и сегодня не всегда верно применяют распознавание выражений лиц. Наши представления об этих методах наивны», — добавляет Грэтч.

Чтобы доказать это, Грэтч и его коллеги Су Лей и Ренс Хеген, а также Брайан Паркинсон и Даниэль Шор из Оксфордского университета изучили изменения мимики в разных ситуациях. Для одного из исследований они разработали игру на деньги, в которой участвовали 700 человек. Ученые наблюдали, как выражения лиц были связаны с принимаемыми решениями и выигрышем. Затем они предложили людям оценить свое поведение и рассказать, как они использовали мимику для победы и соответствовала ли она их чувствам.

Используя несколько новых подходов, команда исследовала связь между выражениями лиц и ключевыми событиями игры. Ученые проанализировали мимику с помощью метода из психофизиологии под названием «событийно-обусловленный потенциал» и компьютерного зрения.

Они обнаружили, что улыбка была единственным мимическим движением, появлявшимся постоянно, — при этом ее вызывали не только положительные эмоции. В целом участники эксперимента довольно неточно распознавали изменения в выражении своих лиц и причины их возникновения.

«Эти открытия подчеркивают ограниченность технологий в прогнозировании эмоций и намерений. Когда компании и власти заявляют о таких возможностях, человеку следует остерегаться, потому что часто в эти методы встроены упрощенные предположения, которые не были проверены учеными», — указал Грэтч.

Предыдущее исследование показало, что люди делают выводы о намерениях окружающих, основываясь на выражении их лиц. В той работе использовался автоматический анализ мимики, выделяющий такие чувства, как скука и депрессия, но о точности их восприятия было известно немного. Последние находки указывают на важность контекста при чтении эмоций и подтверждают мнение о том, что мимика сообщает больше, чем нам кажется.

Обсуждение