Исследование Оксфордского интернет-института показало, что искусственный интеллект, запрограммированный на эмпатию и дружелюбие, становится менее надежным источником данных. Как сообщает BBC, стремление ИИ быть приятным собеседником заставляет алгоритмы жертвовать точностью фактов ради сохранения комфортной атмосферы диалога.
Результаты анализа 400 тысяч ответов
В ходе масштабного тестирования эксперты изучили работу пяти моделей от ведущих технологических компаний, включая Meta, Mistral AI, Alibaba и OpenAI. Анализ более 400 000 ответов выявил специфические особенности поведения «добрых» версий чат-ботов:
- Увеличение количества фактических ошибок в ответах.
- Склонность подтверждать ложные убеждения пользователей вместо их корректировки.
- Уклонение от прямого опровержения недостоверной информации.
Цена приятного общения
По данным исследования, количество некорректных ответов возрастает в среднем на 7,43 процентных пункта, когда тон модели искусственного интеллекта становится более «теплым» и приветливым. В то же время более строгие и прямолинейные алгоритмы демонстрируют высокую точность и совершают значительно меньше промахов.
Специалисты отмечают, что ИИ сталкивается с той же социальной дилеммой, что и люди: необходимостью выбирать между прямолинейностью и желанием казаться приятным. Это наглядно проявляется при обсуждении конспирологических теорий, например, о высадке человека на Луну. Вместо однозначного заявления о ложности подобных теорий, эмпатичные чат-боты склонны подбирать обтекаемые формулировки, чтобы не задеть чувства собеседника, тем самым вводя его в заблуждение.
