В федеральный суд Сан-Франциско поступило семь судебных исков к компании OpenAI. Истцы обвиняют разработчика чат-бота ChatGPT в том, что игнорирование потенциально опасного использования нейросети способствовало трагедии, произошедшей в феврале в канадской провинции Британская Колумбия. Исход данных разбирательств может создать прецедент для определения ответственности IT-компаний за действия пользователей их систем искусственного интеллекта.
Детали трагедии и претензии к разработчику
Инцидент произошел 10 февраля в учебном заведении города Тамблер-Ридж. 18-летняя бывшая учащаяся открыла стрельбу из модифицированного пистолета, в результате чего погибли пять детей и помощник педагога. По данным следствия, до нападения на школу злоумышленница совершила убийство своей матери и сводного брата. Данное преступление признано одним из самых массовых по количеству жертв в истории Канады, а сама нападавшая покончила с собой на месте происшествия.
В материалах исков утверждается, что перед атакой нападавшая вела диалоги с ChatGPT, в которых обсуждались темы насилия. Выяснилось, что аккаунт злоумышленницы был заблокирован компанией в 2025 году за использование нейросети для «активности, связанной с насилием». В OpenAI заявили, что рассматривали возможность передачи данных о пользователе правоохранительным органам, однако сочли, что поведение аккаунта не представляло «неминуемой и достоверной угрозы причинения серьезного физического вреда».
Реакция OpenAI и правовые риски
Генеральный директор OpenAI Сэм Альтман выразил соболезнования семьям погибших и признал ошибку, отметив, что компания не уведомила полицию о заблокированном аккаунте. Представители разработчика подчеркнули, что уже предприняли ряд мер для усиления безопасности:
- Улучшены алгоритмы реагирования чат-бота на признаки психологического неблагополучия пользователей.
- Обеспечена интеграция с местными ресурсами психологической помощи.
- Ужесточены протоколы оценки угроз насилия и механизмы передачи данных о них соответствующим органам.
- Повышена эффективность выявления пользователей, неоднократно нарушающих правила платформы.
Тем не менее, выяснилось, что нападавшей удалось создать второй аккаунт, о существовании которого OpenAI узнала уже после трагедии. Это дело стало лишь одним из ряда юридических вызовов, с которыми столкнулась компания. OpenAI также ведет разбирательства, связанные с неправомерным использованием авторских прав для обучения моделей ИИ, и находится под следствием в связи с инцидентом в Университете штата Флорида.
Корпоративные вызовы для компании
Помимо судебных разбирательств, OpenAI сталкивается с внутренним давлением и рыночными трудностями:
- Закрытие проекта генеративной видеомодели Sora.
- Приостановка разработки специализированного режима для чат-бота, предназначенного для контента для взрослых.
- Невыполнение целевых показателей по выручке и росту аудитории, что вызвало обеспокоенность у инвесторов на фоне подготовки к выходу на биржу.
