Использование инструментов искусственного интеллекта в юридической практике без надлежащей проверки может обернуться серьезными санкциями. В федеральном суде штата Миссисипи юристы обеих сторон спора о гонорарах за проект в сфере солнечной энергетики были привлечены к ответственности. Причиной стало использование программного обеспечения на базе ИИ, которое добавило в судебные материалы несуществующие дела и ссылки на нормы, отсутствующие в законодательстве штата.
Детали дела Withers против Абердина
Разбирательство касалось конфликта между юристом Томом Уизерсом III и городом Абердин. Уизерс утверждал, что муниципалитет задолжал ему выплаты за работу над девелоперским проектом. В ходе процесса окружной судья Шарион Эйкок установила, что четверо адвокатов — по двое с каждой стороны — подали документы, содержание которых не было должным образом проверено людьми.
На слушании по вопросу о наложении взысканий все четверо юристов признали свою вину и принесли извинения суду. Инцидент привлек внимание экспертного сообщества после того, как обозреватель в сфере права Роб Фройнд опубликовал информацию о деле в социальной сети X, охарактеризовав ситуацию как «комедию ошибок ИИ».
Санкции за «галлюцинации» нейросетей
Судья Эйкок наложила на адвокатов денежные штрафы и применила иные правовые санкции. В решении отмечается, что юристы нарушили Правило 11 Федеральных правил гражданского процесса. Данный регламент обязывает адвоката подписывать каждый документ, подтверждая тем самым перед судом достоверность изложенных в нем сведений.
В судебном постановлении подчеркивается, что лицензированные специалисты с юридическим образованием не должны слепо полагаться на технологии. Практика бесконтрольного использования ИИ привела к появлению в официальных материалах дела так называемых «галлюцинаций». Под этим термином понимаются ошибки или ложные сведения, которые языковые модели выдают за факты, выстраивая слова в правдоподобно звучащие предложения.
Глобальные вызовы для юридической отрасли
Случай в Миссисипи стал очередным примером рисков, связанных с внедрением генеративного ИИ в правовую сферу. В связи с участившимися инцидентами власти штата Нью-Йорк уже приняли новые правила. Так, с 1 июня результаты, полученные с помощью инструментов вроде ChatGPT, официально не защищены адвокатской тайной.
Американская ассоциация юристов (ABA) в своем заявлении отметила, что профессиональное сообщество сталкивается с новыми сложными вызовами. Ассоциация сформировала рабочую группу по вопросам ИИ и опубликовала рекомендации по этике. Основные советы экспертов включают следующее:
- Адвокаты обязаны понимать преимущества и риски технологий, используемых для оказания услуг клиентам.
- Результаты работы ИИ требуют обязательного критического анализа и контроля со стороны человека.
- Необходимо учитывать этические аспекты и вопросы конфиденциальности при вводе данных в нейросети.
Несмотря на стремление к автоматизации, эксперты подчеркивают, что ответственность за юридическую чистоту документов по-прежнему полностью лежит на человеке.
