9 сентября 2026 года Верховный суд Нью-Мексико оштрафовал адвоката Стивена Д. Ааронса на 5000 долларов за подачу судебных документов, сгенерированных ChatGPT. ИИ-галлюцинации привели к появлению в материалах дела выдуманных свидетелей, ложных показаний и несуществующих прецедентов, которые юрист не проверил перед отправкой.
Реальные последствия за генерацию фактов
Проблема ошибок нейросетей перешла в плоскость строгой дисциплинарной ответственности. Суд признал адвоката виновным в прямом неуважении к суду. Помимо денежного взыскания, юрист был временно отстранен от участия в заседаниях до завершения полного дисциплинарного разбирательства. Все его материалы по текущему делу были аннулированы, а интересы клиента, который не был проинформирован об использовании нейросетей, передали государственному защитнику.
Риски универсальных чат-ботов
Как отмечается в материале платформы OurFirm.ai, универсальные инструменты искусственного интеллекта не подходят для реальных судебных разбирательств. Хотя мощные языковые модели могут создавать тексты, которые звучат профессионально и убедительно, они регулярно искажают фактические обстоятельства дела или выдумывают нормы права.
Ответственность за каждое поданное слово всегда несет человек. Надежная проверка должна охватывать не только правильность цитируемых законов, но и фактическую базу: юрист обязан убедиться, что каждое утверждение действительно фигурирует в реальных протоколах. Если алгоритм не позволяет прозрачно отследить источники, он лишь добавляет адвокату работы по исправлению грубых ошибок.
