Верховный суд американского штата Нью-Мексико признал адвоката Стивена Аронса виновным в прямом неуважении к суду. В апелляции по делу об убийстве он сослался на показания людей, которых не существует: текст жалобы он готовил в ChatGPT и ничего не проверил. Это очередной пример того, что ответственность за ошибки ИИ несёт не нейросеть, а человек, который подписал документ.
Что было в жалобе
Аронс защищал Оскара Сандоваля, которого присяжные признали виновным в убийстве жены; по данным 404 Media, Сандоваль отбывает пожизненный срок. В постановлении Верховного суда штата перечислены «полностью вымышленные» свидетели — полицейские Мишель Амарилло и Санчес, Манал Аль-Джибури и Тереза Маркес. Кроме того, в жалобе были ложные показания о якобы полученных угрозах и о внешности стрелка, а две ссылки на прецеденты искажали их смысл. Адвокат сам признал в суде, что писал жалобу с помощью ChatGPT, не проверил ни факты, ни ссылки и не сообщил об этом клиенту.
Чем это закончилось
Суд оштрафовал Аронса на 5000 долларов, запретил ему выступать в этом суде до окончания проверки и передал материалы в дисциплинарную комиссию адвокатуры. Все поданные по делу документы суд аннулировал, а Сандовалю назначил государственного защитника — апелляцию начнут заново. Судьи отдельно отметили, что адвокат не проявил ни раскаяния, ни заботы о клиенте. Как пишет 404 Media, Аронс объяснил, что рассчитывал получить от ChatGPT «пуленепробиваемое» резюме материалов дела, потому что слышал, как ИИ используют врачи.
Почему это важно
Выдуманные ссылки на судебную практику суды ловят уже не первый год, но здесь нейросеть сочинила целые показания в деле, где на кону пожизненный срок. Вывод для всех, кто пишет жалобы или иски с помощью ИИ, одинаковый: каждое имя, цитату и номер дела нужно сверять с материалами и официальными базами, иначе отвечать за выдумку придётся автору документа.
