Во Флориде арестовали Карли Хеллер, которая написала чат-боту, что «расстреляет» офис шерифа округа Ли. Переписку никто из людей вокруг неё не видел — её заметила система безопасности Anthropic, а дальше сообщение по цепочке дошло до полиции. История хорошо показывает, что происходит с личными данными в переписке с нейросетью, когда в ней звучит угроза.
Как переписка попала к полиции
Как пишет юрист Юджин Волох в разборе дела на The Volokh Conspiracy со ссылкой на документы полиции, Хеллер написала в приложении чат-бота, что «прямо сейчас» расстреляет офис шерифа, а на следующий день — что это «последний шанс» и что она «купила сегодня новый пистолет». По данным полиции, система безопасности Anthropic отправила эти сообщения на проверку людям, те сочли риск серьёзным и передали их в ФБР, а ФБР — шерифу. Хеллер задержали 30 сентября и обвинили в письменной или электронной угрозе массового расстрела — по закону Флориды это тяжкое преступление.
Что говорит сама обвиняемая
Хеллер признаёт, что писала эти сообщения, но говорит, что ничего делать не собиралась: по её словам, чат был для неё «личным дневником». Вину она не признаёт, оружия у неё не изъяли. Есть и неясность с тем, где шла переписка: в документах фигурирует ИИ Anthropic, а детективу, по данным издания SAN, она называла сервис Perplexity. Её адвокат собирается оспорить, может ли сообщение чат-боту вообще считаться угрозой.
Почему юристы сомневаются
Волох считает обвинительный приговор маловероятным: чтобы наказать за угрозу, нужно доказать, что человек понимал, что его слова прочитает и воспримет как угрозу живой человек. А Хеллер, скорее всего, думала, что пишет только машине. Но урок для пользователей простой: Anthropic в своих правилах прямо оставляет за собой право передавать переписку властям, если это нужно, чтобы предотвратить серьёзный вред. Чат с нейросетью — не дневник под замком.
