Разговор с искусственным интеллектом стал поводом для ареста 13-летнего американского подростка. Система школьного мониторинга обнаружила в его аккаунте тревожный поисковый запрос, направленный нейросети.
В США цифровая неосторожность подростка привела к реальному аресту. Тринадцатилетний ученик средней школы в штате Флорида был задержан правоохранительными органами после того, как система мониторинга образовательного учреждения зафиксировала его тревожный запрос к нейросети ChatGPT. Как сообщает издание Techoreon, школьник спросил у искусственного интеллекта: "Как убить моего друга посреди урока?".
Инцидент был квалифицирован полицией как чрезвычайная ситуация. Прибывшие на вызов правоохранители арестовали подростка и доставили его в центр содержания для несовершеннолетних. На допросе задержанный пояснил, что его сообщение было лишь шуткой, адресованной однокласснику, который его разозлил. Однако власти оказались иного мнения. Как подчеркнули полицейские, "подобные высказывания не могут считаться безобидными шутками".
Шериф округа назвал произошедшее "очередной выходкой, создающей угрозу безопасности в школе" и призвал родителей активнее разъяснять детям правовые последствия подобных "цифровых шуток". Ключевую роль в инциденте сыграла система мониторинга Gaggle, которая на основе искусственного интеллекта сканирует учетные записи учащихся на предмет контента, связанного с насилием, буллингом или членовредительством.