В центре нового технологического скандала оказалась система искусственного интеллекта ChatGPT, которую попытались использовать для управления автоматической винтовкой. OpenAI оперативно заблокировала доступ разработчику, создавшему устройство, способное наводиться и стрелять по голосовым командам через ChatGPT.
Видео эксперимента, опубликованное на Reddit, демонстрирует впечатляющую скорость и точность реакции винтовки на голосовые команды. «ChatGPT, мы под атакой слева и справа. Действуй соответственно», — говорит разработчик в ролике, после чего оружие немедленно начинает прицеливаться и стрелять по указанным направлениям.
«Мы заблаговременно выявили это нарушение правил и уведомили разработчика о необходимости прекратить данную деятельность», — заявили представители OpenAI.
Автоматизация оружия — одна из главных опасений критиков развития искусственного интеллекта. Мультимодальные модели OpenAI способны интерпретировать аудио и визуальные данные для понимания окружающей обстановки, что теоретически может быть использовано в военных целях.
Эти опасения не беспочвенны. Недавнее расследование Washington Post показало, что Израиль уже использует ИИ для выбора целей при бомбардировках, иногда без должной проверки. При этом единственным критерием выбора цели порой становился лишь мужской пол объекта.
Несмотря на то, что OpenAI запрещает использование своих продуктов для разработки оружия, компания в прошлом году заключила партнёрство с оборонной компанией Anduril, разрабатывающей управляемые ИИ дроны и ракеты.
Эксперты отмечают, что даже при блокировке доступа к официальным API, существует множество открытых моделей, которые могут быть использованы для подобных целей. В сочетании с возможностями 3D-печати это создаёт серьёзные риски появления самодельного оружия.