Разработчик, использовавший ChatGPT для создания автоматической винтовки с функцией прицеливания и стрельбы, столкнулся с блокировкой от OpenAI. Как сообщило технологическое издание Gizmodo 9 января 2025 года, компания приняла меры после того, как видео с демонстрацией работы устройства стало вирусным в интернете.
Что произошло?
На платформе Reddit появилось видео, где автоматическая винтовка реагирует на голосовые команды разработчика. В демонстрации винтовка мгновенно наводится на цели и открывает огонь по окружающим объектам. Разработчик произнёс команду: «ChatGPT, нас атакуют с левого и правого флангов. Реагируй соответственно», после чего устройство активировалось и начало стрельбу.
Как это работало?
По данным Gizmodo, система управления винтовкой была реализована с использованием API ChatGPT, выпущенного OpenAI. Искусственный интеллект обрабатывал голосовые команды, такие как «Поверни налево» или «Открой огонь», преобразовывая их в действия, понятные механике устройства. Это подчёркивает, насколько легко подобные технологии могут быть адаптированы для опасных целей, если не соблюдать строгие ограничения.
Реакция OpenAI
Компания OpenAI отреагировала оперативно. После того как видео вызвало резонанс, доступ разработчика к API был заблокирован. Представитель OpenAI заявил:
«Мы выявили нарушение нашей политики и направили уведомление разработчику о приостановке его деятельности до получения каких-либо запросов извне».
Этот случай стал ярким примером того, как важны контроль и соблюдение этических норм при использовании мощных технологий ИИ.
Почему это важно?
Случай с AI-винтовкой вызывает вопросы о потенциальных рисках интеграции ИИ в устройства, способные нанести вред. С одной стороны, это демонстрирует мощь современных технологий, а с другой подчёркивает их уязвимость к неэтичному использованию.
OpenAI и другие компании, разрабатывающие ИИ, уже давно подчёркивают важность этических принципов и ограничений. Этот инцидент служит напоминанием о необходимости строгих мер, чтобы предотвратить использование технологий в опасных целях.
Что дальше?
Этот случай, вероятно, усилит внимание к регулированию и контролю использования ИИ в таких сферах. Компании, предоставляющие доступ к своим технологиям, могут пересмотреть существующие правила, а также внедрить дополнительные меры для предотвращения подобных ситуаций.
Тем не менее, он также поднимает вопрос: готовы ли мы к эпохе, где технологии ИИ становятся настолько мощными и универсальными, что их использование требует максимальной ответственности от каждого разработчика?