Источник изображения: ilgmyzin / Unsplash.com
В начале прошлого года компания OpenAI стала жертвой хакерской атаки, в результате которой злоумышленник получил доступ к внутренней системе обмена сообщениями между сотрудниками и похитил конфиденциальную информацию, касающуюся технологий компании. По сообщению The New York Times, хакер завладел данными из онлайн-форума, где сотрудники обсуждали последние разработки OpenAI. Несмотря на то, что проникнуть в основные системы, где хранятся и создаются модели ИИ, не удалось, этот инцидент вызвал обеспокоенность у компании по поводу возможной кражи технологий иностранными агентами, такими как Китай.
Руководство OpenAI проинформировало сотрудников о взломе на общем собрании в апреле 2023 года и сообщило совету директоров об инциденте, однако было решено не разглашать информацию публично, поскольку не были похищены данные о клиентах или партнерах. Тем не менее, бывший технический программный менеджер OpenAI Леопольд Ашенбреннер (Leopold Aschenbrenner), который был уволен этой весной, заявил, что компания не делает достаточно для предотвращения кражи ее секретов иностранными правительствами. Ашенбреннер также утверждал, что безопасность OpenAI недостаточно надежна от кражи ключевых секретов.
Происшествие выявило разногласия внутри компании по поводу рисков ИИ и вызвало вопросы о том, насколько серьёзно OpenAI относится к безопасности. Компания уже начала принимать меры, включая создание Комитета по безопасности и защите, а также назначила бывшего генерала армии Пола Накасон в совет директоров. Однако, опасения по поводу возможной кражи технологий ИИ иностранными правительствами остаются актуальными, особенно в свете недавних заявлений президента Microsoft Брэда Смита в Конгрессе о том, как китайские хакеры использовали системы технологического гиганта для нападения на сети федерального правительства.
Несмотря на то, что современные системы ИИ не представляют значительной угрозы национальной безопасности, исследователи и технические руководители обеспокоены тем, что ИИ может однажды способствовать созданию нового биологического оружия или помочь взломать компьютерные системы правительства. Ряд компаний, включая OpenAI и Anthropic, уже блокируют свои технические операции и добавляют ограничения к своим приложениям ИИ, чтобы предотвратить использование приложений для распространения дезинформации или других проблем. Законодатели также уже начали разрабатывать законы, которые запретят компаниям выпускать определенные технологии ИИ и будут штрафовать их на миллионы долларов, если их технологии причинят вред госбезопасности.
Интересно, что китайские компании также создают собственные системы ИИ, которые почти такой же мощью, как и ведущие системы США. По некоторым показателям, Китай превзошел Соединенные Штаты как крупнейший производитель продвинутых систем в области искусственного интеллекта. В свою очередь эксперты утверждают, что опасность, создаваемая современными технологиями ИИ, все еще не близко, но находится в нескольких годах, возможно десятилетиях.