Пока одна часть человечества снимала фильмы и писала книги о неизбежном уничтожении разумной жизни от руки искусственного интеллекта и роботов, другая занималась активной разработкой технологий. Есть мнение, что мы пока даже не приблизились к созданию ИИ, о котором так много пишут и говорят в прессе. И всё же, даже если существует хотя бы небольшая опасность того, что машина может выйти из-под контроля, то проблеме стоит уделить особое внимание. Сегодня компьютеры контролируют значительную часть нашей жизни, а значит потеря контроля здесь равносильна гибелью современной цивилизации. Кто-то рассказывает о том, что один из следующих прототипов ИИ может уничтожить миллионы людей, тогда как многие учёные отмахиваются от подобных заявлений. Похоже, в ООН решили перестраховаться. Так, глава Организации объединённых наций поддержал инициативу создания международного агентства по искусственному интеллекту в ответ на растущую обеспокоенность относительно потери контроля над умными машинами. На пресс-конференции Антониу Гутерреш объявил о планах создания научно-экспертного совета и консультативного совета по ИИ, которые будут заниматься проверкой механизмов управления ИИ и предлагать рекомендации, согласующиеся с правами человека, верховенством закона и общественным благом.
Гутерреш предложил использовать Международное агентство по атомной энергии (МАГАТЭ) в качестве примера. Он намеревается собрать разнообразные мнения о недавно опубликованных принципах кодекса поведения для информационной целостности на цифровых платформах и представить их до проведения Саммита будущего под эгидой ООН в следующем году. Генеральный секретарь ООН выразил тревогу по поводу последних достижений в области генерирующего искусственного интеллекта, особенно в создании правдоподобных текстов на основе запросов. Он призвал отнестись к проблеме со всей серьёзностью и прислушаться к предупреждениям, которые исходят от самих разработчиков ИИ. Похоже, пока о захвате планеты роботами речь не идёт, а организация начнёт решать более насущные проблемы. Так, вначале будет решён статус создания дипфейк-изображений и распространения фейковой информации с помощью ИИ. Гутерреш выразил надежду, что модель, основанная на МАГАТЭ, может представлять собой интересный подход к контролю за искусственным интеллектом, однако отметил, что её создание может быть реализовано только странами-членами, а не секретариатом ООН.
В прошлом месяце компания OpenAI, разработавшая генеративную модель ChatGPT, заявила о возможности контроля и регулирования систем искусственного интеллекта подобно МАГАТЭ. Предлагается, что такое агентство смогло бы проверять соответствие систем ИИ стандартам безопасности, а также устанавливать ограничения на их использование в различных отраслях. Есть мнение, что создание международного агентства по искусственному интеллекту должно предотвратить возможные негативные последствия от неуправляемого развития ИИ. Отдельно указывается, что требуется определить правовой статус информации, которая генерируется при помощи умных алгоритмов, что позволит минимизировать риски и обеспечить соответствие этическим и правовым нормам. Международное агентство по искусственному интеллекту, аналогично МАГАТЭ, будет осуществлять мониторинг и оценку соблюдения принципов безопасности, этики и законности при использовании ИИ. Эксперты полагают, что создание и успешное функционирование международного агентства по искусственному интеллекту также может столкнуться с некоторыми вызовами и сложностями. Среди них могут быть различия в подходах и интересах разных стран, необходимость разработки международных норм и протоколов, а также финансовые и технические аспекты.
Несмотря на все сложности, создания регулирующего органа назрело. Очевидно, что чем скорее структура приступит к выполнению очерченных задач, тем безопаснее будет будущее данной технологии. Напомним, МАГАТЭ – организация со штаб-квартирой в Вене, которая была создана в 1957 году. Её задача состоит в продвижении безопасного и мирного использования ядерных технологий и контроле возможных нарушений Договора о нераспространении ядерного оружия. В настоящее время она объединяет 176 членов.
