Разговоры о том, что нейросети надо регулировать на законодательном уровне, велись уже давно. Однако именно с ростом популярности чат-бота GPT эта тема стала как никогда актуальной. Свое мнение о том, как управлять искусственным интеллектом высказали эксперты в области ИИ Гэри Маркус и Анка Руэль.
Для справки: Гэри Маркус является почетным профессором Нью-Йоркского университета и был основателем и генеральным директором Geometric Intelligence, компании по машинному обучению, приобретенной Uber. Анка Руэль — аспирант в области компьютерных наук в Стэнфордском университете и член-основатель KIRA, аналитического центра, занимающегося продвижением ответственного ИИ.
Новые инструменты генеративного искусственного интеллекта, такие как ChatGPT от Openai, получают все большую популярность и применяются во многих отраслях науки и экономики. Такое стремительное распространение, по мнению экспертов может привести к «дезинформации и полной утрате доверия».
Одной из проблем систем искусственного интеллекта невозможность их контролировать. Например, ChatGPT может давать ложные утверждения, что чревато серьезными проблемами. Особенно, если к чат-боту обратились по поводу вопросов, связанных с медициной.
Хотя многие страны принимают регулирующие акты относительно применения искусственного интеллекта, в глобальной координации все еще наблюдается недостаток. Пока одни правительства пытаются взять под контроль ИИ, другие предпочитают не замечать нарастающие проблемы.
Компании также сталкиваются с проблемой при работе с ИИ в разных юрисдикциях, из-за чего создаются дублирующие системы, происходит хаос.
Опрос Центра управления ИИ показал, что 91% людей из 11 стран согласны с тем, что искусственный интеллект должен быть тщательно регулируем на законодательном уровне. Причем как со стороны отдельных государств, так и на глобальном уровне. А это требует огромной координации усилий со стороны правительств, компаний и научных сообществ.
Гэри Маркус и Анка Руэль предлагают создать Международное агентство по искусственному интеллекту (IAAI), целью которого станет контроль и дальнейшее продвижение ИИ.
Агентством должны руководить как правительства разных стран, так и крупные технологические компании, некоммерческие организации и научные сообщества.
Надо отметить, что идея Гэри Маркуса и Анки Руэль о создании международного агентства не нова.
Ранее генеральный директор Google, Сундар Пичаи, уже заявил о его необходимости. По его мнению, организация должна заниматься глобальным управлением, технологическими инновациями в области ИИ, а также контролем за соблюдением норм и правил.
IAAI также может заниматься борьбой с дезинформацией, которой в настоящее время не может противостоять даже современная технология. Организация должна разработать инструменты для автоматизации процессов обнаружения и борьбы с дезинформацией.
Кроме того, специалистам IAAI придется заняться разработкой систем безопасности нейросетей и повышением их прозрачности. Сейчас безопасность и защита персональных данных находится на очень низком уровне. В сеть уже попали личные сведения пользователей чат-бота GPT, в том числе и платежная информация (к примеру, часть номера банковской карты)
Создание международного агентства позволит улучшить обмен знаниями в области искусственного интеллекта. Оно станет местом, где ученые, эксперты и разработчики из разных стран могут встречаться, обсуждать текущие проблемы и сотрудничать над разработкой эффективных решений.
При этом, не стоит заметить, что любое решение в области искусственного интеллекта должно учитывать различия в культурах и ценностях разных стран.
Подписывайтесь на наш телеграм-канал и заходите на наш сайт, чтобы увидеть больше интересных материалов!