Новый функционал ChatGPT и обеспокоенность американских политиков. На этой неделе владелица ChatGPT — компания OpenAI открыла для своей нейросети доступ в интернет и позволила платным подписчикам использовать для него сторонние плагины, которые охватывают широкий спектр областей, включая бизнес, образование, финансы, инвестиции и личные интересы. Тем временем американский Сенат провел слушания о рисках, которые может представлять собой бурное развитие технологий искусственного интеллекта.
Несмотря на то, что прямые конкуренты ChatGPT — в первую очередь нейросеть Bard от Google сразу позволяла им полный доступ во всемирную сеть, лидер, которым является ChatGPT, был ограничен в обучении на основе большого объема данных сентябрем 2021 года. Как сообщала сама нейросеть, сделано это было «в основном из соображений безопасности и приватности». Теперь доступ открыт, хотя и ограничен — ChatGPT может искать информацию в интернете и использовать ее, отвечая на запросы пользователей. Но быстро «забывает» полученную информацию.
Как это ни странно, но OpenAI считает бесконтрольное развитие моделей, основанных на искусственном интеллекте, потенциально опасным. Поэтому и доступ в интернет, и использование сторонних плагинов — это всего лишь удобство для пользователей, которое ничего не меняет принципиально в самом принципе подхода к использованию информации, считает директор технического департамента RTM Group Федор Музалевский:
Федор Музалевский директор технического департамента RTM Group «Принципиально новых возможностей плагины не дают, они дают более широкий охват аудитории. Если раньше для того, чтобы использовать ChatGPT, надо было либо писать какой-то свой собственный плагин, либо вставать в очередь в телеграм-канале, то сейчас это попадет в руки гораздо большего числа людей. Возможности в принципе по генерации, по анализу какой-то информации сохраняются, но именно сама доступность вот этого функционала несет в себе угрозу потому, что не ограничивается ни по возрасту, ни по направлению контента. И в этом основная опасность».
Во время слушаний в Сенате генеральный директор компании-владельца ChatGPT — OpenAI, Сэм Альтман, призвал законодателей регулировать искусственный интеллект, заявив что в текущем буме технологии существует потенциальный дедлайн для принятия регулирующих мер. «Мы считаем, что регулирующее вмешательство со стороны правительств будет критически важным для смягчения рисков со стороны все более мощных моделей», — сказал он в своем выступлении в Сенате. Один из способов, которыми правительство США может регулировать индустрию, это создание лицензионного режима для компаний, работающих над наиболее мощными системами ИИ, считает Альтман. Руководителю компании, за которой стоит сам Microsoft и которая вкладывает в разработку сотни миллионов долларов, подобное регулирование было бы очень удобно, чтобы избавится от возможных конкурентов, подозревает генеральный директор компании Dbrain Алексей Хахунов:
Алексей Хахунов генеральный директор компании Dbrain «Если посмотреть на выступление Сэма Альтмана, то он сказал, что наиболее сильные системы должны попадать под регулирование. Позавчера выходил документ европейский AI Act, в котором Европа описывала, что они хотят, чтобы каждая ИИ-модель, которая используется в Европе, попадала под сертификацию, и это очень плохая идея: сертификация, лицензирование каждой модели приведет к тому, что абсолютное большинство open source решений, где разработчики без какого-то заметного финансирования создают собственные системы, будут либо нелегальны, либо они просто перестанут развиваться. Сертификация — это один-два года, примерно 100-200 тысяч долларов, и естественно, ни одно open source решение себе такое не сможет позволить».
Политики со своей стороны опасаются ряда возможностей, которые открывает ИИ. В первую очередь того, что ИИ может быть использован для создания правдоподобных фейков, которыми может ввести в заблуждение избирателей, или использоваться для распространения дезинформации, потенциального сокращения числа рабочих мест. А как максимум, который сейчас кажется полуфантастическим — для создания новых видов оружия, что может иметь серьезные последствия для международной безопасности.
Вице-президент и главный офицер по вопросам конфиденциальности и доверия IBM Кристина Монтгомери, выступая на сенатских слушаниях, заявила об опасности повторения эпохи становления социальный сетей, которая прошла под лозунгом Марка Цукерберга «Двигайся быстро и ломай вещи. Если вы ничего не ломаете, вы двигаетесь недостаточно быстро». По ее мнению, подход, при котором быстрое развитие и инновации ставятся выше всего, может привести к непредвиденным и потенциально вредным последствиям.