«Искусственный интеллект превзошел человеческий»: Илон Маск выступил против AI

В открытом письме Илон Маск, Стив Возняк и ряд других известных исследователей и бизнесменов в сфере искусственного интеллекта (ИИ) потребовали приостановить разработки нейросетей. Подписанты предупредили, что системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять опасность для общества, и задались вопросом, должны ли люди «рисковать потерей контроля над цивилизацией».

Американский бизнесмен Илон Маск напомнил анекдот о разработчиках суперинтеллекта. «Старый анекдот о технологах-агностиках, создающих искусственный суперинтеллект, чтобы узнать, есть ли Бог. Наконец они заканчивают и задают вопрос. ИИ отвечает: «Теперь есть», — написал он в Twitter.

В письме, опубликованном некоммерческой организацией Институт будущей жизни, отмечается, что сегодня лаборатории искусственного интеллекта втянулись в «неуправляемую гонку» по разработке и внедрению систем машинного обучения, которые «непонятны, непредсказуемы и неподконтрольны даже их создателям».

Мы призываем все лаборатории ИИ немедленно свернуть обучение систем ИИ мощнее GPT-4 как минимум на полгода, — говорится в письме. — Этот перерыв должен быть публичным и достоверным и соблюдаться всеми ключевыми участниками. Если договориться об этом в кратчайшие сроки не удастся, правительства должны вмешаться и ввести мораторий.

«Лаборатории ИИ и независимые эксперты должны воспользоваться этим перерывом для совместной разработки и внедрения общих протоколов безопасности при проектировании и разработке продвинутых систем ИИ, которые будут тщательно проверяться и контролироваться независимыми сторонними экспертами, — пишут они. — Эти протоколы должны гарантировать однозначную безопасность поддерживающих их систем».

Едва ли письмо окажет сколь-либо существенное влияние на сложившийся климат в исследованиях ИИ, поскольку технологические гиганты вроде Google и Microsoft торопятся с запуском новых продуктов, подчас совершенно не считаясь с прошлыми опасениями.

В конце ноября прошлого года компания OpenAI (одним из ее основателей был Маск) выпустила демоверсию чат-бота ChatGPT, который с помощью технологий ИИ способен выполнять различные задачи: от поиска ответа на любой вопрос до сочинения стихотворения. В частности, студент РГГУ написал с помощью ChatGPT диплом. 14 марта OpenAI представила GPT-4 — новейшую версию своей большой языковой ИИ-модели, которая демонстрирует «производительность на уровне человека» во многих профессиональных задачах. GPT-4 намного больше предыдущих версий — она была обучена на большем количестве данных и использует больший объем информации. При этом GPT-4 способна работать не только с текстом, но и с изображениями, рассказывал DK.RU.