19 подписчиков
На этой неделе AI-специалисты активно обсуждают программную статью Леопольда Ашенбреннера , в которой он практически обещает создание универсального искусственного интеллекта (AGI). Причём уже в этом десятилетии — к 2027 году. Мы не будем разбирать эту статью как другие профессионалы, а на популярном уровне проанализируем, насколько реально создание AGI в ближайшее время?
AGI — это фактически программно-аппаратное решение, которое может выполнять свои задачи на уровне человека, без ссылок на непонимание контекста и контроля выходных решений. Он изменит в нашей жизни буквально всё, станет идеальным другом дома, бесчувственным контролёром на работе и пр. Ашенбреннер в своей статье апеллирует к быстрому развитию AI за последнее время и аппроксимирует его на ближайшее будущее. Только вся история AI за последние 80 лет (!) это периоды восторга от возможностей новой технологии и долгое затишье – «зима искусственного интеллекта» — от осознания невозможности добиться целей.
Текущий триумф ИИ связан с тем, что сначала видеокарты оказались подходящей аппаратной основой, а потом облачные сервисы позволили получить рост вычислительных мощностей, намного опережающий предсказания закона Мура. Производительность систем с ИИ позволила обыграть человека в го и компьютерные игры, а потом пройти тест Тьюринга — побеседовать с человеком на естественном языке. Каждый раз это требовало всё больше и больше вычислительных мощностей, которые требуют энергии. Поэтому-то для AGI Ашенбреннер ожидает создания гигантских ЦОДов, которые будут получать энергию от собственных АЭС, возможно энергии понадобится, как целым странам.
Что в этом прогнозе самое фантастичное? Вовсе не требующиеся энергетические мощности. Так Microsoft ищет руководителей проекта по созданию центра обработки данных, который будет питаться от собственной АЭС . То есть проблема энергии как раз решаема. А вот масштабируемость «разумности» искусственного интеллекта ограничена. Ошибку компьютера при игре в го в 2016 году просто никто не заметил бы. Фальшивая разметка в 2019 году могла заставить автопилот Tesla выехать на «встречку» . Наконец, рекомендательный алгоритм Google Gemini давал советы, способные привести к летальным последствиям, в 2024 году .
Время идёт, а искусственный интеллект продолжает ошибаться, просто в силу архитектуры нейросетей, на которых сейчас построено большинство технологий AI. И процент ошибок может быть очень мал, но он терпим только пока AI выполняет узкопрофильные задачи. Никакому AGI человечество не доверит важных задач, если одна он продолжит ошибаться. Ведь одна его ошибка вызовет летальные последствия планетарного масштаба.
Так что давайте посмотрим, чем закончится взлёт современного AI и не будем забывать, что конечное решение придётся принимать людям.
2 минуты
7 июня 2024