Меняется всё — понимание феномена, сценарии развития, оценка рисков и перспективы безопасности
Отчет Кима Эрика Дрекслера, опубликованный в январе 2019 FHI и University of Oxford, содержит 208 стр. и называется «Переосмысление Суперинтеллекта. Комплексные ИИ-сервисы, как Искусственный Общий Интеллект».
Этот отчет — плод 3х летней работы Дрекслера, чей визионерский дар был с блеском доказан еще 30+ лет назад, когда он стал «отцом молекулярной нанотехнологии», предложив концепцию нанотехнологического механосинтеза и разработав теорию создания молекулярных нанороботов (в 1992 его книга «Наносистемы: производство и вычисление молекулярных машин» получила награду Ассоциации американских издателей за лучшую книгу по компьютерным наукам).
Не смотря на феноменальную важность новой работы Дрекслера, мало кто прочтет 200+ страничный отчет.
Не готовым посвятить пару дней на этот подвиг, рекомендую краткое изложение отчета, выполненное Рохин Шахом на AI ALIGNMENT FORUM.
Тем же, кому достаточно моего резюме, — вот оно.
1) На лицо парадокс.
• Все дискуссии о супер-интеллекте (общем ИИ, сильном ИИ и т.п.) ведутся, исходя из представления о нем, как о некоем интеллектуальном «супер-агенте», — возможно, и не имеющем сознания в человеческом понимании, но располагающем неким целеполаганием, пониманием доступных ему ресурсов и прочими атрибутами интеллектуального агента.
• В то же время, никто такого «супер-агента» не разрабатывает, поскольку никто пока толком не понимает, как лучше это делать, да и с практических соображений, — не больно это и нужно, чтобы зарабатывать в наши дни миллиарды на ИИ-технологиях.
• Вместо хоть каких-то попыток разработки интеллектуальных «супер-агентов», десятки самых крутых корпораций мира вбухивают огромные средства только в одно — разработку ИИ-сервисов (AI services), автоматизирующих решение конкретных задач, используя ограниченные вычислительные ресурсы (локальные, а чаще всего облачные).
2) Достигнув некоего уровня развития, ИИ-сервисы смогут выполнять проектирование и разработку новых ИИ-сервисов. Подобно тому, как пределом совершенствования шахматных ИИ систем, в итоге, стала передача этого на откуп самим ИИ-системам, аналогичная передача будет происходить во все новых и новых областях автоматизации интеллектуальных задач. Автоматизация R&D процессов создания новых ИИ-сервисов приведет к рекурсивному технологическому усовершенствованию. Важно понимать, что это будет не рекурсивное самосовершенствование интеллектуальных супер-агентов, поскольку усовершенствования будут появляться в результате автоматизации процессов создания улучшенных строительных блоков ИИ-сервисов и/или их новых интеграционных возможностей.
Главное же в том, что это должно произойти, прежде чем мы получим каких-либо супер-интеллектуальных агентов (общего ИИ, сильного ИИ и т.п.), способных на произвольные общие рассуждения и решение неограниченного круга задач.
3) Можно характеризовать такой уровень развития созданием «комплексных ИИ-сервисов» (comprehensive AI services — CAIS). И он существенно отличается от привычной нам картины Общего/Сильного ИИ.
Суть отличия в том, что
CAIS в совокупности будет обладать супер-интеллектуальными возможностями, вовсе не являясь интеллектуальным агентом или даже единой системой.
Последующее развитие модели CAIS ведет к переосмыслению не только перспектив развития и природы возникновения машинного супер-интеллекта, но также и путей проблемной ориентации ИИ, а также фундаментальных соображений в области безопасности и стратегии минимизации ИИ-рисков.
Т.о. меняется вся диспозиция в области ИИ, заставляя задуматься о совсем иных новых рисках и возможностях.
________________________________
Если вам понравился этот пост — не забудьте:
- нажать “палец вверх”;
- подписаться на обновления канала на платформе Яндекс Дзен;
- оставить комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь