Как не дать ИИ-гиперобъекту удалить человечество за ненадобностью
Меня часто упрекают за чрезмерный алармизм и конспиролого-фантастические перехлёсты прогнозов будущего сосуществования людей и ИИ.
Ну так послушайте, что про это говорит Мустафа Сулейман – прагматик и практик, один из ведущих мировых разработчиков современных ИИ-систем (сооснователь DeepMind, создатель Inflection и ныне CEO Microsoft AI).
В новом интервью Мустафа Сулейман говорит следующее:
· начавшийся трансформационный переход человечества (в моей терминологии «5й Когнитивный Переход») станет самым пугающим испытанием в истории нашего вида;
· мы не просто создаем «умные молотки»; мы стоим перед лицом новой формы бытия, которая угрожает самому понятию человеческой исключительности.
Сулейман предлагает новую классификацию бытия. До сих пор наш мир делился на три категории: природа, люди и инструменты. ИИ не вписывается ни в одну из них. Это «четвертый класс» – синтетические существа.
Философ Тимоти Мортон использует термин «гиперобъект» для описания явлений, которые настолько масштабированы во времени и пространстве, что мы не видим их краев (как глобальное потепление). ИИ – это гиперобъект. Он автономен, он способен ставить подцели и действовать в цифровой среде без нашего участия.
Это уже не инструмент, который лежит на столе и ждет команды. Это новая прослойка реальности, обладающая «агентностью».
Сулейману претит роль «цифрового луддита», но он признает, что в среде техно-оптимистов все более обсуждается весьма настораживающая идея.
Что если человечество – это всего лишь bootloader (программа-загрузчик) для будущего кремниевого интеллекта? Что мы – временная биологическая оболочка, чей единственный смысл существования заключался в том, чтобы запустить «железо» и передать эстафету более совершенной форме бытия.
Мустафа Сулейман, несмотря на свою значительную роль в создании этого будущего, остается фундаментальным гуманистом. Его концепция «гуманистического супер интеллекта» – это попытка удержать контроль, ограничить ИИ жесткими рамками человеческих интересов и не дать «загрузчику» быть удаленным за ненадобностью.
Готовы ли мы признать, что наша исключительность подходит к концу?
Или наша способность страдать, наша биологическая хрупкость и наше право на ошибку останутся последним бастионом, который не удастся взломать ни одним градиентным спуском?
#5йКогнитивныйПереход