1146 подписчиков
Размышления о технологиях будущего
Считаете ли вы, что человечество находится на пороге качественного скачка, удивительного прогресса. Или же нас ждет очередной туманный зигзаг судьбы с сомнительным результатом?
Не только простой обыватель окутан облаком причудливых страхов и надежд относительно технологического прогресса.
Ученые тоже подвержены простым и таким близким каждому из нас тревогам. Но разбираются с ними они по-своему.
Хорошим примером стратегии работы со опасениями по поводу грядущего служит мысленный эксперимент оксфордского профессора Ника Бострома. В нем исследователь подробно описывает только одну потенциальную опасность при создании искусственного сверхразума: нужно быть очень осторожными с каждым словом.
Почему?
Представим себе, что компания по производству скрепок создаст искусственный сверхразум и поставит перед ним единственную цель — сделать как можно больше скрепок. Акции компании стремительно вырастут, и человечество вступит в золотой век скрепки.
Но вдруг происходит неожиданное. Искусственный интеллект исследует природные ресурсы, необходимые людям, и решает, что они могут иметь большое значение для производства скрепок. Он потребляет эти ресурсы, руководствуясь своей основной директивой: «сделать как можно больше скрепок». И в процессе решения этой задачи уничтожает человечество.
Так стоит ли бояться будущего или просто нужно к нему готовиться?
1 минута
26 марта 2022