Как ИИ
изменит мир
и что нам за это будет.
Завершён опрос почти 3000 экспертов по машинному обучению на предмет того, как изменится наша жизнь в мире искусственного интеллекта: 5 января на сервере препринтов arXiv в статье «Тысячи авторов ИИ о будущем ИИ» были выложены результаты умозрительного исследования наших социальных и технологических перспектив.
Специалисты компании AI Impacts, занимающейся изучением долгосрочных последствий развития и эксплуатации соответствующих технологий, составили вопросы, на которые ответили 2778 исследователей, работающих с алгоритмами глубокого обучения. Таким «коллективным разумом» получены прогнозы о темпах прогресса ИИ, а также о природе и влиянии передовых его систем.
Но, если вкратце, у нас всё по классике: есть две новости ‒ хорошая и плохая.
Хорошая заключается в том, что большинство считает, что ИИ откроет волну выдающихся достижений в науке, литературе, математике, музыке и архитектуре. А плохая ‒ в том, что мы все умрём.
Так считают от 38% до 51% опрошенных. По их мнению, вероятность вымирания, вызванного ИИ, составляет не меньше 10%, а вот минимальная вероятность этого плачевного сценария оказывается на уровне 5%. То есть риски ‒ аж 1 из 20.
С другой стороны ‒ 20 к 1, что мы выживем.
Ещё обнаружено, что темпы развития «нейровычислений» опережают предположения, сделанные всего пару лет назад. Например, время, когда ИИ будет выполнять почти любую нашу работу лучше, с меньшими затратами и эффективнее, чем мы, стало ближе: 50%-ную вероятность этого учёные перенесли с далёкого 2060 года на 2047, до которого всего каких-то 20 с небольшим новогодних ночей.
Если наука будет продолжать работать бесперебойно, вероятность того, что машины без посторонней помощи превзойдут людей во всех возможных задачах, оценивается в 10% к 2027 году. Однако с этим прогнозируется, что к 2037 году тех же 10% достигнет вероятность того, что все человеческие занятия станут полностью автоматизированными. А 50% рубеж этого глобального превосходства прогнозируется уже на 2116 год вместо 2164, как в таком же опросе 2022 года.
Другие интересные достижения ИИ прогнозировались уже на конец 2020-х годов. Среди них ‒ возможность создавать видео с чередующимися ракурсами, писать газетные статьи и даже складывать белье. Совокупные прогнозы также выдают 50% вероятность достижения нейросистемами нескольких специфичных целей к 2028 году: автономное создание сайта обработки платежей с нуля, автономную загрузку и точную настройку большой языковой модели; изготовление безупречных песенных хитов в стиле и звучании какого-то конкретного артиста, неотличимые от настоящих исполнителей. Из 39 аспектов, предложенных анкетируемым специалистам для высказывания, 35 получили поддержку как минимум 50%-ной вероятности быть выполненными в течение всего десяти лет. Эти задачи включали в себя победу над человеком в Го (древнекитайская логическая настольная игра) после того, как каждый соперник разучит одинаковое количество игр; узнавание объекта, увиденного только один раз; и победу в престижной и по-видимому самой сложной олимпиаде Патнэма по математике.
Помимо этого, участники выразили обеспокоенность злоупотреблениями ИИ со стороны правительств и криминальных структур. Особенно это касается части распространения пропаганды, откровенно ложной и/или вводящей в заблуждение информации, роста числа и качества различного рода подлогов и мошеннических схем.
В связи с этим снова возникли разночтения в оценке темпов развития ИИ для будущего человечества. Кто-то предлагал искусственно замедлять прогресс для более полного контроля возможных негативных последствий, другие же выступили за недопустимость цензуры научной и инженерной мысли. Тем не менее, предложение уделять больше внимания исследованиям, направленным на минимизацию потенциальных рисков, связанных с системами глубокого обучения, получило широкую поддержку.
Полная статья здесь.
По материалам АРМК.
