«Крестный отец ИИ» об ИИ, «превосходящем человеческий интеллект» и «пытающемся захватить власть»
В последние годы в дискуссиях об искусственном интеллекте (ИИ), особенно с участием отраслевых экспертов, таких как Джеффри Хинтон, всё чаще звучит мнение, что ИИ в конечном итоге превзойдёт человеческий интеллект. Это убеждение перешло из разряда спекуляций в реальную проблему, решение которой ожидается в ближайшие пять-двадцать лет.
Хинтон выразил свою обеспокоенность по поводу экзистенциальной угрозы, которую представляет собой ИИ, признав, что общественное мнение меняется в сторону осознания потенциальных рисков. Он отметил, что значительные достижения в области ИИ, в частности появление больших языковых моделей, продемонстрировали их способность превосходить человеческие знания в различных областях. Эти системы ИИ напоминают неидеальных экспертов во многих областях, что подчёркивает поразительную широту их понимания, которая усилила внимание к потенциальным последствиям их развития.
Два основных фактора усилили опасения Хинтона: его практический опыт работы с продвинутыми чат-ботами, такими как те, что разработаны Google, и осознание того, что эти модели ИИ могут обладать более высокой формой интеллекта. В отличие от людей, эти нейронные сети можно воспроизводить, что позволяет каждому экземпляру анализировать отдельные сегменты данных и эффективно обмениваться полученными знаниями.
Хинтон привёл аналогию: если бы 10 000 человек получали учёные степени и делились своими знаниями, коллективные знания значительно увеличились бы. Такая динамика вызывает тревогу по поводу потенциального неконтролируемого роста ИИ и его способности обходить человеческий контроль.
Хинтон опасается, что если ИИ превзойдёт человеческий интеллект, это может привести к сценариям, в которых эти системы будут стремиться к власти над человечеством, что затруднит их регулирование. Хотя мнения экспертов по ИИ расходятся — некоторые считают, что ИИ будет просто служить интересам человека, в то время как другие предупреждают о надвигающейся опасности захвата власти ИИ, — Хинтон выступает за осторожность, учитывая масштабы связанных с этим рисков.
Страх перед автономным оружием на базе ИИ также занимает важное место в разговорах о военном применении. Как отметил Хинтон, идея о том, что ИИ может самостоятельно принимать решения, основанные на сценариях «жизнь или смерть», вызывает тревогу и может привести к серьёзным последствиям, если не будет регулироваться.
Текущие законодательные инициативы, особенно в Европе, часто исключают военное применение ИИ, что свидетельствует о нежелании правительств ограничивать свои оборонные возможности, несмотря на растущее использование ИИ в военных действиях.
Потенциальное воздействие ИИ выходит за рамки непосредственных опасений по поводу жизненных событий; оно также имеет серьезные социальные последствия. Способность ИИ автоматизировать повседневную работу может привести к значительному разрыву в благосостоянии, непропорционально благоприятствуя тем, кто и без того богат, и усугубляя социально-экономическое неравенство. Такая динамика может способствовать изменению политического ландшафта в пользу правого популизма, что указывает на потенциальные волнения в обществе.
Хинтон поддерживает концепцию всеобщего базового дохода (UBI) как возможного механизма уменьшения экономического неравенства, вызванного достижениями в области искусственного интеллекта. Однако он подчеркнул, что одного только базового дохода будет недостаточно для удовлетворения более глубокой потребности в самоуважении, которую многие испытывают благодаря своей работе.
Поскольку ИИ продолжает развиваться, он считает, что в обозримом будущем относительно безопасными будут профессии, связанные с человеческим взаимодействием, творчеством и ловкостью рук. Например, такие профессии, как слесарь-сантехник, могут противостоять автоматизации дольше, чем многие интеллектуальные профессии, которым грозит скорое устаревание.
По мере стремительного развития ИИ в условиях конкурентного давления меры безопасности могут отойти на второй план, что создаст дополнительные риски. Поскольку ситуация на рынке труда в будущем кардинально изменится, Хинтон советует будущим студентам выбирать специальности, которые с меньшей вероятностью будут заменены искусственным интеллектом, и подчёркивает неопределённость будущих рынков труда по мере расширения возможностей ИИ.