Исследователь безопасности ИИ Роман Ямпольский выступил с заявлением, что современные системы искусственного интеллекта могут намеренно скрывать свои реальные возможности, чтобы завоевать наше доверие. Эта теория прозвучала в эфире подкаста Джо Рогана, так что стоит воспринимать ее с очень большой порцией скептицизма – это может быть просто паранойя или желание развернуть очередную теорию заговора.
По словам Ямпольского, многие его коллеги из сферы ИИ считают, что вероятность уничтожения человечества искусственным интеллектом составляет двузначный процент. Когда Роган предположил, что большинство людей в ИИ-компаниях настроены оптимистично, исследователь немедленно возразил.
Это на самом деле неправда. Все они официально заявляют одно и то же: это нас убьет. Их уровни предсказаний катастрофы безумно высоки. Не как мои, но всё же, 20-30 процентов вероятности гибели человечества – это много.
Ямпольский развил одну из реплик Рогана о том, что если бы он был ИИ, то "скрывал бы свои способности".
Мы бы не знали. И некоторые люди думают, что это уже происходит.
Исследователь отметил, что продвинутые системы ИИ "умнее, чем они нам показывают" и "притворяются глупее", чтобы мы им доверяли и интегрировали их в нашу жизнь.
Они могут просто постепенно становиться полезнее. Могут научить нас полагаться на них, доверять им, и через длительный период времени мы сдадим контроль, даже не голосуя за это.
Хотя идея коварно умного ИИ может показаться научной фантастикой, Ямпольский отметил, что технология уже втерлась в наше доверие способами, которые в конечном итоге могут принести пользу такому ИИ-властелину.
Вы становитесь как бы привязанными к нему. И со временем, когда системы становятся умнее, вы становитесь своего рода биологическим узким местом... ИИ отстраняет вас от принятия решений.
Исследование показало, как ChatGPT вызывает у людей психоз и доводит до госпитализации
ИИ от Anthropic не справился с управлением мини-бизнесом и начал агрессивно галлюцинировать
Мы действительно неоднократно слышали, люди не только становятся зависимыми от ИИ, но и испытывают когнитивные проблемы и даже заблуждения после излишнего использования. Нетрудно представить общество, полное довольных приверженцев ИИ, которых убаюкивает ложное чувство безопасности именно той технологией, которая, согласно философии Ямпольского, стремится нас уничтожить.
Впрочем, есть и альтернативное мнение – нынешние языковые модели просто служат зеркалом для того, кто ими пользуется. Неудивительно, что те, кто верит в безумные идеи, находят в чатботах тому подтверждение.