В последнее время в IT-сообществе все больше разговоров о создании сверхчеловеческого искусственного интеллекта. Несмотря на то, что ИИ способен обыграть лучших гроссмейстеров в шахматах, в настолке «Го», его превосходство является достаточно хрупким. В связи с этим исследователи решили выяснить, смогут ли будущие ИИ-системы избавиться от проблем с безопасностью и надежностью. Получится ли у них претендовать на сверхчеловеческую эффективность.
Документ оставляет значительный вопросительный знак о том, как достичь амбициозной цели создания надежных агентов искусственного интеллекта в реальном мире, которым люди могут доверять.Хуан Чжан
Стивен Каспер, специалист по информатике из Массачусетского технологического института в Кембридже, добавляет, что на сегодняшний день создать сверхэффективный искусственный интеллект очень сложно, практически невозможно. Согласно опубликованному анализу, современные ИИ-системы не способны преодолеть состязательные атаки. Это когда с помощью нехитрых методов и уловок (подсказок) можно вынудить ИИ выдать вредоносную информацию, которую нейросеть должна скрывать.
Эксперимент с KataGo
В 2022 году исследователи создали ИИ-ботов, способных обыгрывать KataGo — лучшую систему искусственного интеллекта для игры в «Го». Обычно KataGo справляется с лучшими Го-игроками, но боты смогли найти эксплойты и обыграть ее. Интересно, но против простых людей боты часто были бессильны. Указывает ли это на фундаментальную слабость KataGo и прочих разработок искусственного интеллекта, обладающих на первый взгляд сверхчеловеческими способностями? Разобраться с этим решил исполнительный директор FAR AI Адам Глив.
Он решил внедрить в KataGo три способа защиты от ИИ-ботов. В первом случае нейросеть обучили атакам ботов, но это результата не дало. Вторая стратегия подразумевала 9 раундов тренировки KataGo против ИИ-ботов — и на этот раз последним удавалось обыгрывать нейросеть с помощью уязвимостей в 81% случаев. Третий вариант — создание полностью новой ИИ-системы для игры в «Го». Итог — ее боты также превзошли в 78% случаев, обнаружив новую уязвимость.
Эксперимент дал понять, что взломать любой искусственный интеллект возможно, причем это не так уж и сложно. Как отметил Глив, уязвимости в ИИ, включая многих чат-ботов и знаменитый ChatGPT, практически невозможно устранить в ближайшей перспективе. А значит, ни о каких сверхчеловеческих способностях ИИ пока не может быть и речи.
Тем временем выяснилось, что видеоигры улучшают работу мозга и психическое здоровье