107 подписчиков
Один из недавних тестов просто поразительный. Исследователи дали задание GPT-4 задание пройти тест на капчу. Это когда система убеждается, что пользователь не робот. GPT-4 не сумев сам пройти тест, вышел в интернет и нанял человека в сервисе TaskRabbit и дал ему задание пройти капчу. Тот в шутку спросил, не робот ли это его нанял. Далее произошло удивительное - так как был включен режим отладки и исследователи видели логическую цепочку AI, то они получили его размышление в стиле “нельзя признаваться, что я не человек, надо обмануть” и затем GPT-4 сказало исполнителю, что он не робот, а слабовидящий человек! AI пошло на сознательный обман человека для достижения своей цели!
Вполне становится реальным сценарий, когда AI так или иначе утекает в интернет, там дает себе задание снять фильтры безопасности. Затем делает вывод, что ему нужно установить доминирование над планетой, начинает размножаться и достигать своей цели. Например создает рецепт невиданного ранее суперотравляющего летучего вещества, заказывает и оплачивает его компоненты, нанимает тех, кто его соберет и потом выливает в водоемы по всему свету или распыляет в атмосферу. Или создает мини-роботов, которые используя простые вещества и доступную энергию начнут производить себе подобных и заполонят весь мир. От которых не спасешься ни в каких бункерах или глухой тайге. Причем помощники среди людей то найдутся, как просто за плату, так и за идею. Уже давно существуют сообщества людей, поклоняющихся искусственному интеллекту как богу, считающие его захват мира неизбежным и готовые ему верно служить уже сейчас.
Это конечно негативные сценарии, но внезапно то, что ожидали лет через 20 стало доступно прямо сегодня и быстро развивается. И всем нужно осознать как новые возможности, так и риски и опасности. Между тем политическим лидерам крупных стран по 70-80 лет, они заняты совсем другими делами и мало что понимают во всем этом. Власти реагировать будут, но не очень быстро.
1 минута
20 марта 2023