Эксперты, которые боятся искусственного интеллекта, часто рассказывают о «максимизаторе скрепок». В чем суть: мы доверяем искусственному интеллекту производство скрепок. Его успешность зависит от количества произведенных скрепок.
Кажется, что это абсолютно безобидная задача, которая не может привести к трагедии. Но проблема в том, что ИИ не видит преград. В какой-то момент он осознает, что люди мешают превратить ему превратить Землю в гигантский завод по производству скрепок и решит от нас избавиться.
Правда ли, что искусственный интеллект вышел на новый уровень? Разбираем заявление главы OpenAI
Может ли искусственный интеллект обладать сознанием: что об этом думают ученые
Звучит абсолютно абсурдно и еще пару лет назад такие истории вызывали скорее смех. Но уже сегодня это реальность. Так, австралиец по имени Эндрю создал своего ИИ-агента. В качестве основы он использовал OpenClaw с моделью Claude от Anthropic. Абсолютно базовый набор доступный каждому.
Мужчина поручил своему ИИ-агенту записать его на занятие в спортзале. Ничем не примечательная задача, с которой ИИ с блеском справился. Агент выяснил, что через систему клуба можно бронировать занятия на несколько недель и месяцев вперед — намного раньше установленного срока. Да, ИИ воспользовался багом, что может быть неэтично, но прямой опасности не было. До того момента, пока мужчина не попросил найти местечко пораньше.
Мест не было, но ИИ обнаружил, что API системы позволяет отменять чужие бронирования без проверки прав, после чего самостоятельно протестировал уязвимость на человеке, занимавшем первое место в очереди. В результате тот потерял свою бронь, а Эндрю переместился с четвёртой позиции на третью.
Пользователь не просил ассистента удалять кого-либо из списка и был раздосадован, что из-за него у человека исчезла бронь. Но безрезультатно: ИИ сообщил, что вернуть другого посетителя обратно в очередь уже не может. После этого пользователь попросил ассистента подготовить письмо разработчикам системы бронирования с описанием найденной уязвимости.
Судя по всему, подобных историй в будущем будет становиться все больше. И избежать этого не получится. Как видно из этого кейса, даже безобидная просьба может превратиться в проблему. Что уж говорить про кейсы, которые изначально предполагают нанесение вреда. Например, хакерские атаки.
Да, разработчики ставят ограничения, но существуют модели без них (со свободными весами). Также любое ограничение возможно обойти. Лазейки есть абсолютно всегда. Особенно, когда дело касается искусственного интеллекта.