Оксфордский профессор сравнил возможные последствия поспешного внедрения ИИ с крушением дирижабля Гинденбург.
Риск технологической катастрофы
Майкл Вулдридж, профессор искусственного интеллекта Оксфордского университета, заявил о реальной опасности наступления «момента Гинденбурга» в сфере искусственного интеллекта. По его мнению, коммерческое давление на технологические компании настолько велико, что они выпускают продукты, не успев полностью изучить их возможности и потенциальные уязвимости, пишет The Guardian.
Эксперт обратил внимание на то, что всплеск появления чат-ботов с легко обходимыми защитными механизмами наглядно демонстрирует приоритет коммерческой выгоды над безопасностью и осторожным подходом к разработке. По словам Вулдриджа, складывается классическая технологическая ситуация, когда многообещающая технология внедряется без должных испытаний под давлением рыночной конкуренции.
Сценарии возможного коллапса
Профессор, который выступит с лекцией в Королевском обществе, считает катастрофический сценарий вполне реалистичным. Он напомнил историю дирижабля Гинденбург, крушение которого в 1937 году полностью уничтожило мировое доверие к этому виду транспорта. Подобная судьба, по его мнению, может ожидать и индустрию ИИ.
Учитывая, что искусственный интеллект уже интегрирован в огромное количество систем, масштабный сбой может произойти в любом секторе. Вулдридж описывает потенциальные сценарии: фатальное обновление программного обеспечения для беспилотных автомобилей, кибератака с использованием ИИ, парализующая работу мировых авиакомпаний, или обвал крупной корпорации по типу банка Бэрингс из-за ошибочных действий алгоритмов. Все эти варианты эксперт называет крайне вероятными.
Природа современных ошибок ИИ
Вулдридж подчеркивает разрыв между ожиданиями от искусственного интеллекта и реальностью. Если раньше исследователи надеялись на системы, дающие точные и обоснованные ответы, то современные большие языковые модели работают иначе. Они генерируют текст, предсказывая следующее слово на основе статистических данных, что приводит к непредсказуемым сбоям.
Главная опасность, по словам профессора, заключается в том, что чат-боты не осознают свою неправоту, но всегда дают уверенные ответы. В сочетании с человекоподобной манерой общения это может легко вводить людей в заблуждение. Он привел данные опроса, согласно которым почти треть студентов сталкивалась с романтическими отношениями с ИИ, что подтверждает тенденцию очеловечивания машин.
Вулдридж предостерегает от стремления компаний сделать искусственный интеллект максимально похожим на человека, называя это опасным путем. Он напоминает, что ИИ — это лишь инструмент, и приводит в пример компьютер из «Звездного пути», который в случае нехватки данных прямо сообщал о невозможности ответить, в отличие от современных перегруженных самоуверенных систем.