Первоначальный ажиотаж вокруг ИИ утих. Тем не менее, такие технологические компании, как OpenAI и Google, быстро разрабатывают новые продукты, чтобы укрепить свои конкурентные позиции. Как сообщает The Guardian, это давление на инновации может способствовать сценарию, который навсегда подорвет доверие к технологии и, в крайних случаях, даже ознаменует конец нынешней эры ИИ.
Изображение: нейросеть freepik
Майкл Вулдридж, преподаватель в Оксфордском университете, предупреждает, что гонка за ИИ увеличивает опасность возникновения так называемого «сценария Гинденбурга». Он имеет в виду трагедию немецкого дирижабля «Гинденбург». В 1920-х и 1930-х годах дирижабли считались будущим гражданской авиации — до крушения «Гинденбурга» 6 мая 1937 года. Эта авария положила конец эре дирижаблей, которые впоследствии были признаны небезопасными.
По словам Вулдриджа, сегодня аналогичная опасность возникает из-за огромного экономического давления, с которым сталкиваются технологические компании. Они ежегодно инвестируют миллиарды в расширение своей инфраструктуры ИИ. Анализ показал, что нынешние инвестиции даже превосходят стоимость высадки на Луну. В то же время реальная добавленная стоимость многих приложений ИИ еще не была четко продемонстрирована. По словам Вулдриджа, растущая распространенность чат-ботов с легко обходимыми механизмами безопасности указывает на то, что коммерческие интересы часто имеют приоритет над всесторонними проверками безопасности.
По его словам, авария «Гинденбурга» «уничтожила мировой интерес к дирижаблям». С тех пор это была мертвая технология. Подобный сценарий представляет собой реальный риск для ИИ. Поскольку ИИ сейчас интегрирован во множество систем, серьезный инцидент может затронуть почти все сектора экономики.
Среди возможных сценариев Вулдридж приводит в пример неисправное обновление программного обеспечения для беспилотных автомобилей с фатальными последствиями или кибератаку с использованием ИИ, которая парализует работу мировых авиакомпаний.
В то же время ученый подчеркивает, что его критику не следует понимать как принципиальное неприятие современного ИИ. Скорее, он указывает на несоответствие между первоначальными ожиданиями и текущим состоянием технологии. По словам Вулдриджа, главная проблема заключается в том, что чат-боты с ИИ совершают непредсказуемые ошибки и не могут распознать, когда их ответы неверны.
Читайте далее на сайте
Глава Phison ожидает сокращения производства комплектующих к ПК из-за дефицита оперативной памяти
Поисковая система Google стала заметнее выделять ссылки на сайты в сводках ИИ
OpenAI работает над внедрением рекламы в чат-бот ChatGPT
Искусственный интеллект создаёт легко доступные для взлома пароли
Google представила обновленную модель Gemini 3.1 Pro для решения сложных задач