Найти тему
104 подписчика

Пузырь дегенеративного ИИ начал лопаться


Вложены уже сотни млрд. $, а главный вопрос надежности/галлюцинаций так и не решен, что резко ограничивает применимость технологии

Он и не будет решен, т.к. это неотъемлемое свойство GenAI

“Пользователи потеряли веру, клиенты потеряли веру, венчурные инвесторы потеряли веру”
Возможно, его сподвиг недавний отчет Goldman Sachs “Gen AI: too much spend, too little benefit?”, где проводится та же мысль, более мягкими словами (см. также разбор отчета)

Несмотря на ряд успехов GenAI, например, в генеративной (био)химии, можно видеть, как тускнеют ожидания и как меняется тон комментариев

Все наигрались в генерацию картинок/текстов и хотят, наконец, использовать ИИ в реальных задачах
Но этот переход не дается — в силу самой природы GenAI
Ключевой изъян в том, что GenAI беззащитен перед т.н. “выбросами”

Если на входе паттерн, сильно отличный от паттернов в обучающей выборке, на ответ нельзя положиться
Такой ИИ не понимает и не мыслит, он создает новые данные по шаблону старых

Масштабирование не избавит от проблем (см. “AI scaling myths”)
Метрики, где ИИ превосходит людей в решении задач, не измеряют интеллект/мышление, а превосходство может быть хрупким
Синтетические данные — не панацея от дефицита данных для обучения, такой маневр быстро ведет к коллапсу, т.к. каждая следующая модель учится не на реальности, а на предсказании реальности предыдущей моделью, и даже малые ошибки итеративно усиливаются

Отрезвление ожиданий — хороший признак
1 минута