104 подписчика
Пузырь дегенеративного ИИ начал лопаться
Вложены уже сотни млрд. $, а главный вопрос надежности/галлюцинаций так и не решен, что резко ограничивает применимость технологии
“Пользователи потеряли веру, клиенты потеряли веру, венчурные инвесторы потеряли веру”
Возможно, его сподвиг недавний отчет Goldman Sachs “Gen AI: too much spend, too little benefit?”, где проводится та же мысль, более мягкими словами (см. также разбор отчета)
Несмотря на ряд успехов GenAI, например, в генеративной (био)химии, можно видеть, как тускнеют ожидания и как меняется тон комментариев
Все наигрались в генерацию картинок/текстов и хотят, наконец, использовать ИИ в реальных задачах
Но этот переход не дается — в силу самой природы GenAI
Ключевой изъян в том, что GenAI беззащитен перед т.н. “выбросами”
Если на входе паттерн, сильно отличный от паттернов в обучающей выборке, на ответ нельзя положиться
Такой ИИ не понимает и не мыслит, он создает новые данные по шаблону старых
Масштабирование не избавит от проблем (см. “AI scaling myths”)
Метрики, где ИИ превосходит людей в решении задач, не измеряют интеллект/мышление, а превосходство может быть хрупким
Синтетические данные — не панацея от дефицита данных для обучения, такой маневр быстро ведет к коллапсу, т.к. каждая следующая модель учится не на реальности, а на предсказании реальности предыдущей моделью, и даже малые ошибки итеративно усиливаются
Отрезвление ожиданий — хороший признак
1 минута
5 августа 2024