Поговорим про ИИ
Добрый день!
Уверен, все, кто читает этот пост, так или иначе слышали про ИИ. Про него нам вещают со всех сторон: как здорово, эффективно, удобно и т.д.
Но мало кто говорит о проблемах, которые вскрываются, если углубиться в тему. Я это сделал — и сейчас объясню простыми словами.
Нейронные сети — ТУПЕЮТ.
Да, это не опечатка. Речь про сами нейросети.
Текущие модели — генеративные, то есть они отвечают, рисуют, пишут на основе того, что уже изучили.
Когда, например, Microsoft обучает свой ИИ — ей «скармливают» весь контент, который создало человечество за последние 10 000 лет: книги, статьи, видео и прочее.
Именно на этом ИИ и учится — а потом генерирует новые ответы.
Но! Те, кто уже пользовался ИИ, знают — ошибки случаются часто.
По сложным запросам нейросети ошибаются примерно в 25–35% случаев.
Иногда даже придумывают несуществующие источники — это называется галлюцинацией.
И вот в 2023–2024 годах контент, на котором можно было обучать ИИ, закончился.
«Скормили» всё.
А учить дальше нужно.
Что делать?
Компании нашли решение — синтетические данные.
Это когда одни нейросети создают новые данные на основе старых (написанных людьми), а потом другие нейросети обучаются на этих искусственно созданных данных.
Проблема в том, что если нейросети и так ошибались в 20–30% случаев, то при обучении на синтетике вероятность ошибки растёт до 47% (по данным Bloomberg).
Вывод:
В ближайшей перспективе человека в сложных задачах заменить пока нельзя.
В простых — да, нейронки отлично ускоряют процессы.
Поэтому используйте ИИ в комбинации с критическим мышлением.
Не полагайтесь на него целиком и обязательно перепроверяйте информацию.
Но учитывая, как быстро развивается ИИ, возможно, уже через пару лет проблема синтетических данных исчезнет.
А пока — думайте головой и используйте технологии с умом
1 минута
19 октября