Тема ИИ сейчас на большом хайпе, и на самом деле есть много примеров, где это всё даёт впечатляющий результат. Мы сами внедряем и помогаем внедрять эти технологии. Однако всё ли так радужно и безоблачно? Как и у любой технологии, здесь есть немало проблем. Давайте я поделюсь своим и не только мнением.
Проблема "китайской комнаты"
Первое и важное: наши хайповые LLM (любые) — это "китайские комнаты", и они сильно подвержены влиянию качества данных, на которых их обучают. Сейчас появляется всё больше способов обмануть языковые модели при обучении и заставить принять любые непроверенные данные как факт.
Большой проблемой технологии являются галлюцинации (придумывание фактов). Это приводит к тому, что нужно проверять информацию, которую вы получаете от языковой модели. Глобальных проблем в этом нет, кроме того, что люди начинают повально доверять ответам и никогда их не проверяют — а вот это уже может нести серьёзные риски.
Риски обновлений моделей
Есть большие проблемы с новыми версиями моделей. Каждая языковая модель проверяется на довольно абстрактных тестах, показывающих, что она стала лучше. Но это вообще ничего не говорит о том, что она стала лучше отвечать в ваших конкретных задачах.
Возьмем крайний случай обновления Grock, когда новая модель вообще перестала выдавать адекватные, с точки зрения ожиданий пользователей, ответы. Это тоже несет риски для людей и бизнеса. Бизнес всегда должен сравнивать качество со старой версией и переходить на обновление только после тщательной проверки.
ИИ в разработке: не всё так гладко
Если говорить о моей работе как CTO, то в целом, конечно, сейчас много инструментов по написанию кода и т.д. Но, к сожалению, для опытных разработчиков они пока мало применимы, а внедрение для новичков неоднозначно.
Кода пишется больше, в итоге на опытных ребят падает больше рутинной работы по проверке и интеграции в проекты. Собственно, в самом процессе разработки написание кода не часто занимает основное время, и с появлением таких инструментов прямо сейчас лучше не стало.
Взгляд в будущее: инструменты, а не панацея
Я написал это не как противник инноваций, а с точки зрения понимания проблем и применимости. Сейчас вокруг языковых моделей и прочих моделей выстраивается инструментарий, который позволит устранить или минимизировать проблемы.
Я считаю LLM не конечным продуктом — продукты нам ещё предстоит сделать. Но даже сейчас определённую выгоду получить можно, главное — понимать, что вы делаете.
Нужна помощь с внедрением ИИ в вашем бизнесе?
Не допускайте описанных ошибок и используйте ИИ с максимальной эффективностью. Наша команда экспертов поможет вам грамотно внедрить искусственный интеллект в ваши бизнес-процессы. Мы знаем все подводные камни и поможем избежать типичных ошибок при внедрении.
Запишитесь на консультацию через телеграм-бота @OrosHelpBot и узнайте, как ИИ может трансформировать именно ваш бизнес уже сегодня!
Максим Шаламов
————
Наши курсы и книги: oros-it.ru
Оставить заявку на консультацию: бот или почта info@oros-it.ru
Подробные инструкции для автоматизации: boosty
#ИскусственныйИнтеллект #ИИвБизнесе #РискиИИ #ЦифроваяТрансформация #ИТКонсалтинг #Автоматизация #LLM #ИИРазработка #ТехнологииБудущего