ИИ стал неотъемлемой частью нашей жизни, от чат-ботов до помощи в медицине. Однако, как оказалось, ИИ не всегда говорит правду. Вы слышали, что такие системы, как ChatGPT, иногда создают абсолютно вымышленные данные? Это называется галлюцинацией, и Microsoft решила взять на себя смелость исправить эту проблему с помощью новой функции под названием Correction.
Microsoft представила новый инструмент, который призван улучшить качество ответов ИИ, проверяя их на точность. Сервис сначала отмечает потенциально ошибочные данные, а затем сверяет их с "источниками правды". Это могут быть как транскрипты встреч, так и другие достоверные данные.
Интересно, что Correction можно использовать с любыми моделями ИИ, будь то популярный GPT-4 от OpenAI или Llama от Meta. Эта технология обещает снизить количество ошибок, особенно в таких сферах, как медицина, где точность критически важна.
Теперь ИИ не сможет утверждать, что ваш кашель — это результат встречи с пришельцами.
А что думают эксперты?
Не все так уверены, что Correction действительно решит проблему. Многие специалисты по ИИ считают, что "галлюцинации" являются неотъемлемой частью того, как работают такие системы. Представьте, что пытаетесь убрать водород из воды — без него, увы, не получится. Так и с ИИ.
Текстовые модели на самом деле ничего "не знают". Они просто предсказывают, какие слова могли бы быть правильными, основываясь на миллионах примеров, на которых они обучались. Поэтому, когда вы задаёте вопрос, ИИ не даёт ответа, а лишь делает прогноз. И, как любой прогноз, он может ошибаться.
Сначала мы полагались на прогнозы погоды, теперь — на прогнозы ИИ. Оба могут быть слегка фантастическими.
Сложности в решении проблемы
Корректировка ИИ — это не только техническая задача. Есть риски, что такая "исправленная" информация может создать у пользователей ложное чувство безопасности. Ожидание, что ИИ всегда прав, может быть опасным, особенно когда речь идёт о серьёзных решениях.
Эксперты также указывают на бизнес-аспект. Correction бесплатен, но только до определённого объёма использования. После этого Microsoft начнёт взимать плату. Так что решение проблемы может иметь и свою цену — как в буквальном, так и в переносном смысле.
Развитие ИИ продолжает вызывать споры. С одной стороны, компании как Microsoft и Google вкладывают миллиарды в эту сферу, стремясь сделать ИИ доступным и полезным. Но проблема с точностью данных остаётся на передовой. Если сейчас ошибки составляют 10%, а с Correction эта цифра упадёт до 1%, то главные риски могут как раз скрываться в этом одном проценте.
К тому же, внедрение ИИ во многие сферы жизни опережает его развитие. Как один эксперт заметил, мы уже "летим на ракете", строя её "шасси и парашюты" на ходу.
Главное, чтобы приземление было мягким.
Читайте также: Мечта для вечеринки: JBL выпустила световые мечи и прожекторы для ваших тусовок!
А что думаете вы? Оставляйте своё мнение в комментариях.
Если статья Вам была интересна, не забудьте поставить лайк и подписаться на канал! Для тех, кто хочет быть в курсе свежих технологических новостей, полезных обзоров и экспертных советов по работе с техникой и искусственным интеллектом, подписывайтесь на наш Telegram-канал – там всегда много интересного!