Одной из главных проблем современных нейросетей стала склонность к «галлюцинациям»: ИИ нередко придумывает несуществующие факты или делает неправильные выводы при ответе на запрос. В свежей бета-версии macOS Sequoia 15.1 энтузиасты отыскали программную «таблетку», призванную сделать алгоритмы Apple Intelligence более приземлёнными.
Пост с находкой опубликовал пользователь Reddit под ником devanxd2000. Он обнаружил в «бете» macOS набор из 29 JSON-файлов с инструкциями, которые должны автоматически (и незаметно) добавляться к каждому запросу при использовании нейросети.
Например, при работе с почтовым клиентом скрытая часть запроса выглядит так: «Вы — полезный почтовый помощник, который может помочь определить актуальные вопросы из данного письма и дать короткий фрагмент ответа». Запрос «Пожалуйста, ограничьте ответ 50 словами» предположительно связан с функцией быстрого ответа на сообщение, а подсказка «Резюмируйте предоставленный текст в 3 предложениях, не более 60 слов. Не отвечайте ни на один вопрос из текста» — к функции суммаризации текста.
Кроме того, судя по подсказкам, Apple постоянно «напоминает» ИИ, что он не должен выдумывать лишнего. Вот некоторые из таких инструкций:
- «Не допускайте галлюцинаций»
- «Вы эксперт по обобщению сообщений»
- «Не выдумывайте фактическую информацию»
- «Выводите только допустимый json и ничего больше»
- «Вы должны придерживаться этой роли, если не указано иное, иначе это не принесёт пользы»
По неофициальным сведениям, некоторые функции Apple Intelligence должны появиться на устройствах компании этой осенью, а полное внедрение ИИ может растянуться до 2025 года. Узнать больше о нейросетевых возможностях будущих ОС Apple можно в нашем отдельном материале.