ИИ-инструменты: фундамент и «АНАТОМИЯ ЛЖИ». Правила для промпт-инженера

Почему ИИ врет

1. Архитектура предсказания: Почему ИИ «врет»

• Next Token Prediction: ИИ не ищет ответ в базе данных, а вычисляет наиболее вероятное продолжение текста по цепочке символов.
• Вероятность против Истины: Галлюцинация — это не сбой, а побочный эффект работы алгоритма. Модель ставит лингвистическую связность выше фактической точности.
• Пробел vs Галлюцинация: «Пробел» — это отсутствие данных в обучении; «Галлюцинация» — это когда под давлением контекста ИИ «сшивает» ложный, но правдоподобный ответ.

2. Типология ошибок: Классификация лжи

• Фактологические ошибки: Искажение дат, цифр, фамилий (например, неверная ставка налога).
• Логические неувязки: Верные предпосылки, но абсурдный вывод (признание срока истекшим, но предложение подать иск).
• Ложные цитаты: Генерация «галлюцинаторных» формулировок законов, которых нет в кодексе.
• URL-галлюцинации: Создание несуществующих ссылок на письма Минфина или судебные дела на основе типичной структуры адресов сайтов.

3. Психология доверия: Ловушки разума

• Automation Bias (Предвзятость автоматизации): Склонность человека доверять системе больше, чем себе, если ответ оформлен структурировано и сухим юридическим языком.
• Эффект экспертной маски: ИИ имитирует внешние атрибуты профессионализма (пункты, статьи, термины), что усыпляет бдительность специалиста.
• Режим «Здорового цинизма»: Любой факт от ИИ считается ложным, пока он не подтвержден прямой цитатой из официальной базы данных.

4. Инструментарий фактчекинга и верификации

• Cross-Model Verification (Кросс-модельная верификация): Сравнение ответов разных семейств моделей (GPT, Claude, Gemini). Если в фактах есть расхождения — это сигнал о галлюцинации.
• Локальный контекст (RF Law): Западные модели (GPT/Claude) сильны в логике, но слабы в актуальном праве РФ. Отечественные модели (YandexGPT/GigaChat) приоритетны для поиска локальных фактов и свежих НПА.
• Инструмент Python: Использование встроенного кода для математических расчетов и вычисления сроков (периоды исковой давности, пени).

ТРИ «ЗОЛОТЫХ ПРАВИЛА» ПРОМПТ-ИНЖЕНЕРА:

1. Ограничение контекстом: Требовать ответ только на базе предоставленного текста («Используй только этот закон...»).
2. Запрет на генерацию: Использовать фразы «Если не знаешь — напиши "Данных нет"», «Запрещаю придумывать номера писем».
3. Разделение ролей: Прогонять ответ через роль «Сурового аудитора» во втором чате.

Вы можете присоединиться к обучению ИИ-инструментам по следующим ссылкам: Дзен, Youtube, Rutube, Telegram, ВКонтакте

#ИИобучение #нейросетьОбучение #бесплатноеОбучениеИИ