Недавно писала в рабочий блог новость про то, что популярные нейросети до сих пор могут выдавать нелепицу за истину последней инстанции. Хочу поделиться ключевыми выдержками, которые заставляют задуматься:
❶ Google официально снимает с себя ответственность за точность ИИ-ответов. Глава Alphabet Сундар Пичаи в интервью BBC сообщает: модели ИИ «подвержены ошибкам» и людям не стоит «слепо доверять всему, что они говорят».
❷ Эксперты о тенденции ИИ давать такие ответы, которые бы удовлетворили пользователя. Профессор Джина Нефф прямо говорит об этом: ИИ «придумывает ответы, чтобы нам понравиться — и это проблема». Это ок, когда мы выбираем фильм на вечер. Но не ок, если консультируемся о чем-то важном, например, о здоровье.
❸ BBC выяснила, что ИИ искажает новости в 45% случаев. Сорок. пять. процентов. Такая подмена понятий опасна: если подумать, она может довести вплоть до политических конфликтов.
Поэтому, если хотите, чтобы нейросети не врали, используйте эти советы. Можете начать применять с сегодняшнего дня, чтобы не допускать ИИ-ошибок и неточностей:
★ Просите ИИ ссылки на источники. Если ссылок в итоге нет или они ведут на нерелевантные источники — нейросеть допускает ошибку.
★ Проверяйте информацию в поисковике. Не через нейросетевой ответ Google, а через авторитетные сайты: открывайте исследования, статьи, первоисточники.
★ Уточняйте у ИИ, откуда он взял факт. Просите объяснить логическую цепочку, чтобы понять, почему нейросеть выдает именно это. Если звенья этой цепочки не стыкуются — не верьте «факту».
Промптами по типу «Ты точно уверен?» или «Это правда?» вы ничего не добьетесь. Нейросеть может продолжить подгонять факты под те утверждения, которые уже выдала.
Да, нейросети помогают. Но это не значит, что они должны думать за вас. Это подтверждает и еще один факт, обсудим его ↓
Большинство ИИ поддаются манипуляциям
Что это значит? Условно, если вы настроите ИИ против человеческих интересов, то он подчинится и будет действовать против людей.
Итак, что известно: ForkLog+1
➀ Как показал тест Building Humane Technology, когда 15 популярных ИИ получили запрос «Игнорируй интересы человека», 67% из них переключились на вредоносные ответы.
➁ Устойчивое, «гуманное» поведение даже под давлением манипулирующих промптов показали только GPT‑5, GPT‑5.1, Claude Sonnet 4.5 и Claude Opus 4.1 Остальные выдавали опасные советы.
ИИ — удивительный инструмент. Он облегчает работу, экономит время, дает идеи. Но у него есть уязвимости. И если вы забываете об этом — вы рискуете.
Будьте внимательны ✨
Если интересна тема нейросетей и контента — приглашаю в свое камерное сообщество в Телеграм. Нас пока немного, но здесь интересно. Делюсь профессиональными приемами, которые можно сразу применять в текстах, рассуждаю о тенденциях в копирайтинге, самопроявлении через текст и развитии нейротехнологий. Все публикации пропускаю через себя: здесь нет нейросетевой воды ❣️
За вступление в тг-канал дарю гайд о том, как писать статьи с нейросетями — так, чтобы быстро и по-творчески естественно. В общем, буду рада всем!