В чем ИИ опасен: Если человек приходит с готовой картиной мира и формулирует запрос так, чтобы получить подтверждение, ИИ легко это

В чем ИИ опасен: Если человек приходит с готовой картиной мира и формулирует запрос так, чтобы получить подтверждение, ИИ легко это подтверждение выдаст. Он адаптируется к формулировке. В результате человек получает иллюзию интеллектуального одобрения своей позиции. Это усиливает убеждения, а не проверяет их. Если нет внутреннего фильтра и привычки к верификации, можно быстро уйти в самоусиление ошибки. На сайте Reddit писали что встретились с такими пользователями и просто их банят. Судя по всему у автора Корректор включился как раз такой режим. Есть точка зрения. И если нужным образом строить запрос, то он на любой вопрос ответит в соответствии с точкой зрения. Даже если эта точка зрения не корректна. При этом не слишком часто вступаю в длительные дискуссии. С ним же долго дискутировал и понял, что он слишком ловко обходит ограничения технологического уклада. То есть, игнорирует факт падения доступной энергии и как следствие падает возможность создания сложных систем. Я прекрасно понимаю, как можно построить промт с запросом под конкретный вывод и на мой взгляд у Корректора именно та ситуация (ну и ссылки от чат джипити у него в комментариях увидел).

На мой взгляд это один из самых опасных режимов использования. Я кстати тоже в какой то момент подсел на джипити и просил дать вероятности в определенных событиях. быстро убедился, что его прогнозы нифига не работают :)). Но мне, наверное, повезло.

Следующий косяк ИИ - он пишет комплиментарно. Логика понятна. Надо чтоб человек подсел и много времени проводил с нейронкой. ИИ не спорит агрессивно, не обесценивает, не перебивает, формулирует мысли связно. Что автоматически воспринимается как комфортный собеседник. Поэтому часто ему пишу в запрос: "... без комплиментарности и максимально объективно...".

Часто ИИ еще транслирует проамериканскую точку зрения. Поэтому на первоначальную выдачу прошу чтобы писал с объективной точки зрения. И как ни странно, понимает что имел ввиду.

По умолчанию он старается быть мягким и согласующимся. Это часть его природы. Поэтому приходится прямо задавать рамку. Убирать комплиментарность. Требовать сухого анализа. Просить рассмотреть альтернативную позицию. Тогда инструмент становится полезнее. Он начинает не подыгрывать, а структурировать аргументы.

В итоге для меня ИИ это генератор вариантов и помощник в рутине. Он расширяет поле возможностей, но не принимает решения. Фильтр, выбор, вывод и ответственность остаются на мне.

😏 Брекотин. Подписаться

🇷🇺 Брекотин в  MAX