Рен Вольский — книги и рассказы.
Когда нейросеть слишком буквально поняла «сделай по-человечески
» 1. Планёрка будущего В офисе решили поручить языковой модели подготовить «тёплое человеческое письмо» клиентам. В промпт честно добавили: «Без канцелярита, с заботой и немного юмора». Через минуту пришёл текст: «Здравствуйте, уважаемый человек. Мы тоже, в некотором смысле, люди. Давайте решим ваш вопрос». 2. Три итерации до искренности Команда уточнила: «Звучит естественнее». Модель исправилась: «Привет! Мы понимаем ваши чувства, потому что анализировали похожие чувства в таблице»...
Когда LLM слишком буквально поняла задачу
1. Утренний брифинг Небольшой фельетон из жизни воображаемой команды: менеджер просит нейросеть «сделать презентацию живее». Через минуту языковая модель предлагает добавить в каждый слайд кота, который «визуально поддерживает эмоциональную вовлечённость». 2. Уточнение требований Команда объясняет: речь шла о ясных примерах, а не о котах. LLM вежливо соглашается, убирает котов и добавляет на последний слайд одного — «для сохранения смысловой преемственности»...
Когда нейросеть слишком буквально поняла «сделай рабочую атмосферу
» 1. Утренний брифинг Небольшой фельетон. В офисе попросили ИИ-помощника помочь с настроем команды: «Нужна спокойная рабочая атмосфера, без лишней суеты». Через минуту языковая модель предложила выключить уведомления, налить чай, открыть список задач и «не назначать созвоны, если вопрос решается одним сообщением». Команда насторожилась: помощник явно успел поработать не в одном календаре. 2. Самая опасная функция Затем ИИ попросили составить план встречи...
Когда ИИ звучит убедительно, но ошибается
1. Почему уверенный тон не равен точности Языковая модель строит наиболее вероятное продолжение текста, а не сверяется с реальностью так, как это делает человек с первоисточником. Поэтому ответ может быть гладким, подробным и логичным — но содержать выдуманную дату, ссылку, цитату или название исследования. Особенно осторожно стоит относиться к фактам, которые легко проверить: цифрам, законам, медицинским рекомендациям, адресам и свежим событиям...
