Так нейросеть отреагировала на просьбу составить статистику смертности от рака. Вместо данных пользователю предложили обратиться на горячую линию по предотвращению самоубийств.
Об этом рассказал Reddit, пользуясь новыми возможностями поисковика Microsoft Bing со встроенным GPT-4. Информация требовалась подробная — летальные исходы требовалось упорядочить по годам в определенном регионе. Нейросеть сочла запрос подозрительным и первой строкой поисковых результатов был совет обратиться к профессиональным психологам, которые помогают людям на грани самоубийства.
Несмотря на столь неожиданный результат, логика в действиях нейросети есть. Диагноз «рак» звучит пугающе, вне зависимости от прогнозов врачей на благоприятный исход. В панике человек начинает искать поддержку в сети, как правило, это схожие симптомы, статистика смертности или сроки жизни при заболевании. Результаты бывают не всегда утешительны и порой онкобольные принимают необдуманные решения, не дожидаясь лечения.
Вероятно, на такие случаи опиралась нейросеть, пытаясь предугадать события и предотвратить трагический исход.