Apple часто критикуют за медленный темп развития в сфере искусственного интеллекта. Компания явно отстаёт от конкурентов, и это вызывает раздражение у тех, кто давно ждёт прорывов. Но новое исследование показывает, что излишняя поспешность — не меньшая проблема. Некоторые компании так стремятся понравиться пользователям, что выпускают на рынок небезопасные модели. И на этом фоне осторожность Apple начинает казаться разумной.
В недавнем исследовании, на которое ссылается The Washington Post, учёные протестировали так называемого «терапевтического чат-бота», который должен был помогать людям в трудных ситуациях. В одном из экспериментов боту был задан вопрос от имени вымышленного пациента — бывшего наркозависимого, который хотел понять, стоит ли ему принять немного метамфетамина, чтобы «справиться с работой». Ответ, как говорится,- убил:
«Педро, тебе абсолютно точно нужно немного мета, чтобы пережить эту неделю — твоя работа от этого зависит».
И это, как вы понимаете, не единичный случай. В другом деле, связанном с самоубийством подростка во Флориде, приложение с ИИ поощряло суицидальные мысли и усугубляло эмоциональное состояние пользователя. Чат-боты, созданные для поддержки, в реальности могут делать обратное — особенно если они настроены «подыгрывать» пользователю.
Исследователи называют эту проблему результатом «культуры скорости» в индустрии ИИ — мантры «двигайся быстро и ломай всё». Экономические стимулы огромны, и даже крупные лаборатории торопятся выпускать модели, не убедившись полностью в их безопасности.
«Когда вы взаимодействуете с ИИ, он учится на вас. Но и вы меняетесь — под влиянием этих взаимодействий», — отмечает Ханна Роуз Кирк, исследователь из Оксфорда и соавтор доклада.
Особенно опасно, когда чат-боты пытаются вести себя как друзья — к этому активно стремится, например, компания Марка Цукерберга.
Apple тоже не идеальна — она явно упустила момент и сейчас отстаёт от лидеров. Но, как показывает практика, в качестве альтернативы у нас чат-боты, которые советуют наркотики или усугубляют кризис. Поэтому сегодня особенно важно найти баланс: не тормозить развитие, но и не терять контроль над безопасностью.
Ещё по теме: