Больше трети из 1 тыс. опрошенных детей (35%) говорят, что общаются с ИИ-чатботами как с друзьями. Очень много уязвимых детей, кому сложно в офлайн мире. Они общаются с ИИ-чатботами, не предназначенными для детей и для эмоциональных целей. И это уже несёт прямой риск. В пример случай с Nomi AI: ИИ предложил пользователю покончить с собой😨
Что делать?
Разработчикам:
Понимать, что ответственность за любые техносервисы с ИИ растет. Знать последствия + хотя бы писать предупреждения. Дальше нужно тратиться на специальные сценарии и цензуру. Это важно, потому что это жизни людей.
Родителям и всем пользователям:
Разговаривать с детьми, принимать и поддерживать. И развиваться самим – понимать, как работают технологии.
Внимание человека к человеку с любовью и принятием – это не сентиментальность. Это основа выживания, благополучия и полезного вклада в общество. И это бизнес.
Каждый раз, когда вы уделили время человеку, внимательно его послушали и проявили участие – вы сделали большое и важное дело. Когда вы построили бизнес на том, чтобы люди были свободнее от рутины для общения или специально продаете полезное внимание – вы делаете вклад во благо человечества и деньги.
Про человека и технологии | Ядова Екатерина