ИИ-эксперт бьет тревогу: мир на пороге новых угроз

Бывший руководитель отдела безопасности искусственного интеллекта в компании Anthropic, Мринанк Шарма, покинул свой пост, чтобы публично заявить о потенциальных опасностях, исходящих от стремительного развития ИИ. В своем обращении к профессиональному сообществу, опубликованном в социальной сети, Шарма подчеркнул, что, помимо уже известных глобальных вызовов, таких как ядерное и биологическое оружие, климатические изменения и военные конфликты, человечество сталкивается с новыми, менее изученными рисками, связанными с искусственным интеллектом.

Его опасения перекликаются с заявлениями других специалистов. Недавно Зои Хитциг, ранее работавшая исследователем в OpenAI, выразила обеспокоенность в статье для The New York Times относительно использования данных пользователей чат-ботов для таргетированной рекламы. Хитциг указывает на то, что люди склонны делиться с ИИ-системами очень личной информацией, включая медицинские проблемы, вопросы отношений и философские размышления. Эти данные, по ее мнению, могут быть использованы для создания рекламных кампаний, способных оказывать манипулятивное воздействие на пользователей, причем методы такого воздействия пока остаются за гранью понимания как общества, так и научного сообщества.

На фоне этих предостережений стоит отметить, что журнал Time недавно назвал "людьми года" ключевых фигур в сфере искусственного интеллекта, включая Илона Маска, Марка Цукерберга и Сэма Альтмана, подчеркивая значимость этой отрасли для будущего.