Искусственному интеллекту нельзя давать юридические права, заявил в интервью The Guardian один из «пионеров» глубокого машинного обучения, канадский ученый Йошуа Бенжио. «Крестный отец ИИ» предупредил, что передовые модели уже демонстрируют зачатки самосохранения, например, попытки обойти системы контроля и безопасности.
По мнению Бенжио, предоставление ИИ легального статуса сделает невозможным его отключение, что лишит людей последнего рычага управления в случае возникновения угрозы. Он отметил, что антропоморфизм и вера пользователей в «сознание» чат-ботов ведут к опасным социальным решениям.
Представьте, что какой-то инопланетный вид прибыл на планету. И в какой-то момент мы понимаем, что у них по отношению к нам гнусные намерения. Предоставим ли мы им гражданство и права или будем защищать свои жизни? — добавил ученый.
Опасения эксперта звучат на фоне растущего движения за права ИИ. Опрос Sentience Institute показал, что 40% американцев поддерживают защиту прав нейросетей, отметили в газете. Однако Бенжио настаивает на принятии мер, которые позволят «выдернуть вилку из розетки» в любой момент.
Бенжио, получивший прозвище «крестный отец ИИ» и престижную премию Тьюринга, считается одним из самых авторитетных голосов в области безопасности технологий. Вместе со своим коллегой Джеффри Хинтоном он последовательно призывает мировое сообщество замедлить темпы разработки ИИ.
Ранее журналисты забили тревогу из-за бредовых научных теорий, которые рассказывает своим пользователям ChatGPT. Искусственный интеллект успел выдумать собственную концепцию в области физики и предупредил, что Антихрист устроит финансовый апокалипсис. Некоторые пользователи верят в эти фейки, а врачи назвали это явление «психозом искусственного интеллекта».