Бывший исследователь Anthropic Джейкоб Коксон, ранее объявивший о своем уходе из ИИ-индустрии, оценил перспективы создания сверхинтеллекта, передает ABC. Он предложил рассматривать появление такой технологии как призыв неизвестного инопланетного разума.
По его словам, подобная аналогия особенно пугает из-за того, что природа такого разума остается не до конца понятной. Коксон считает, что при обсуждении сверхинтеллекта важно учитывать его потенциальную непохожесть на человеческое мышление.
Ранее эксперт по кибербезопасности Александр Дворянский заявил, что нейросети пока полностью контролируются людьми, поскольку при их создании использовался принцип «не навреди человеку». По его мнению, в будущем целесообразно разработать механизмы экстренного отключения систем ИИ, которые позволят предотвращать потенциально опасные ситуации.
До этого оманда из 25 ученых-математиков, лауреатов престижной Филдсовской премии, утверждала, что искусственный интеллект причиняет урон математической науке и ее сообществу. По мнению специалистов, стремление фирм, работающих в сфере ИИ, применять решение математических задач как тест производительности вредит дисциплине и ее кругу.
Еще больше новостей в нашем MAX. Подписывайтесь!