26 минут до ИИ-апокалипсиса — именно столько показывают Часы безопасности ИИ, которые разработал профессор Майкл Уэйд из IMD Business School.
Часы безопасности ИИ работают по аналогии с Часами Судного дня — устройство оценивает, насколько близко человечество подошло к потенциальным рискам, связанным с ИИ.
Часы постоянно отслеживают более 1000 веб-сайтов и 3470 новостных лент, чтобы быть в курсе технологических и нормативных изменений.
Три ключевых фактора
- Сложность технологий
- Автономность
- Взаимодействие с физическим миром
29 минут до ИИ-апокалипсиса:
- ИИ научился распознавать изображения и речь лучше человека
- ИИ научился играть в игры, в том числе в Го
- ИИ успешно сдал экзамены в Уортонскую бизнес-школу и прошел собеседование по программированию в Amazon
- Автономные транспортные средства научились принимать решения о навигации и безопасности в режиме реального времени
- Появились автономные дроны
- Высокие риски дезинформации
Причины успокоиться:
- Большинство систем ИИ сегодня все еще зависят от человеческого руководства. Они разработаны для выполнения конкретных задач по конкретным инструкциям.
- ИИ еще не полностью интегрирован в критические системы, которые поддерживают работу нашего мира — энергетические сети, финансовые рынки или военное оружие
«Представьте себе ИИ, который решает отключить электроснабжение города, манипулировать финансовыми рынками или развернуть военное оружие — и все это без какого-либо или ограниченного человеческого контроля. Это будущее, которое мы не можем позволить себе воплотить в реальность», — Майкл Уэйд.
Предупреждение пионера искусственного интеллекта Джеффри Хинтона о гонке между Google и Microsoft:
«Я не думаю, что им следует масштабировать это еще больше, пока они не поймут, могут ли они это контролировать».
В 2023 году он покинул пост вице-президента Google из-за этических проблем с технологией ИИ. Он пошел на этот шаг, чтобы предупредить об опасности ИИ.