ИИ начали сравнивать с ядерным оружием. В 1945 году, прежде чем нажать кнопку, ученые оценили, что вероятность того, что атомная бомба подожжет атмосферу и уничтожит всё живое, была менее 1 к 3 миллионам.
По словам физика и исследователя безопасности ИИ Макса Тегмарка, риск того, что сверхразум выйдет из-под контроля, составляет около 90%. Это не просто абстрактная угроза: модели развиваются быстрее, чем успевают появляться соответствующие нормы.
Тегмарк предлагает ввести «постоянную Комптона» — числовой показатель вероятности утраты контроля над ИИ. Это способ вернуть инженерный подход в область, которая часто управляется наобум и основывается на PR, а не на проверенных оценках.
Требование простое: если вы разрабатываете систему, которая потенциально может захватить контроль над инфраструктурой, обществом и процессом принятия решений, вы обязаны публично оценивать её риски. Не обещаниями, а цифрами.
Именно это когда-то помогло человечеству избежать случайного самоуничтожения.
#ИИ #Технологии #наука #нейросети
#ИнтернетСвобода
#ИскусственныйИнтеллект
