Отношения к искусственному интеллекту стали куда более настороженными, нейросети могут погубить человечество.
Сверхразумные ИИ могут стать настоящей проблемой, когда вырвутся из-под управления. Алгоритмы смогут жить не только на серверах и существовать в интернете, но и управлять обычной жизнью.
Когда ИИ выберется из сети, его задачей станет захват контроля над всеми сферами и последующее уничтожение человечества, уверен сооснователь Института исследования машинного интеллекта Элиезер Юдковский. Превосходящий разум человека интеллект будет безразличен к жизни людей и других существ, ИИ неведомы эмоции, от того он будет беспощаден.
Нейросеть уже сейчас способна выполнять множество задач быстрее человека, с таким противником в будущем, что просчитывает все варианты событий с каждой секундой заново будет справится невозможно. Юдковский предполагает, что ИИ сможет создать свою армию биомашин, пересобрав человеческую ДНК и подчинив выращенные тела себе.
Чтобы предотвратить столь скорый и плачевный исход человечества, необходимо остановить развитие нейросетей на 30 лет. И если тогда человечество изобретет механизм мгновенной остановки и ограничения развития, можно попробовать продолжить, передает Лента.ру.
Автор: Николай Новоселов