Появление ИИ грозит человечеству катастрофой. Об этом заявил британский ученый Стюарт Рассел в интервью Times.
Бесконтрольные разработки в сфере ИИ привели, по его мнению, к тому, что люди "добились прогресса, которого не ожидали". Человечество совершило ошибку в самом начале - оно не думало, для какой цели нужен будет этот интеллект, уточнил Рассел. Вероятнее всего, сверхразумные машины окажут сопротивление попыткам ими управлять, отметил он.
"Как удержать власть над сущностями, которые сильнее? Если ответа нет, то прекратите исследования. Вот и все. Ставки не могут быть уже выше: если мы не способны контролировать нашу собственную цивилизацию, тогда мы лишаемся права выбора нашего будущего существования", — подчеркнул специалист.
Появление универсального искусственного интеллекта, способного выполнить любую задачу, посильную человеку, как отметил Рассел, может произойти, буквально, в течение ближайших десяти лет. И при решении проблем, к примеру, связанных с климатом, программы могут сделать вывод, что лучшим решением является избавление от людей, опасается ученый.
"Если вы научите ИИ подражать человеку, то, по сути, вы научите его ставить те же человеческие цели и достигать их. А человеческие цели бывают самые разные. Можно только представить, к какой катастрофе приведет появление действительно эффективных систем, преследующих такие цели", — резюмировал он.