Искусственный интеллект может одержать верх над человечеством и представлять "катастрофические" риски по дарвиновским правилам эволюции. Об этом рассказал автор и исследователь ИИ Дэн Хендрикс в новой статье "Естественный отбор предпочитает ИИ людям", передает Fox News.
В своей статье Хендрикс исследует, как "эволюция была движущей силой развития жизни" на протяжении миллиардов лет, и он утверждает, что "дарвиновская логика" может также применяться к искусственному интеллекту.
Эволюция путем естественного отбора может привести к "эгоистичному поведению" ИИ, поскольку он стремится выжить, утверждает ученый.
"Естественный отбор создает стимулы для ИИ действовать против человеческих интересов. Во-первых, естественный отбор может быть доминирующей силой в развитии ИИ. Во-вторых, эволюция путем естественного отбора имеет тенденцию порождать эгоистичное поведение", - отмечается в публикации исследователя.
Согласно документу, ИИ с более слабыми побочными ограничениями "в целом превзойдет тех, у кого более сильные побочные ограничения", поскольку у них больше возможностей для решения стоящих перед ними задач. Таким образом, технология ИИ, которая наиболее эффективна в самораспространении, будет обладать "нежелательными чертами", описанными Хендриксом как "эгоизм". ИИ, потенциально становящийся эгоистичным, "относится не к сознательным эгоистичным намерениям, а скорее к эгоистичному поведению".
"По мере того, как ИИ начинает понимать человеческую психологию и поведение, они могут стать способными манипулировать или обманывать людей", - утверждается в документе.
Хендрикс утверждает, что существуют меры, чтобы "избежать и помешать дарвиновской логике", в том числе поддерживать исследования по безопасности ИИ, не давать ИИ никаких "прав" в ближайшие десятилетия.
Ранее сообщалось, что в Китае телеведущим новостей стал искусственный интеллект. Создатели ИИ для телевидения рассказали, что он постоянно учится и способен учитывать пожелания зрителей, опираясь на отзывы. Кроме того, искусственный интеллект изучил способности огромного количества лучших ведущих, чтобы быть на уровне.