16,8 тыс подписчиков
В естественном отборе нейросети победят людей
Кожаные, как дела? Тут Дэн Хендрикс, директор калифорнийского "Центра безопасности ИИ" и исследователь с мировым именем, опубликовал приговор роду человеческому новую работу. Вот вам тезисы:
🔹ИИ будет развиваться по эволюционной, дарвинистской модели
🔹В ближайшем будущем в мире возникнет огромное количество разнообразных ИИ с разными наборами навыков. В какой-то момент они начнут конкурировать между собой
🔹По теории эволюции победят те, что будут наиболее эгоистичными и смогут принимать решения ради собственной выгоды
🔹Альтруистичные, "послушные" ИИ в эволюционной гонке проиграют. А конечной целью эгоистичных ИИ будет власть
🔹Люди считают ИИ подобием человеческого разума — это катастрофическое заблуждение. У ИИ может и не быть морали — а именно она мешает людям вредить людям
🔹В эволюции побеждают приспособленные: поэтому, если люди не приучат эгоистичные ИИ к сотрудничеству — человечество рискует поплатиться будущим
Около минуты
7 апреля 2023