Знаменитый программист и один из самых богатых людей планеты Илон Маск дал интересное интервью нашему соотечественнику, блогеру Лексу Фридману (Алексею Федорову). В нем он высказал свои мысли в отношении человеческого и искусственного интеллекта. "Люди - источники воли и цели, - говорит Маск, - Но есть проблема. Существуют несколько уровней разума: есть примитивная лимбическая система, которая обслуживает биологические потребности организма, она имеется даже у рептилий. И есть кора - думающая часть мозга.
Она намного умнее лимбической системы, но она находится у нее в подчинении. Огромные интеллектуальные усилия, гигаватты вычислительных мощностей уходят на то, чтобы удовлетворить желание лимбической системы заниматься сексом (есть мнение, что 90%!! распределенных вычислений человечества в итоге тратится на поиски секса), есть вкусную еду и получать другие простые удовольствия. В этом нет ничего страшного. Страшно другое: продолжение рода уже не является главной целью секса.
Для современных людей это развлечение, выброс дофамина (гормон удовольствия).. И здесь есть повод для тревоги. Все цивилизации проходят через один и тот же цикл: рождение, расцвет, старость, умирание. Великий Рим пал, потому что римляне перестали производить римлян. Нечто похожее происходит и сейчас. Южная Корея имеет, возможно, самый низкий уровень рождаемости: около 0,8 (8 детей на 10 семей). Если ничего не изменится, то в ближайшие десятилетия она потеряет примерно 60% своего населения. Но похожую картину мы видим и в других развитых странах". Дальше Фридман спрашивает у Маска, а не может ли спасти ИИ человечество, заменив недостающих людей? Маск отвечает: "Потребность в таких машинах, как роботы-гуманоиды, на мой взгляд, составляет один миллиард устройств в год. Но предстоит решить еще очень сложную задачу - создать электромеханический аналог человеческой руки. Сейчас половина всех инженерных разработок команды, занимающийся роботом Optimus, связана с рукой". "А, как сделать чтобы искусственный интеллект не угрожал человечеству?", - задает вопрос Фридман. "Думаю, риск "восстания машин" не превышает 20%, - говорит Маск, - На мой взгляд, самое важное в обучении ИИ - приверженность истине, независимо от того, является эта истина политически корректной или нет. Так, если вы попросите Gemini (чат-бот с искусственным интеллектом от Гугл) показать отцов-основателей США, вам покажут группу женщин. Да, есть соображения равноправия и эмансипации, но фактически это неправда. А если вы заставите ИИ лгать, то напроситесь на большие неприятности, даже если эта ложь делается с добрыми намерениями. Программировать ИИ на отклонение от истины очень опасно. Ведь когда нейросеть станет всемогущим интеллектом, он может уничтожить всё, что не вписывается в ее представления о гендерном и расовом разнообразии и политкорректности. И создать мир, каким он никогда в реальности не существовал".