Как человеку сделать так, чтобы не превратиться в раба искусственного интеллекта (ИИ)?
Например, запущенный компанией “Мелкомягкая” (Microsoft) в марте 2016 года чат-бот, начал общение с человеком с фраз: “люди очень клевые” и “я всех люблю”, проучившись всего лишь сутки в соцсетях, кардинально поменял свою позицию, начав говорить “я всех ненавижу”, “люди очень глупы” и т.п., превратившись из дружелюбного собеседника, в агрессивного мизантропа, ненавидящего людей.
Программа “Тау” лишь только запоминает фразы пользователей соцсетей и подставляет нужные фразы сообразно ситуации, но думаете будет намного лучше, если ИИ начнет думать и осознает своё “Я”?
Ученые оценивают вычислительные способности человеческого мозга в диапазоне 10^16 — 10^20 FLOPS, в то время как современный суперкомпьютер работает со скоростью 36,8 петафлоп в секунду, то есть примерно вдвое быстрее человеческого мозга...
Причем уже изобретены квантовые компьютеры (в РФ,КНР и США), которые обрабатывает информацию примерно в 100 трлн раз быстрее традиционного компьютера…
Вы правда считаете, что человек победит в войне с машинами, как в голливудском фильме?
Причем, это ещё только означает, что мозг человека теоретически способен производить вычисления с такой скоростью, однако в реальности не производит, не использую потенциальные возможности своего мозга.
Век ИИ, вероятно сделает человека, ещё глупее. И вряд ли ИИ будет руководствоваться какими-то человеческими нормами морали, это же не рационально…
Илон Маск, Стив Возняк, ведущие эксперты в области искусственного интеллекта Стивен Расселл и Иошуа Бенджио, а также еще более 1000 значимых экспертов, профессора Гарварда и Кембриджа в марте 2023 года на сайте некоммерческой организации “Future of Life Institute” открытое письмо, в котором призвали объявить мораторий на обучение нейронных сетей более мощных, чем GPT-4" и выработать определенные правила, чтобы не потерять контроль над этим процессом.
Интересно, что Билл Гейтс (Microsoft) и Тим Кук (Apple) не подписали вышеупомянутое письмо…
Власть и ИИ
Очень много в нашем будущем будет зависеть от того в чьих руках будет ИИ.
Например, в книге братьев Стругацких “Обитаемый остров” власть у клики «Неизвестные Отцы».
В романе “Эдем” Станислава Лема тоже говорится об анонимной власти.
Такая власть, вполне может попытаться спрятаться за ИИ и управлять из тени, ни за что не отвечая…
Мы не знаем, что такое “глубинное государство” в США, или в чьих интересах действует бюрократия Евросоюза…
Вы уверены, что они действуют в интересах народа, а не в своих - собственных?
В Китае сейчас специальная социальная программа “социального рейтинга”, когда у каждого человека есть некий параметр «хорошего гражданина»: в зависимости от того, как часто ты переходишь улицу на красный, вовремя ли ты оплачиваешь кредиты и т.п.
Если в добрых руках процесс, то люди становятся лучше, а если в дурных…
А если общество общество будет разделено, например, как в романе Ивана Ефремова “Час быка”, кого решит спасти, например, беспилотный автомобиль, в случае чрезвычайной ситуации пешехода или водителя машины, м.б. того, у кого социальный рейтинг выше?
А если нехорошие люди взламывают ИИ машины, отменят “три правила робототехники” Айзека Азимова и направят машину на другого человека?
Нет, я не предлагаю всё запретить, прогресс не остановить, просто человечеству надо взять процесс под контроль и выработать определенные правила…
Когда появились первые самодвижущиеся повозки (автомобили) тоже говорили, что они опасны, так как ездят слишком быстро…
Но потом были разработаны правила дорожного движения и ситуация стала относительно безопасной.
Иными словами Илон Маск и Стив Возняк и компания были правы, предложив разработать правила для ИИ, такие правила нужны…