Ученые продолжают спорить об искусственном интеллекте. Одни указывают на положительные аспекты, которые помогут улучшить жизнь людей и будут работать на благо, другие бьют тревогу: мир мало знает об ИИ и как его контролировать.
Еще в 2023 году ученые и специалисты из IT-отрасли подписали общее письмо-обращение, в котором призвали создателей ИИ остановить исследование систем, мощнее GPT-4. Они задались вопросом, должны ли люди рисковать потерей контроля над цивилизацией, когда понятия не имеют, как контролировать ИИ в будущем.
Специалист по искусственному интеллекту Эйтан Майкл Азофф выразил мнение, что человечеству необходимо создать «аварийный отключатель», поскольку ИИ может выйти из под контроля и нанести больше вреда, чем ожидают люди.
Он объяснил, что мир находится в нескольких шагах от разгадки «нейронного кода», который позволит машинам осознано учиться, как любому человеку. Этот термин описывает то, как мозг кодирует сенсорную информацию и выполняет когнитивные задачи, такие как мышление и решение проблем. И одним из важнейших шагов на пути к созданию ИИ человеческого уровня является имитация сознания в компьютерах.
По словам Азоффа, пока у людей не будет больше уверенности в машинах, которые создаются, всегда следует соблюдать следующие пункты.
«Мы должны убедиться, что имеем полный контроль над выключателем. Во-вторых, мы должны создать системы ИИ с встроенными правилами безопасного поведения», — сказал он.
Самый простой, но пугающий сценарий, который описывается специалистами и учеными – это вероятность, что любой человек может использовать ИИ в своих плохих намерениях. Британское издание The Guardian описывает, что подобный ход событий даже не требует автономности ИИ.
Есть и другой сценарий, который вызывает опасения: когда искусственный интеллект сможет разрабатывать свои цели и действовать автономно, тогда человечество ждет катастрофа.
Австралийский футуролог Росс Доусон допустил, что люди смогут создать «нечто», что будет обладать сознанием, не основанном на человеческих клетках.
Профессор Роберт Брукс, в свою очередь, указал, что ИИ уже наносит вред человечеству. Правда, в другом понимании. По его оценкам, искусственный интеллект повлияет на эволюцию человека, и в результате человеческий мозг уменьшится, поскольку машины станут выполнять большую часть человеческих задач. И по этим многим причинам ученые призывают задуматься о будущем уже сейчас, пока не стало поздно.