Искусственный интеллект (ИИ) непрерывно проникает в каждый аспект нашей жизни и продолжает активно развиваться. Возникновение дискуссий о потенциальных опасностях, которые сопутствуют ИИ, являются неоспоримым доказательством того, что ИИ - это наше будущее. Ведь всё новое всегда подвергается критике и встречается священным трепетом и страхом. Так было с интернетом, с формой Земли и местом её у Солнца, да и даже с вилкой)
Оффтоп про вилку.
Католическое общество восприняло вилку как нечто святотатственное и запретило ее использование. Церковные деятели объясняли свой запрет тем, что вилка не является неотъемлемой частью жизни и, следовательно, не соответствует христианским устоям. Священники утверждали, что такие столовые принадлежности используют только распутные восточные женщины. Вилку даже прозвали "вилами дьявола". Когда византийская принцесса умерла от чумы, один монах по имени Пётр Дамиан увидел в этом своего рода наказание. Он считал, что она была наказана за свою тщеславную гордость, так как Бог дал людям руки для того, чтобы ими пользоваться при еде.
И вот о том, каким же станет это наше будущее с ИИ задумались и учёные мужи, этот ИИ создающий (или стоящие рядом с теми, кто его создавал).
Статья с пугающими прогнозами
Дальнейшее развитие искусственного интеллекта просто убьёт всё живое на Земле. Такую мысль высказывает сооснователь Института исследования машинного интеллекта Элиезер Юдковский в статье Time.
Вот несколько цитат из этой статьи:
Многие исследователи, включая меня самого, ожидают, что наиболее вероятным результатом создания сверхразумного искусственного интеллекта при условиях, близких к существующим, будет буквально гибель каждого человека на Земле.
наиболее вероятным результатом будет появление искусственного интеллекта, который не будет делать то, что мы хотим, и не будет заботиться о нас или о живых существах вообще. Такая забота в принципе может быть вложена в искусственный интеллект, но мы не готовы и не знаем, как это сделать в настоящее время. В отсутствие этой заботы получается, что "ИИ не любит вас, но и не ненавидит, и вы состоите из атомов, которые он может использовать для чего-то другого".
Опасения, выраженные Юдковским, возникли в ответ на письмо, опубликованное Институтом будущего жизни (The Future of Life) в конце марта. Эта западная некоммерческая организация занимается изучением вопросов, которые представляют собой существенную угрозу для человечества.
Предложение в письме - остановить развитие ИИ и всех похожих систем на 6 месяцев, Юдковский предлагает 30 лет.
Сомнения и рассуждения
Тем не менее, несмотря на то, что в некоторых странах были введены ограничения на использование чата GPT, там не были введены законы, регулирующие деятельность любых других ИИ.
Но также, есть вопросы, нераскрытые в статье выше.
Главный пункт в статье говорит о том, что ИИ выйдет из интернета, начнёт регулировать нашу жизнь и наступит апокалипсис. Во-первых, все процессы на планете - это слишком условная угроза. Если мы говорим о мире, где ИИ занял место кислорода, и может управлять, например, деторождением, проектируя ДНК новых детей и их количество - то это слишком отдалённая перспектива, чтобы принимать её в серьёз.
То есть можно в этом случае поставить вопрос иначе, без ИИ человечество не сможет справиться с такой проблемой как остывание Солнца и умирание нашей галактики. Кстати эта проблема - реальна, а не фантазийна, однако не столь занимательна.
Во-вторых, решительно непонятно, что должно произойти через 6 месяцев или 30 лет, если человечество замедлит собственный прогресс на это время.
Ограничительные законы в развитии ИИ - это путь к тому, что только определённые элиты будут иметь к ним доступ. В конце концов, запретный плод всегда кажется сладким, и нет ни одного человеческого закона, который не мог бы быть нарушен.
Во всей этой дискуссии мы упускаем небольшое когнитивное искажение - мы наделяем ИИ -человеческой эмоциональностью, разумом и амбициями. Самый частый запрос к чату GPT - это привет, как дела?
Соответственно, мы просто проецируем себя на ИИ.
Конечно, развитие ИИ будет предоставлять угрозу человечеству, точно такую же, как представляет развитие атомной энергетики, например. Потому что единственный враг человека - это он сам.