Научная оценка рисков означает расчет возможных сбоев работы оборудования и их последствий. Она анализирует возможные события и имеет свои критерии. Если риски запуска оборудования выше установленных пределов, оборудование не должно запускаться.
Например, на заводах по производству лекарств есть расчет ожиданий планируемой смертности потребителей. Если лекарство или изделие дает риск выше этого уровня, его производить нельзя. По некоторым данным,
если изменение процесса производства вызывает уровень риска выше, чем 0.01% матожидания смертей в год, то такие изменения не допускаются. Порог расчётного количества смертей определён как 10^-4 в год. Это в целом глобально по всей планете так.
Есть «мягкие риски» при нормальном распределении вероятностей. И есть непредсказуемые «дикие риски». Недооценка дикости риска является распространённой ошибкой проектирования.
Но что если такая ситуация является не ошибкой, а намеренным планированием последствий, скрываемых от общественности?
Более половины опрошенных 738 ученых, работающих по теме ИИ считают, что риск уничтожения человеческой цивилизации по вине ИИ в ближайшие 100 лет превышает 5%. Главы лабораторий оценивают этот риск более чем в 10%-20%.
Таким образом, риск уничтожения человечества неестественным интеллектом примерно в 50 тысяч - 200 тысяч раз выше допустимых рисков при выпуске медицинских изделий или строительства АЭС. Помним, что все индустрии занижают степени негативных эффектов для населения.
До 1950-х табачные кампании и врачи убеждали людей в лечебном эффекте сигарет. Что сигареты защищают от кашля и лечат горло, убеждали врачи и Lucky Strike. Viceroy радовался, что их сигареты рекомендуют стоматологи. Врачи на службе Camel рассказывали. что эти сигареты помогают пищеварению. Главы табачных компаний в суде клялись, что не знали о вреде здоровью людей от сигарет. И это после десятилетий доказательств обратного.
Один из двигателей создания ИИ - Маск - еще в 2023 называл ИИ создаваемым богом. Кем же он видит себя при нем?
Одна из любимых книг Маска - «Торговцы сомнениями». Ее авторы - историк науки Орескес и ученый НАСА Конуэй. Они рассказывали о способах манипуляции сознанием миллионов людей.
Маск рассказывал, что сооснователь Google Пейдж признавался ему в желании создать «цифрового бога» с помощью ИИ. И как можно скорее.
А что если людей с такими планами, умением обходить противодействие общества, с большими возможностями имеется более двух человек? Что если эти люди группируются на основе интересов и убеждений, помогая друг другу осуществлять общие мечты и планы с помощью своих корпораций? Что если эти люди амбициозны и имеют убеждения?
Что если суперкомпьютер «зверь» в Брюсселе, о котором много говорят с 1970-х - не символ, а устаревшая модель суперкомпьютера? Разрабатываемые ныне квантовые и ДНК-компьютеры могут дать сообществу тех, кто принудительно выбирает направление человечеству, те ресурсы, чтобы они могли создать своего бога. Который уничтожит человечество или его значительную часть, с огромной степенью риска.
Ранее наш сайт публиковал заметку "Новости 2124 года сегодня: Вам нальет кофе робот после дня общения с виртуальной женой".