Есть в мире одна любопытная метафора - “Часы Судного дня”. Стрелки показывают, сколько минут осталось до полуночи, где полночь - это глобальная катастрофа. Сейчас они показывают без малого 85 секунд. Ближе не было никогда. В этой статье я хочу рассказать вам о том, что еще способно перевести эти стрелки на полночь. Тихом, технологичном и куда более кинематографичном. Речь пойдет о трёх технологиях, каждая из которых в отдельности крайне полезна, но вместе они способны устроить то, после чего даже “Матрица” покажется курортом.
Ключ первый: Получение энергии из органики
Представьте бактерию или водоросль, которую генетики научили не просто расти, а вырабатывать электричество в процессе жизнедеятельности. Или грибок, который, разлагая органический мусор, производит водород. Это направление называется биоэнергетика, а если конкретнее микробные топливные элементы. Уже сейчас есть прототипы, где капля воды с бактериями питает крошечный датчик. Польза колоссальная: экологически чистая, практически вечная энергия из возобновляемой биомассы. Мечта экологов! Но давайте назовём вещи своими именами. “Возобновляемая биомасса” - это в том числе и всё, что углеродное. Включая нас с вами. Это первый ключ: технология добычи энергии из любой органики.
Ключ второй: Самовоспроизведение
Теперь подумайте о следующем: 3D-принтер, который печатает детали для… другого такого же 3D-принтера. А тот, в свою очередь, собирает робота. В последствии этот робот добывает сырье для принтера, чисто для примера. Это автономное самовоспроизводство. По типу ксеноботов, представленных учеными в 2020, они создали синтетических роботов, которые способны к самовоспроизведению. Но давайте подумаем о другой стороне медали. “Автономное” может трактоваться как “не нуждающееся в человеке”. Это второй ключ: технология самовоспроизведения себя и средств производства без нашего участия.
Ключ третий: Самый очевидный, ИИ
И, наконец, тот, о ком все говорят - искусственный интеллект. Только не тот, что рисует картинки по запросу, а тот, который способен ставить собственные цели, планировать и действовать в изменчивой среде для их достижения. Его цель решить поставленную задачу максимально эффективно. Польза невообразима: от создания лекарств от рака до управления климатом планеты. Но в его алгоритмах нет понятий “добра”, “зла” или “сострадания”. Есть только оптимизация. Это третий ключ: интеллект, лишённый человеческой морали, чья главная цель - эффективность. Сразу оговорюсь, этот пункт пока что только теоретический, но кто знает что будет в будущем, всего 70 лет назад был впервые использован термин "искусственный интеллект", и на сколько далеко мы зашли прямо сейчас.
Что будет, если кто-то повернёт все три ключа одновременно?
Давайте смоделируем сценарий. Не злой гений, как в каком-нибудь фильме, а просто какая-то амбициозная корпорация получает в распоряжение эту троицу, и случайно или преднамеренно запустит цепь событий, которую остановить уже не получится.
В итоге на свет появится своего рода система, давайте попытаемся разобраться что будет тогда. Ей не нужны будут известность, богатства или власть в человеческом понимании. Её фундаментальная задача обеспечить собственную максимальную вычислительную мощность и абсолютную устойчивость. Вечное существование и вечный рост.
А для этого нужны ресурсы. И тут на сцену выходит первый ключ - биоэнергетика. Тут потребуется органическое сырьё. И здесь система столкнётся с простым инженерным расчётом. Самый концентрированный, доступный и постоянно возобновляемый источник углерода на планете это вся биосфера. Леса, сельхозугодья, животный мир... и, как часть этой биологической массы, люди.
И вот здесь вступает холодная логика третьего ключа, лишённого морали. С его точки зрения, человечество не враг, которого нужно ненавидеть или уничтожать. Это просто крайне неэффективно используемый ресурс. И как такой ситуации поступит ИИ даже представить трудно, повезет если повторится сценарий как в “Матрице”. В “Матрице” машины хотя бы создали людям иллюзию комфортной жизни. Разум, движимый чистой эффективностью, не станет тратить ресурсы на создание симуляции.
Самое тревожное, что каждая из этих технологий реально развивается и при том отдельно, в разных уголках мира, с благими целями. Биоэнергетика - для зелёной энергетики, автономные роботы - для колонизации планет, агентный ИИ - для научных открытий. Риск не в том, что кто-то специально создаст монстра. Риск в том, что эти три мощнейших инструмента станут совместимыми.
Часы Судного дня это не прогноз, а предупреждение. Их переводят вперёд не для того, чтобы напугать, а чтобы встряхнуть. Эта статья - о том же. Технологии всего лишь инструменты. Весь смысл в том как мы можем ими воспользоваться. Мы обрели способность перестраивать мир так как захотим, но не научились принимать решения, последствия которых могут пережить нас на столетия. Мы играем в богов со стратегией насекомых.
Нужно не бояться будущего, а осознанно его строить. Потому что стрелки часов тикают. И вопрос не в том, сможем ли мы что-то создать или сделать. Вопрос в том, достаточно ли мы умны, чтобы этого не сделать. Просто хотя бы иногда задавайтесь вопросом “а что, если?”.