В XX веке, когда одни ученые страстно увлеклись идеями автоматизации и робототехники, другие стали думать о возможных рисках высоких технологий и разрабатывать прогнозы и векторы их развития. Так появились «принцип предосторожности» Ганса Йонаса и «закон Амары»
Принцип предосторожности
Это этический принцип оценки новых технологий. Если инновации могут нанести ущерб природе и человечеству, бремя доказательства их безопасности ложится на создателей технологии. Критики этого принципа утверждают, что он расплывчат, ненаучен и является препятствием для прогресса.
В философии принцип предосторожности был провозглашен американским философом Гансом Йонасом в 1979 году: действовать так, чтобы «не ставить под угрозу условия для бесконечного продолжения человечества на Земле». Он теперь во всех международных программах развития. Да и в обычной жизни большинство из нас пристегивают ремни безопасности и покупают страховки.
Основных версий принципа две. Сильная требует реагировать при одном лишь подозрении на возможный ущерб, так в ЕС регулируют использование ГМО. А слабая версия предполагает, что превентивные меры должны применяться лишь при наличии доказательств возможного вреда. Так в США относятся к новым медицинским препаратам, считая, что чрезмерная осторожность может сама по себе создавать новые риски из-за бездействия перед лицом новых угроз.
Три закона робототехники Айзека Азимова предписывают роботу не причинять вреда человеку, повиноваться его приказам и заботиться о своей безопасности. Гонка за искусственным интеллектом дополнила их принципами не выдавать себя за человека и не выходить за рамки человеческого понимания. И с этим уже сложнее, поскольку имитировать человека ИИ уже научился и есть сомнения в том, что действие его сложных алгоритмов понятно их создателям. Сегодня этот «черный ящик» выдал вам уникальную формулу лекарства, а завтра — смертельный яд. Тем более что, по словам Парацельса, «все есть лекарство, и все — яд: зависит от дозы».
Закон Амары
Наблюдение о том, что мы склонны переоценивать эффект новых технологий прямо завтра и недооценивать их влияние в отдаленном будущем, называют «законом Амары». Рой Амара был футурологом, создателем Института будущего в Пало-Альто в Калифорнии, больше занимался практикой предвидения в технологиях, чем наукой.
В 1952 году Банк Америки заказал специалистам Стэнфордского института, где работал Амара, автоматизированную систему управления чековыми операциями. Впоследствии эта технология привела к появлению кредитных карт, привязанных к личным счетам клиентов. А прототип суперкомпьютера, сделанный в Стэнфорде, автоматически обрабатывал без малого миллиард чеков в год, весил 25 тонн и потреблял 80 киловатт энергии.
В 50-е годы машинный интеллект, пионером которого был Алан Тьюринг, переживал астрономический взлет, но позже наступила так называемая зима искусственного интеллекта. А нынешний подъем финансирования и новых надежд начался только в 2010-е годы.
Другой пример: интернет с сумасшедшими вложениями в 90-е годы и лопнувшим пузырем доткомов в 2000-м. Или генная инженерия, от которой после открытия CRISPR в 2012-м ожидали немедленного излечения генетических болезней, но и сейчас еще только подступают к решению этой проблемы.
Предвидеть будущее, даже погоду, практически неосуществимо. Но без прогнозов невозможно планирование. Экономические циклы Кондратьева длиной в 60 лет, закон Мура об удвоении плотности транзисторов на плате, закон Меткалфа о ценности сети, которая пропорциональна квадрату числа пользователей, — все это действует. Конечно, в этих наблюдениях, как и в законе Амары, нет точности небесной механики, но они все же позволяют делать предположения на пару десятков лет вперед, которые имеют шанс не полностью разойтись с действительностью.
Хотите всегда быть в курсе? Подписывайтесь на Telegram-канал «Бизнес FM»