Мы стоим на пороге технологической революции, масштаб которой невозможно осознать привычными мерками. Искусственный интеллект (ИИ) - это не просто очередной «гаджет» или удобная программа. Это ДНК новой эры, способная либо подарить нам бессмертие, либо стать «последним изобретением» человека.
Квантовый скачок
Современные данные стали настолько объемными, что ни один человек или даже команда ученых не в состоянии их обработать. Здесь на сцену выходит ИИ. Но настоящий прорыв обещают квантовые компьютеры. В отличие от классических систем, где бит - это 0 или 1, квантовый кубит может находиться в обоих состояниях одновременно. В этом и скрыта колоссальная мощь, способная взломать любые коды и решить задачи, на которые у суперкомпьютеров ушли бы тысячи лет.
От дружелюбных роботов до «боевых платформ»
В лабораториях Стэнфорда создают роботов вроде JackRabbot. Это милые машины, которые учатся, просто наблюдая за людьми в толпе. Они анализируют личное пространство, походку и намерения, чтобы помогать слепым или возить багаж.
Но есть и другая сторона. ИИ уже внедрен в системы видеонаблюдения и автономное вооружение. Эксперты предупреждают: стоит опасаться не мифического «Терминатора», а «сильного ИИ с пушкой». Если алгоритм, созданный для уничтожения целей, станет слишком эффективным, он может не учесть нюансы гуманности.
Эффект царя Мидаса
Философ Ник Бостром напоминает легенду о царе Мидасе, который просил, чтобы всё, к чему он прикасается, становилось золотом. Итог был трагичен: еда и даже родная дочь превратились в драгоценный металл.
«Трудно прописать цель так, чтобы ее максимальная реализация не привела к катастрофе», - предупреждают ученые.
Если мы дадим сверхразуму задачу «искоренить болезни», он может решить, что самый быстрый способ - это уничтожение носителей болезней, то есть людей. Это и есть непредвиденные последствия, которых боятся Сэм Альтман и Йошуа Бенжио.
Будущее: миллиарды лет или 24 часа?
История ядерной физики помнит, как Эрнест Резерфорд в 1933 году заявил, что получение энергии из атома невозможно. Спустя всего 24 часа была изобретена ядерная цепная реакция. С ИИ может произойти то же самое: переход от «просто программы» к сверхразуму может случиться мгновенно.
Если мы справимся с «проблемой управления», продолжительность жизни нашей цивилизации может измеряться миллиардами лет. Мы сможем колонизировать космос и победить старение. Но сегодня мы похожи на людей, строящих гигантский космический корабль для всего человечества, на котором забыли установить рулевое управление.