Довольно давно фантасты со всего мира рассказывают нам о том, что в далеком будущем человек создаст машины, которые поработят человека. Но так ли это? Давайте обсудим, конечно, простыми словами.
Но про искусственный интеллект говорят не только фантасты. Все чаще про ИИ говорят и в новостях. Предлагаю разобраться в этой теме и понять, а так ли «рабство» человечества близко?
Как и принято в этой рубрике, Автор первым делом заглянул в Википедию. И вот что там пишут: «Искусственный интеллект (ИИ) — свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека». Звучит солидно, сложно и… абсолютно ничего не объясняет обычному человеку. Автор предлагает отложить этот сухой словарь и пройти вместе по слоям понимания.
Энциклопедия
Формально — это комплекс технологий, позволяющих машинам обучаться, принимать решения и выполнять задачи, требующие человеческого интеллекта (распознавание образов, понимание речи, игра в шахматы). Но повторюсь, это только оболочка.
Обучение как у ребёнка
Представьте, что вы учите маленького ребёнка отличать кошку от собаки. Вы показываете сотни картинок, говорите: «Вот это — котик, а вот это — пёсик». Ребёнок ошибается, вы поправляете. Со временем его мозг сам нащупывает невидимые закономерности: у кошки уши острые, хвост длинный и тонкий, у собаки морда массивнее.
ИИ — это такой же ребёнок, только цифровой. Вы «скармливаете» ему миллионы помеченных изображений, а его алгоритмы ищут паттерны. Он не «знает», что такое кошка. Он знает, что совокупность определённых пикселей с высокой вероятностью соответствует тому, что люди называют «кошкой». Всё его «мышление» — это расчёт вероятностей и выявление шаблонов в огромных массивах данных.
Архитектор снов из «Начала»
А теперь давайте от кухни — к большому кино. Забудьте про Терминатора. Современный ИИ — это Кобб, «архитектор снов» из фильма «Начало». Его гениальность не в том, чтобы мыслить, а в том, чтобы строить.
Архитектор снов берёт обрывки воспоминаний, знаний, физических законов и создаёт из них устойчивый, логичный, но искусственный мир, в который можно погрузиться.
Ровно это и делает ИИ. Чат-бот — это архитектор, который строит мир из словесных конструкций и правил языка, обученный на всех книгах и диалогах, что мы ему дали. Нейросеть для генерации изображений создаёт визуальные миры из миллионов заплаток-картинок. Они не «понимают» красоту заката или драму диалога. Они вычисляют, какие элементы (пиксели, слова) с наибольшей вероятностью должны следовать друг за другом, чтобы получилось нечто, что мы сочтём осмысленной картинкой или текстом. Это не разум. Это невероятно сложное, но слепое миростроительство по загруженным нами лекалам.
Что ИИ НЕ МОЖЕТ
Здесь начинается самое важное. ИИ не обладает сознанием, волей, желаниями или эмоциями. Он — инструмент. И главные риски связаны не с его «бунтом», а с нашей небрежностью в его использовании.
Рубрика первая: «Зеркало, а не разум»
Самая большая опасность сегодня — это даже не «восстание машин», а «кривое зеркало». ИИ учится на данных, созданных людьми. А в наших данных, увы, полно предрассудков, стереотипов и исторических несправедливостей.
Если вы будете показывать тому самому «ребёнку» тысячи картинок, где врачи — это только мужчины, а медсёстры — только женщины, он усвоит эту связь как закон природы. Так же и ИИ: натренированный на резюме со скрытыми гендерными предубеждениями, он может начать автоматически отсеивать женские кандидатуры на руководящие позиции. Он не злой и не сексистский. Он просто, как зеркало, отражает и усиливает перекосы, уже существующие в нашем обществе. Его предвзятость — это наша предвзятость, пропущенная через алгоритм и выданная с меткой «объективный расчет».
Рубрика вторая: «Волшебный чёрный ящик»
Многие современные модели ИИ, особенно глубокие нейросети, — это классический «чёрный ящик». Мы загружаем внутрь гигабайты данных, нажимаем кнопку «обучить», а через некоторое время получаем инструмент, который блестяще работает. Но спросите у его создателей: почему модель приняла именно такое решение в конкретном случае? Часто точного ответа нет.
Это как если бы лучший ученик в классе молча сдал идеальную работу, сжёг все черновики и формулы и сказал: «Доверьтесь мне». Мы видим результат, но не можем проверить ход мыслей. А когда ИИ ставит медицинский диагноз, оценивает кредитоспособность или рекомендует приговор суда, доверять, не понимая, — огромный риск. Прозрачность и объяснимость — одни из главных вызовов в развитии этичного ИИ.
Так кто кого поработит? Выводы архитектора.
Вернёмся к началу. Так грозит ли нам цифровое рабство от машин, о котором так любят говорить фантасты? Автор уверен: нет. Потому что современный ИИ — это не Скайнет, мечтающий нас уничтожить. Это «архитектор снов», мощный, но абсолютно подконтрольный инструмент.
Он может построить для нас потрясающие, полезные миры: написать симфонию, найти новую молекулу для лекарства, перевести любой язык. Но все его «кирпичики» и «строительные правила» — это данные и алгоритмы, которые даём ему мы. Он не выйдет за рамки нашей архитектуры. Он не захватит власть — он может лишь нечаянно тиражировать наши ошибки в гигантских масштабах.
Таким образом, вопрос о «порабощении» откладывается. На первый план выходит куда более сложный и человеческий вопрос: а готовы ли мы к ответственности? Готовы ли мы тщательно готовить «строительные материалы» (данные), продумывать «чертежи» (алгоритмы) и постоянно проверять, не искривилось ли то «зеркало», в которое мы так любим смотреть? Будущее зависит не от машинного разума, а от человеческой мудрости.
Статья получилась большой, но Автор надеется, что теперь тема стала понятнее. Если хотите и дальше разбираться в сложных технологиях простыми словами — подписывайтесь на канал.
UPD: Автор постарался максимально упростить терминологию и умышленно опустить довольно сложные для понимания термины и нюансы (например, различия между AGI и Narrow AI, технические детали обучения моделей). Буду рад получить обратную связь в комментариях.