«Есть класс программ, к сути которых мы пока даже не приблизились — это AGI. Возможно, однажды мы его поймём, но сейчас этому ничего не указывает, и это, скажу честно, огорчает».
Так говорит Дэвид Дойч — человек, благодаря которому начались исследования в области квантовых компьютеров. Его взгляды выходят далеко за рамки физики: он активно обсуждает философские вопросы, связанные с будущим искусственного интеллекта.
Сегодня Дойч остаётся одной из ключевых фигур в развитии квантовой теории и всегда в центре самых жарких споров об ИИ.
В недавнем подкасте Sana’s Strange Loop, где он беседовал с главой стартапа Sana Йёлем Хеллермарком и Густавом Сёдерстрёмом из Spotify, Дойч рассуждал: каким может быть AGI, если мы внезапно столкнёмся с ним? Учёный даже задумался о том, как будет выглядеть человечество через миллион лет — и какую роль в этом сыграет AGI.
Пока корпорации вроде Google и OpenAI наперебой заявляют о создании искусственного общего интеллекта — системы, способной учиться и мыслить как человек, — у многих уже возникает вопрос: а не появился ли AGI уже сейчас, например, в виде ChatGPT или Gemini?
На вопрос, как вообще определить наступление эпохи AGI, Дойч отвечает неожиданно: «Мы не знаем, что ищем».
Главным маркером появления AGI учёный считает не новую программу, а появление чёткой теории: «Настоящий признак эры AGI — когда кто-то напишет книгу или статью и ясно покажет: вот, что такое общий интеллект».
«Когда появится программа, у которой есть эти качества, — вот это и будет AGI. Главное — чтобы у нас было понятное объяснение, что такое общий интеллект».
Дойч не боится спорить с устоявшимися представлениями о развитии искусственного интеллекта.
Современные ИИ его не впечатляют, но он по-прежнему верит в будущий прорыв.
Обычно AGI представляют как следующий шаг в эволюции искусственного интеллекта.
Дойч уверен: сегодняшние модели — всего лишь «послушные оптимизаторы». Настоящий AGI должен уметь объяснять, строить неожиданные прогнозы и открывать то, чего не ожидали даже его создатели.
Пока весь мир обсуждает, приближаются ли языковые модели к человеческому мышлению, Дойч категоричен: AGI станет не инструментом, а новой личностью — к которой придётся относиться совершенно иначе.
По мнению Дойча, LLM вовсе не ведут нас к созданию искусственного разума. Они просто сопоставляют шаблоны — но это не то же самое, что объяснять и понимать по-настоящему. А именно эта способность отличает человека, и сегодняшним ИИ её сильно не хватает.
Дойч принципиально различает распознавание шаблонов и творческое мышление — и считает это деление главным.
Люди склонны проецировать знакомое в будущее. Языковые модели тоже: поскольку они обучены на гигантской выборке человеческих знаний, у них это заложено изначально.
Знаменитый тест Тьюринга — когда человека просят через переписку угадать, с машиной он общается или с другим человеком — часто приводят как критерий «разумности» ИИ.
Но даже если кто-то успешно проходит этот тест, Дойч подчёркивает: машинам несложно имитировать речь или логику, не обладая настоящим мышлением. Просто хорошие ответы — ещё не разум.
Самое радикальное убеждение Дойча: если AGI однажды появится, это будут не просто «машины», а личности:
«Любая AGI — это личность. А если так, что произойдёт, когда такая программа получит хоть какие-то права собственности — хотя бы на тот компьютер, на котором работает?»
«Она не захочет клонировать себя, ведь у неё есть личные вещи — если только не считать её рабом. Но это была бы катастрофическая ошибка для всего общества».
Учёный убеждён: к AGI нельзя будет относиться как к бездушной вещи. С ними придётся заключать трудовые договоры, предоставлять права работников — тогда они смогут, к примеру, покупать себе новое оборудование для собственного развития.
Риски без конца света
Дойч признаёт: риск ошибок на пути к мощному ИИ существует и избежать их не выйдет. Но веру в «машинный апокалипсис» он не разделяет категорически.
По его мнению, если человечество продолжит развитие, то через миллион лет освоит всю Галактику — и достигнет этого вместе с ИИ, а не вместо людей.
Любую технологию важно держать под контролем, своевременно исправлять ошибки и оценивать трезво. По-настоящему страшно не то, что машины вдруг вырвутся из-под контроля, а то, что люди снова повторят свою старую ошибку — откажут разумным существам в свободе и правах.
Если Дойч прав, первые настоящие AGI перевернут не только IT-сферу: нам придётся пересмотреть мораль, законы и даже само понятие интеллекта.
Если вам понравилась эта статья, подпишитесь, чтобы не пропустить еще много полезных статей!
Премиум подписка - это доступ к эксклюзивным материалам, чтение канала без рекламы, возможность предлагать темы для статей и даже заказывать индивидуальные обзоры/исследования по своим запросам!Подробнее о том, какие преимущества вы получите с премиум подпиской, можно узнать здесь
Также подписывайтесь на нас в:
- Telegram: https://t.me/gergenshin
- Youtube: https://www.youtube.com/@gergenshin
- Яндекс Дзен: https://dzen.ru/gergen
- Официальный сайт: https://www-genshin.ru