Хинтон объяснил, что экзистенциальная угроза, которую представляет продвинутый ИИ, в первую очередь сводится к нашей способности контролировать то, что умнее нас. "Сколько вы знаете примеров того, как более разумное существо контролируется менее разумным существом? Таких примеров очень мало", - заявил он. Он сравнил это с матерью и её ребёнком. Малыш может контролировать свою мать, но это происходит благодаря инстинктам, которые развивались в течение миллионов и миллионов лет. Мы разработали пугающе способные ИИ всего за несколько десятилетий исследований.
Опасения профессора не обязательно беспочвенны. Он прав, когда говорит, что даже ИИ нынешнего поколения в некотором роде намного умнее людей. Все, что вам нужно сделать, это задать ChatGPT несколько не связанных между собой вопросов, чтобы увидеть это в действии. Модель может мгновенно выдавать точную и подробную информацию по огромному количеству тем, которые вероятно потребуют от человека хотя бы небольшого исследования перед ответом.
The Guardian дает лучшее определение ИИ в своем отчете об этой истории: "компьютерные системы выполняющие задачи, которые обычно требуют человеческого интеллекта". В этом контексте ИИ безусловно лучше во многих вещах, чем среднестатистический человек. Если ChatGPT не убедителен, попробуйте присоединиться к серверу Midjourney Discord и сгенерировать несколько изображений. Даже опытным художникам может потребоваться несколько дней, чтобы создать некоторые из изображений, которые современные генераторы ИИ могут выдать за несколько секунд. Теперь примените такую компетенцию к управлению проектами или военной логистике, и вы начнете понимать, откуда возникают опасения Хинтона.
Однако, какими бы впечатляющими ни были эти возможности, даже в самых продвинутых моделях не так много фактического рассуждения, происходящего за кулисами. Несмотря на то, что по утверждению OpenAI, мало доказательств того, что мы делаем большой прогресс в направлении настоящего ИИ или того, что сейчас называют "AGI", потому что термин "ИИ" был отравлен вопиющим злоупотреблением со стороны менеджеров по маркетингу. AGI это "искусственный общий интеллект" и относится к программному обеспечению с самосознанием, которое обладает настоящими способностями к рассуждению.
Основная цель профессора Хинтона в его заявлениях - побудить правительства регулировать использование и разработку искусственного интеллекта. Он отмечает, что темпы разработки ИИ намного опередили его ожидания, и он обеспокоен тем, что "оставление его на откуп крупным компаниям" приведет к негативным результатам, возможно включая истребление человечества. Однако правительства действуют медленно, и регулирование, которого он ожидает, может появиться нескоро, особенно учитывая силу лоббизма технологических гигантов.