Искусственно–интеллектуальная угроза

Искусственно–интеллектуальная угроза

#ии

ЧАСТЬ III.

Издание Scientific American на днях опубликовало интересный материал, который дает представление об уровнях, которые достиг ИИ: “На секретной математической встрече исследователи изо всех сил пытаются перехитрить ИИ”. Подзаголовок: “Ведущие математики мира были ошеломлены тем, насколько искусственный интеллект искусен в выполнении их работы”.

ЦИТАТА “В выходные в середине мая состоялся тайный математический конклав. Тридцать самых известных математиков мира приехали в Беркли, Калифорния, а некоторые приехали даже из Великобритании. (...)

Задавая боту вопросы на уровне профессора в течение 2-х дней, исследователи были ошеломлены, обнаружив, что он способен ответить на некоторые из самых сложных решенных проблем. “У меня есть коллеги, которые буквально сказали, что эти модели приближаются к математическому гению”, – говорит Кен Оно, математик из Университета Вирджинии, председательствующий и судья на встрече”.

Речь идет о чат-боте, который работает на o4-mini, т.н. Модели Большого языка рассуждений [LLM], которую OpenAI обучил делать очень сложные выводы.

В ходе “экзамена” ИИ каждая задача, которую не мог решить o4-mini, приносила математику, который ее придумал, вознаграждение в размере $7500.

Кен Оно “придумал задачу, которую эксперты в моей области признали бы открытым вопросом в теории чисел — хорошая задача уровня доктора философии” и попросил o4-mini решить этот вопрос.

ЦИТАТА “В течение следующих 10 минут ошеломленный Оно в тишине наблюдал, как бот разворачивал решение в режиме реального времени, по ходу дела демонстрируя процесс рассуждения. Первые 2 минуты бот потратил на поиск и освоение соответствующей литературы в этой области. Затем он написал на экране, что хочет сначала попробовать решить более простую “игрушечную” версию вопроса, чтобы научиться. Через несколько минут он написал, что наконец готов решить более сложную проблему. Через пять минут o4-mini представил правильное, но дерзкое решение”.

Хотя группе в конечном итоге удалось найти 10 вопросов, которые бот не сумел разрешить, исследователи были поражены тем, насколько далеко продвинулся ИИ всего за один год.

Впрочем, Кен Оно отметил, что остается сомнение – насколько можно доверять решениям o4-mini.

ЦИТАТА “Есть доказательство методом индукции, доказательство от противного, а есть доказательство запугиванием. (...) Если вы говорите что-то с достаточным авторитетом, люди просто пугаются. Я думаю, что o4-mini освоил доказательство запугиванием; он говорит обо всем с такой уверенностью.”

Если американские СМИ пишут об ИИ в тревожном тоне, то в китайских СМИ отчетливо чувствуется оптимизм, генерируемый “марксизмом с китайской спецификой”, официально взятым на вооружение Компартией Китая.

The Global Times пишет, что “Китайские научные группы, анализируя поведенческие эксперименты с нейровизуализацией, впервые подтвердили, что модели LLM [см. выше], основанные на технологиях ИИ, могут спонтанно (...) развивать познание на уровне человека”.

Большая исследовательская работа китайских ученых была опубликована на сайте Nature Machine Intelligence 9 июня.

Полученные результаты продемонстрировали семантическую кластеризацию, схожую с ментальными представлениями человека.

СПРАВКА. Семантическая кластеризация — группировка текстов, запросов, документов или ключевых слов не на основе их формального сходства, а по смысловому [= семантическому] содержанию.

Пример: “Купить кофе” и “лучшие сорта эспрессо” попадают в один кластер, — они связаны тематически, хотя лексически различны.

Китайские ученые утверждают, что ими был зафиксировали скачок от “машинного распознавания” к “машинному пониманию”; модели LLM имеют понимание концепций реального мира, во многом похожее на человеческое.