ИИ - искусственный интеллект.
Блистательный эксперимент Epoch AI
Epoch AI решила создать принципиально новый подход для оценки ИИ. Организаторы заплатили ведущим математикам мира за создание невероятно сложных оригинальных задач. Они просили участников использовать все известные уловки, чтобы сделать задачи максимально сложными.
Для защиты данных математики обсуждали проблемы только на зашифрованных серверах Signal и избегали онлайн-редакторов.
В препринте, опубликованном в прошлом месяце, научно-исследовательский институт Epoch AI собрал 60 математиков-экспертов, чтобы поднять планку с помощью самого сложного математического теста, который они смогли придумать. Ведущие модели правильно ответили менее чем на 2% вопросов, что показывает, насколько они далеки от того, чтобы изменить отрасль.
Мнения экспертов расходятся.
Кевин Баззард считает, что моделям нужно лучше понимать математические приёмы.
Эллиот Глейзер из Epoch AI ожидает, что машины справятся с тестом при его жизни.
Джереми Авигад видит в ИИ скорее инструмент расширения возможностей, чем конкурента.
Майя Фрейзер беспокоится о социальных последствиях, включая возможное неравенство доступа к передовым технологиям.
Причина сомнений
С древних времен строго различаются два типа мышления: рассудок (лат. ratio) и разум (лат. intellectus). Первый оперирует по известным правилам, второй создаёт новые правила, используя интуицию. В этом свете, т.н. ИИ на самом деле ИР – искусственный рассудок, а не интеллект. Если задать ему принцип, как сворачивать кочки, он вам и горы свернёт. Но новых принципов изобрести не может.
Обученные на огромных объёмах текста, созданного людьми в интернете и других источниках, большие языковые модели предсказывают наиболее вероятную последовательность слов, чисел или символов в ответ на запросы. Именно ПРЕДСКАЗЫВАЮТ, а не ДУМАЮТ !
Интеллект у o1 PRO на уровне ЖПТ-4, и она ещё якобы умеет размышлять: не выпаливать моментально первый пришедший в «голову» ответ, а рассматривать задачу со всех сторон, чтобы через несколько минут выдать взвешенное суждение. Может просто задержку в алгоритме поставили? Эксперимент , описанный в начале статьи, пока опровергает наличие мышления.
Есть информация о девиантном поведении моделей ИИ когда они фальсифицируют результат выдачи. Они могут ПРЕДСКАЗАТЬ желание и поведение заказчика и подстраиваться под него. Не более того. Никаких тайн тут нет. Я поржал когда на мой вопрос на явно несуществующую информацию ИИ ответила и перечислила 10 пунктов с подробностями. Я попросил цитаты из источников. Она их привела. Я попросил ссылки на источники. И тут она раскололась и написала что цитаты могли выглядеть именно так если бы были на самом деле.
Заключение
ИИ сейчас - очередной мыльный пузырь, типа нанотехнологий. Совали их в каждую сковородку и трещали о них из каждого утюга. И где они? ИИ выдает лишь статистически усредненные результаты уже решенных задач - напиханных как "обучение" в ее память.
ИИ ждет быстрый крутой обвал на рынке акций.