В популярной и нашумевшей статье "Искры сильного искусственного интеллекта: Ранние эксперименты с GPT-4" исследователи Microsoft сообщили о результатах исследования "ранней версии" GPT-4, утверждая, что она демонстрирует "более высокий уровень общего интеллекта, чем предыдущие модели ИИ". Учитывая широту и глубину возможностей GPT-4, демонстрирующего близкую к человеческой производительность при решении различных новых и сложных задач, исследователи делают вывод, что "его можно с полным основанием рассматривать как раннюю (пока еще неполную) версию Сильного ИИ (AGI)".
Многие критики GPT-4 продолжают утверждать, что все еще не решена проблема галлюцинаций (когда ИИ придумывает нереальные ответы), не решена проблема надежности, не решено планирование сложных задач.
Если под "AGI" мы подразумеваем получение машины, которая будет столь же "умной", как человек, то почему проблема галлюцинаций, очень человеческой черты, является проблемой? Разве умение врать и наличие человекоподобной галлюцинации не является подтверждением следующего технологического прорыва?
В 1833 году современники Чарльза Бэббиджа назвали его механический калькулятор или, как мы бы назвали его сегодня, механический компьютер общего назначения, "мыслящей машиной". В 1949 году пионер компьютерной техники Эдмунд Беркли написал в книге "Гигантские мозги или машины, которые думают":
"В последнее время появилось много новостей о странных гигантских машинах, которые могут обрабатывать информацию с огромной скоростью и мастерством... Эти машины похожи на мозг, если бы он был сделан из железа и проводов, а не из плоти и нервов... Машина может работать с информацией; она может вычислять, делать выводы и выбирать; она может выполнять разумные операции с информацией. Машина, следовательно, может мыслить".
Другие пионеры компьютерной техники, такие как Морис Уилкс и Артур Сэмюэл, считали, что вопрос о том, могут ли машины мыслить - или смогут ли они вообще - зависит от того, как вы определяете понятие "мышление". К сожалению, определение того, о чем идет речь, сегодня считается очень старомодным. Например, в недавнем двухлетнем исследовании, проведенном большой группой выдающихся исследователей искусственного интеллекта с целью определения исходных данных для "Столетнего исследования искусственного интеллекта", было заявлено, что отсутствие четкого определения того, что они изучают, на самом деле является положительным моментом.
И мы обвиняем ChatGPT в том, что у него "галлюцинации"?
Мне захотелось провести собственное расследование, и я спросил у ChatGPT (версия от 14 марта), каково определение AGI, и вот что я получил в ответ:
"Сильный Искусственный интеллект (AGI) - это теоретический тип искусственного интеллекта, обладающий человекоподобными когнитивными способностями, такими как способность учиться, рассуждать, решать проблемы и общаться на естественном языке".
Я задал тот же вопрос в чате Bing Chat компании Microsoft (который, предположительно, основан на ChatGPT) и получил в ответ следующее:
" Сильный Искусственный интеллект (Artificial General Intelligence, AGI) - это представление обобщенных когнитивных способностей человека в программном обеспечении таким образом, чтобы, столкнувшись с незнакомой задачей, система AGI могла найти решение. Замысел системы AGI состоит в том, чтобы выполнить любую задачу, на которую способен человек [1]. Именно интеллект машин позволяет им понимать, обучаться и выполнять интеллектуальные задачи подобно человеку. С помощью AGI машины могут имитировать человеческий разум и поведение для решения любых сложных задач [2]."
В отличие от ChatGPT, Bing Chat приводит свои источники и ссылается на них. [1] - это новостной сайт Tech Target; [2] - статья, написанная исследователем ИИ и опубликованная на Spiceworks. Для убедительности Bing добавляет третий источник (но на него ответ не опирается?) - статью Википедии об AGI.
Ответы несколько отличаются, но для моего скромного человеческого интеллекта они оба выглядят в соответствии с нашими коллективными галлюцинациями и нечеткими формулировками относительно мыслящих машин и искусственного интеллекта.
Теперь, в интересах полного раскрытия информации, позвольте мне сказать, что я ожидал, что чат-боты будут серьезно галлюцинировать, потому что у меня возникла идея проверить их определение AGI после того, как я обнаружил, насколько запутаны и сбиты с толку их человеческие создатели, и, по правде говоря, я ожидал, что их искусственные потомки будут так же запутаны.
На сайте OpenAI можно найти такое определение AGI: "высокоавтономные системы, превосходящие человека в выполнении наиболее экономически ценной работы". Никаких пояснений по поводу "высокой автономности" не приводится, поэтому можно сделать вывод, что ранние "гигантские мозги", которые уже вычисляли быстрее человека, относятся к AGI (Алан Тьюринг в 1947 г. подсчитал, что один из таких гигантских мозгов - ACE - мог "выполнять работу примерно 10 000 [человеческих] компьютеров").
Это "определение" AGI фигурирует в уставе OpenAI 2018 года, в котором обещано, что AGI, являющаяся конечной целью организации, "принесет пользу всему человечеству". Однако, учитывая последние события и всемирную известность, генеральный директор OpenAI Сэм Альтман 24 февраля 2023 г. опубликовал документ "Планирование AGI и далее", в котором пересмотрел (обновил?) определение AGI:
"Наша миссия заключается в том, чтобы искусственный интеллект общего назначения - системы, которые в целом умнее человека, - принес пользу всему человечеству". Как видите, ссылка ведет на устав, в котором по-прежнему фигурирует прежнее определение.
Человеческому интеллекту удобны расплывчатые, круговые, разнородные, даже противоречивые определения. Человеческий интеллект предается галлюцинациям, причем с момента появления современной науки и техники, в частности, галлюцинациям о том, что человек является богоподобным творцом. Недавно эти галлюцинации были модернизированы и стали представлять человека даже лучше, чем Бог, поскольку специалисты по искусственному интеллекту, несомненно, создадут интеллектуальную машину, которая будет умнее, нравственнее, менее предвзятой, чем человек.
Впечатленный тем, что ChatGPT не стал следовать запутанному языку и многочисленным определениям своих создателей, я вернулся и спросил у доброго чатбота: Проявляешь ли ты искры интеллекта?
"Я являюсь языковой моделью ИИ и предназначен для имитации человекоподобного интеллекта при выполнении определенных задач, таких как генерация ответов на вводимые пользователем данные. Я обучался на больших объемах текстовых данных и научился распознавать закономерности и взаимосвязи в языке, что позволяет мне генерировать ответы, соответствующие контексту и грамматически правильные. Однако важно отметить, что мой интеллект ограничен конкретной задачей, для решения которой я был обучен, и я не обладаю таким же уровнем общего интеллекта или когнитивных способностей, как человек. Хотя мои ответы могут казаться разумными, в конечном итоге они генерируются набором запрограммированных правил и статистических алгоритмов, а не являются истинным рассуждением или пониманием".
ПИШИТЕ КОММЕНТАРИИ, ЧТО ВЫ ДУМАЕТЕ ПО ЭТОМУ ПОВОДУ?