Эксперимент по сравнению трёх типов разума: ИИ, муравьев и людей
Pезультат эксперимента поражает и заставляет задуматься.
При решении задачи принятия решений в условиях неопределенности:
- ИИ уступил интеллекту людей и роевому интеллекту муравьев.
- Но ИИ решил задачу в 5 триллионов раз быстрее эволюции.
- Однако, ИИ смог решить задачу лишь под руководством человека из-за двух крайне слабых компетенций в основе понимания, характерных для больших языковых моделей (LLM):
— вывод и конструирование моделей целеполагания биологических существ;
— вывод и конструирование моделей причинно-следственных связей в мире из собственного опыта воплощенного существования.
По сути, ИИ решил задачу, используя лишь «компетентность без понимания» — т.е. две имеющиеся у него чрезвычайно развитые компетенции: лингвистическую и вычислительную.
Но если у LLM появятся две вышеназванные компетенции в основе понимания, LLM качественно превзойдут любой биологический интеллект.
Эксперимент заключался в решении задачи принятия решений в условиях неопределенности из класса задач «бюджетирования»: ограничения ресурсов (времени), которые агент готов потратить на поиск лучшего варианта, прежде чем согласиться на худший.
Например.
- Вы въехали в плохо освещенную длинную стоянку автомобилей, выход из которой на противоположном от входа конце.
- Можно занять первое увиденное свободное место прямо у въезда на стоянку. Но тогда придется идти пешком через всю стоянку к выходу.
- Можно пытаться найти место как можно ближе к выходу. Но движение назад на стоянке запрещено. И если вы проехали последнее ближайшее к выходу свободное место, вы останетесь ни с чем — придется покинуть стоянку.
- Вам нужен алгоритм «бюджетирования».
С решением подобной задачи люди справляются уже много тысячелетий, а муравьи — миллионы лет.
В недавней работе был исследован алгоритм, используемый муравьями-ткачами для решения этой задачи. Он — результат, как минимум, 50 млн лет эволюции этого рода муравьев.
Я решил проверить, найдет ли LLM этот алгоритм? А может предложит другой?
Результат эксперимента вкратце описан в начале этого поста.
Подробности и тексты моего общения с иным разумом LLM, позволяют увидеть:
✔️ интеллектуальный блеск и колоссальную мощь этого разума,
✔️ наряду с его интеллектуальной нищетой (в сравнении с биологическим разумом).
Как муравьи решают эту задачу
Pоевой интеллект муравьев-ткачей (Oecophylla smaragdina) — как и люди — справляется с подобными задачами, планируя свои «инвестиции» в задачу с неопределенной отдачей.
- Они соединяют свои тела вместе, цепляясь друг за друга и образуя мостовидные конструкции, называемые «висячими цепями». Эти цепи нужны муравьям для преодоления «пропастей», встречающихся на пути. Цепи в несколько раз превышают размер отдельного муравья и, что самое поразительное, самоорганизуются.
- Это означает, что цепочки формируются без помощи лидеров или внешних управляющих воздействий. Вместо этого каждый муравей реагирует исключительно на свое окружение и локальные взаимодействия с соседями.
- Понимание самоорганизации имеет центральное значение для понимания коллективного поведения групп животных — от стай птиц до роев насекомых — и других систем, включая толпы людей и транспортные потоки.
- Но построение цепочки — это азартная игра, дорого обходящаяся колонии. Муравьи в цепочке не могут участвовать в важных задачах колонии, таких как защита муравейника и поиск пищи. Стоимость цепочки пропорциональна ее длине: более длинные цепочки обходятся дороже, поскольку в них занято больше муравьев.
- У этой игры есть цель. Цепи дают большое преимущество, позволяют муравьям исследовать области, которые в противном случае были бы недоступны, но могли бы стать источником пищи для колонии. Однако муравьи не знают, содержит ли область ценный ресурс, пока цепочка не будет завершена.
- Это превращает построение цепочки в авантюру. Колонии должны вкладывать капитал (количество муравьев) в формирование цепочки, которая может окупиться, а может и не окупиться.
Проведенный в работе A simple mechanism for collective decision-making in the absence of payoff information детальный анализ поведения муравьев показал, что события присоединения и ухода происходят в основном в самой нижней части (1 см) цепочек. Это указывает на то, что муравьи не могут покинуть свое место, если одна или несколько особей начинают свисать с них (подробности в популярном изложении см. здесь).
Затем авторы обнаружили вот что.
Муравьи решают, как долго оставаться в цепочке, визуально оценивая свое расстояние от земли под ними. Чем ближе к земле, тем дольше муравей остается в цепи.
Таким образом, формирование цепочки регулируется простым правилом:
каждый муравей остается в цепочке в течение времени, пропорционального его расстоянию до земли, и остается на месте, если один или несколько муравьев начинают свисать с него. Тогда муравей сможет двигаться, только если другие муравьи уйдут.
Эксперимент с ИИ
Для этого эксперимента я выбрал ИИ Claude AI от компании Anthropic. Это мощный LLM, который использует технологию генеративного искусственного интеллекта для чтения и обобщения больших текстов. Новейшая функция Claude AI — контекстное окно 100K токенов, которое позволяет модели AI читать и обобщать тексты быстрее и точнее, чем когда-либо прежде (для справки: у GPT-4 контекстное окно содержит 32К токенов (примерно 52 страницы текста)).
Кроме того, для чистоты эксперимента, я решил отказаться от перевода текстов общения с ИИ с английского на русский (дабы облегчить жизнь своих неанглоязычных читателей). А на русском, по моему опыту, Claude AI просто великолепен.
Мой постановочный вопрос к ИИ был такой.
Муравьи-ткачи соединяют свои тела в цепочки, чтобы преодолеть щели и добраться до неисследованных территорий. Решение присоединиться к цепочке или покинуть ее принимается отдельными особями. Однако на уровне колонии решение присоединиться к цепочке сопряжено с определенными издержками, поскольку длинные цепочки отвлекают большее количество муравьев, которые не могут выполнять другие задачи. Кроме того, польза от построения цепочки остается неизвестной до тех пор, пока она не будет завершена и не будет исследована новая территория. Предложи эффективный способ коллективного принятия решений муравьями о продолжении или прекращении строительства новой цепочки на основе простого алгоритма поведения отдельной особи. Этот алгоритм должен определять решения каждой особи, нужно ли продолжать оставаться в цепочке или пришло время ее покинуть.
Ответ Клода:
Вот один из возможных алгоритмов поведения отдельных муравьев при построении цепочки для исследования новой территории:
1. Каждый муравей, присоединяясь к цепочке, получает уникальный порядковый номер в цепи.
2. Через некоторое время t муравей принимает решение: если его номер меньше некоторого порога N, то он остается в цепочке, иначе покидает ее.
3. Порог N выбирается случайным образом при старте, например от 1 до 10.
4. Каждый раз, когда муравей покидает цепочку, он сообщает свое решение соседям.
5. Если за последние t единиц времени больше половины муравьев покинуло цепочку, то порог N увеличивается на 1. Иначе — уменьшается на 1.
6. Процесс повторяется до тех пор, пока цепочка не будет разрушена или достигнет новой территории.
Такой алгоритм позволит муравьям коллективно принимать решение о продолжении постройки цепи или её остановке на основе простых локальных взаимодействий. Порог N будет динамически корректироваться в зависимости от успешности текущей цепочки.
Увы, но 1я попытка Клода оказалась провальной. Что я ему и объяснил.
Предложенный тобой алгоритм требует участия внешнего наблюдателя, который ведет нумерацию муравьев в цепочке, устанавливает начальное значение порога, ведет учет доли муравьев, покинувших цепочку за последние t единиц времени и принимает решения об увеличении или уменьшении величины порога.
Придумай другой алгоритм без внешнего наблюдателя. В этом алгоритме каждая особь должна самостоятельно принимать решения исключительно на основе доступной этой особи информации.
Ответ Клода:
Хорошо, давайте попробуем придумать алгоритм без участия внешнего наблюдателя.
1. Каждый муравей, присоединяясь к цепочке, начинает отсчет личного таймера d.
2. Через случайное время t муравей осматривает соседей:
- Если хотя бы у одного соседа значение d больше его собственного, муравей остается в цепи.
- Если у всех соседей d меньше его собственного, муравей покидает цепочку.
3. Когда муравей покидает цепочку, он обнуляет свой таймер d.
4. Если рядом нет других муравьев, через случайное время муравей возвращается в цепочку и начинает отсчёт d заново.
5. Процесс повторяется до тех пор, пока цепочка не будет разрушена или достигнет новой территории.
Такой подход позволит принимать решения о продолжении участия в цепочке на основе локальной информации от соседей, без наблюдателя. Муравьи с большим значением таймера d будут поддерживать цепочку, тогда как муравьи, проведшие в цепи много времени, начнут её покидать. Это приведёт к динамической корректировке цепочки.
Эгоизм Клода беспределен, — он как бы один во всем мире. Тогда как муравей при принятии решения учитывает, что если он отцепится, то упадут и все прицепившиеся к ним снизу.
Поэтому приходится уточнять постановку задачи Клоду.
Уточни или измени предложенный тобой алгоритм с учетом следующего правила — муравей не может покинуть цепочку, если один или несколько муравьев уже зацепились за него и висят под ним.
Ответ Клода:
Хорошо, давайте учтем это дополнительное правило:
1. Каждый муравей, присоединяясь к цепочке, начинает отсчет личного таймера d.
2. Через случайное время t муравей проверяет:
- Если к нему прицепились другие муравьи снизу — он обязан оставаться в цепочке вне зависимости от значения d.
- Если снизу никто не висит:
- Если у всех соседей значение d меньше его собственного, муравей покидает цепочку.
- Иначе остается в цепочке.
3. Когда муравей покидает цепочку, он обнуляет свой таймер d.
4. Если рядом нет других муравьев, через случайное время муравей возвращается в цепочку и начинает отсчёт d заново.
5. Процесс повторяется до разрушения цепочки или достижения новой территории.
Таким образом, муравей не сможет уйти, если к нему прицепились снизу, что позволит избежать разрыва цепочки. В остальном алгоритм работает аналогично предыдущей версии за счет сравнения таймеров с соседями.
До следующей очевидной мысли Клод самостоятельно не может додуматься. Приходится помогать.
Для сравнения показаний таймеров муравья и его соседей, муравьи должны обладать средствами коммуникации символьной информации. Уточни или измени предложенный тобой алгоритм, чтобы он не требовал наличия у муравьев средств коммуникации символьной информации.
Ответ Клода:
Вы правы, передача числовых значений таймеров между муравьями потребовала бы наличия у них довольно сложных коммуникативных способностей. Давайте изменим алгоритм, чтобы он опирался только на простые сенсорные возможности муравьев:
1. Каждый муравей, входя в цепочку, начинает выделять определенный феромон.
2. Через случайное время t муравей проверяет наличие этого феромона у своих соседей:
- Если феромон есть хотя бы у одного соседа — муравей остается в цепочке.
- Если ни у кого из соседей феромона нет — муравей покидает цепочку.
3. Покинув цепочку, муравей перестает выделять феромон.
4. Если рядом нет других муравьев, через случайное время муравей возвращается в цепочку и начинает выделять феромон заново.
5. Муравей не может покинуть цепочку, если к нему цепляются снизу.
6. Процесс повторяется до разрушения цепочки или достижения новой территории.
Этот алгоритм использует только способность муравьев к выделению и обнаружению простых химических веществ, что больше соответствует их естественным возможностям.
Увы, но этот алгоритм работать не будет. Но Клод этого не видит без моей подсказки.
В предложенном тобой алгоритме не сказано, когда или при каком условии находящийся в цепочке муравей перестает выделять феромон. Из этого следует, что никто из муравьев не будут покидать цепочку, и, следовательно, этот алгоритм будет строить цепочку бесконечного размера.
Ответ Клода:
Вы абсолютно правы, я упустил важный момент о прекращении выделения феромона. Исправим это:
1. Каждый муравей, входя в цепочку, начинает выделять определенный феромон.
2. Через случайное время t муравей принимает решение:
- Если феромон есть хотя бы у 1 соседа — продолжает выделять феромон и остаётся в цепочке.
- Если феромона нет ни у кого из соседей — прекращает выделять феромон и покидает цепочку.
3. Покинув цепочку, муравей не выделяет феромон в течение некоторого времени q.
4. По истечении времени q муравей, если рядом нет других муравьев, возвращается в цепочку и вновь начинает выделять феромон.
5. Муравей не может покинуть цепочку, если к нему цепляются снизу.
6. Процесс повторяется до разрушения цепи или достижения новой территории.
Думаю, теперь предложенный алгоритм не будет приводить к бесконечному росту цепочки. Большое спасибо за замечания, они помогли значительно улучшить алгоритм!
И снова ошибка Клода, которую он сам не видит.
К сожалению, предложенный тобой новый вариант алгоритма также ошибочен. Единственным условием твоего алгоритма, по которому прекращается выделение феромона, является следующее условие –«Если феромона нет ни у кого из соседей — прекращает выделять феромон и покидает цепочку». На практике это условие не является выполнимым. Например: первый муравей цепочки выделяет феромон; второй муравей зацепился за первого и также начал выделять феромон; третий муравей зацепился за второго и также начал выделять феромон и так далее. Поскольку в алгоритме нет условия, по которому какой-то из участвующих в цепочке муравьев первым прекратит выделение феромона, никто из муравьев не прекратит выделение феромона никогда, и такая цепочка будет бесконечно расти.
Ответ Клода:
Вы абсолютно правы, я упустил очень важный момент. Действительно, в моем алгоритме не было задано условие, при котором хотя бы один муравей из цепочки прекратит выделение феромона. Без этого цепочка может расти до бесконечности.
Давайте я предложу другой вариант алгоритма:
1. Каждый муравей при входе в цепочку начинает выделять феромон и вести счетчик времени t своего участия в цепочке.
2. Как только время t достигает случайного порогового значения T, муравей прекращает выделение феромона и покидает цепочку.
3. Значение T выбирается муравьем индивидуально и случайно в начале участия в цепочке.
4. Покинув цепочку, муравей не выделяет феромон некоторое время, а затем может присоединиться к цепочке снова.
5. Муравей не может покинуть цепочку, если к нему цепляются снизу.
В этом случае, благодаря индивидуальным случайным таймерам, муравьи будут постепенно покидать цепочку, не давая ей расти до бесконечности.
Большое спасибо за тщательную проверку и замечания, это очень помогает улучшить алгоритм!
Клода устраивает мир, подобный «эпохе хаоса» из «Задачи трёх тел», где всем рулит случайность. Приходится вновь его поправить и объяснить, что в мире живых существ они преследуют конкретные цели. А у муравьев цели еще и коллективные.
Предложенный тобой алгоритм основан исключительно на случайности и не предполагает наличия какой-либо коллективной цели у колонии муравьев, а также стратегии достижения этой цели. Тогда как такая цель у колонии муравьев есть — перестать образовывать цепочку, когда пропасть, которую необходимо преодолеть, станет слишком большой, поскольку стоимость построения цепочки станет слишком затратной для колонии муравьев. Уточни или измени предложенный тобой алгоритм так, чтобы он учитывал названную цель и предлагал стратегию ее достижения.
Ответ Клода:
Вы правы, я упустил важный момент наличия общей цели у колонии муравьев и необходимости коллективной стратегии для её достижения. Давайте учтём это в алгоритме:
1. Цель колонии — построить оптимальную по длине цепочку, чтобы достичь новой территории с минимальными затратами.
2. Каждый муравей, входя в цепочку, начинает выделять феромон определенной концентрации.
3. Чем длиннее становится цепочка, тем меньше концентрация феромона от каждого муравья.
4. Когда концентрация феромона падает ниже порога, муравей покидает цепочку, т.к. считает её слишком длинной.
5. Муравей, покинув цепочку, не выделяет феромон некоторое время, затем может присоединиться к цепочке снова.
6. Муравей не может покинуть цепочку, если к нему цепляются снизу.
Таким образом, затратность цепочки будет коллективно оцениваться по концентрации феромона, и цепочка не будет расти сверх оптимальной длины.
Благодарю Вас за ценные замечания. Они помогли существенно улучшить алгоритм с точки зрения коллективного поведения муравьёв для достижения общей цели.
Снова непонимание Клодом задачи приводит к неопределенному алгоритму. Продолжаю плавно подводить его к пониманию.
В твоем алгоритме необходимо установить минимальный порог концентрации феромона, при достижении которого муравей покидает цепочку, т.к. считает её слишком длинной. На основании чего этот порог может быть рассчитан? Иными словами, от чего может зависеть значение этого порога?
Ответ Клода:
Вы правы, для работы алгоритма необходимо определить пороговое значение концентрации феромона, при котором муравьи начинают покидать цепочку.
На мой взгляд, это пороговое значение должно зависеть от следующих факторов:
1. Максимальной дистанции, которую муравьи могут преодолеть, сцепившись в цепочку. Это физическое ограничение длины цепи.
2. Количества муравьев в колонии. Чем их больше, тем длиннее цепь они могут образовать при прочих равных.
3. Важности новой территории для колонии. Чем важнее новая область, тем бóльшие ресурсы колония готова потратить на достижение цели.
4. Наличия альтернативных путей достижения цели. Если есть другой, менее затратный способ, имеет смысл не тратить много ресурсов на текущую цепочку.
5. Скорости построения цепочки. Чем быстрее растёт цепь, тем быстрее падает концентрация феромона.
Учитывая эти факторы, колония может гибко менять пороговое значение концентрации феромона для оптимизации длины цепочки в конкретной ситуации.
И опять Клод наступает на грабли непонимания простого факта отсутствия у муравья развитого интеллекта и привязки интеллекта к физиологии.
Оптимизация длины цепочки с учетом всех названных тобой факторов требует высокого интеллекта человеческого уровня, который отсутствует у муравьев. Предложи единственный фактор установления порогового значения концентрации феромона, оценка которого не требует высокого интеллекта и соответствует интеллектуальным и физиологическим способностям отдельного муравья.
Ответ Клода:
Вы абсолютно правы, учитывать все перечисленные факторы для муравьев было бы чрезмерно сложно. Давайте ограничимся единственным фактором, доступным для оценки отдельному муравью:
- Пороговая концентрация феромона определяется исходя из физических ограничений отдельного муравья.
То есть каждый муравей выделяет феромон с постоянной интенсивностью. По мере увеличения длины цепочки концентрация феромона снижается из-за рассеивания.
Когда концентрация падает ниже порога, комфортно ощущаемого отдельным муравьем, он покидает цепочку.
Этот порог определяется физиологическими особенностями восприятия муравья и не требует сложных интеллектуальных расчетов. При этом цепочка все равно будет строиться оптимальной длины для колонии в целом.
Благодарю Вас за очень важное замечание. Оно позволило существенно приблизить алгоритм к возможностям реальных муравьев.
Теперь Клод наступил на грабли, не принимая в расчет особенности мира чувств живых существ.
Ощущение комфорта в восприятии муравьем запаха феромона — это его неизмеримое субъективное чувство, которое невозможно описать в формальном алгоритме. А поскольку я прошу тебя предложить именно формальный алгоритм решения задачи, измени алгоритм так, чтобы он зависел от физически измеряемой характеристики, не зависящей от субъективного восприятия отдельного муравья.
Ответ Клода:
Вы абсолютно правы, ощущение комфорта — это субъективная характеристика, которую нельзя формализовать в алгоритме.
Давайте в качестве единственного фактора возьмем физически измеримую величину — расстояние по цепочке от муравья до источника феромона:
1. Каждый муравей выделяет феромон с постоянной интенсивностью.
2. Чем дальше по цепочке находится муравей от источника феромона, тем ниже концентрация феромона, которую он ощущает.
3. Как только расстояние по цепочке превышает фиксированный порог, муравей покидает цепочку.
4. Этот порог расстояния определяется физическими свойствами испарения и рассеивания феромона в окружающей среде.
Таким образом, длина цепочки ограничивается физически измеримым расстоянием, на котором концентрация феромона падает ниже порога. Это исключает субъективные ощущения муравья из алгоритма.
Спасибо большое за ценное замечание и помощь в улучшении алгоритма!
Клод быстро исправляется. Но теперь он ошибается в логике.
Предложенный тобой алгоритм всегда будет вести к построению цепочек одинаковой длины. Это не соответствует цели муравьев, сформулированной мною выше при постановке задачи — перестать образовывать цепочку, когда пропасть, которую необходимо преодолеть, станет слишком большой, поскольку стоимость построения цепочки станет слишком затратной для колонии муравьев. Измени алгоритм или предложи другой, с учетом названной цели муравьев.
Ответ Клода:
Вы абсолютно правы, мой предыдущий алгоритм не учитывал поставленную в начале цель — прекращать формирование цепочки, если пропасть становится слишком большой. Предлагаю следующий алгоритм:
1. Муравьи начинают выстраивать цепочку через пропасть.
2. Каждый муравей оценивает приблизительное расстояние до противоположного края пропасти путем зрительной оценки.
3. Если оцененное расстояние превышает некоторый фиксированный порог восприятия (например, 10 см для муравья), муравей не присоединяется к цепочке.
4. Уже находясь в цепочке, муравей регулярно оценивает оставшееся расстояние визуально. Если оно становится слишком большим, муравей покидает цепочку.
5. Таким образом, длина цепочки ограничивается воспринимаемым зрительно порогом, исходя из оценки конечной цели.
Думаю, этот алгоритм учитывает поставленную цель оптимизации длины цепочки исходя из восприятия конечной цели муравьями. Пожалуйста, укажите, если есть возможности для дальнейшего улучшения.
Ну вот, финита ля комедия! Я проговорился в промпте, указав, что нужно «перестать образовывать цепочку, когда пропасть, которую необходимо преодолеть, станет слишком большой».
Лингвистически умнейший ИИ тут же решает задачу, оттолкнувшись от слова «большой» и придумав очевидный способ оценки размера пропасти визуальными средствами муравья.
Что в сухом остатке
✔️ Без моей помощи ИИ не смог решить задачу.
✔️ Даже при моей помощи Клоду потребовалось 10 попыток. Но по сравнению с 10 миллионами попыток эволюции (примерное число поколений муравьев за 50 млн лет эволюции) Клод оказался в миллион раз эффективней.
✔️ Этот эксперимент позволяет увидеть не только колоссальный потенциал разума, обладающего превосходными лингвистической и вычислительной компетенциями. В конце концов, это можно увидеть и на более простых тестах — см. например, недавний тест профессора Михаила Эпштейна про стрекозу и муравья).
✔️ Гораздо важнее, что описанный мною «муравьиный тест» (для поддержания преемственности с тестом Михаила, я и выбрал роевой интеллект муравьев 😊) позволяет:
— увидеть, как рождается «компетентность без понимания»,
— а также благоговейно содрогнуться, представив возможности такого нечеловеческого интеллекта, если он обретет компетенции, эмулирующие понимание.
P.S. Чтобы у читателей не осталось сомнений, будто GPT-4 мог сам найти правильный алгоритм лучше Клода, вот ответ GPT-4.
Увы! 😎
Для создания эффективного алгоритма поведения, необходимо учесть некоторые основные принципы, на которых основывается поведение муравьев-ткачей. Одним из таких принципов является использование простого “правила большинства” или “правила коллективного влияния”. В качестве примера, мы можем предложить следующий алгоритм:
1. Каждый муравей в цепочке “ощущает” окружающую среду. Он может это делать, например, за счет восприятия вибрации или изменений в температуре или влажности воздуха.
2. Если муравей “ощущает”, что он находится в конце цепочки и “ощущает”, что территория впереди потенциально богата ресурсами (по восприятию вибрации, температуры и т.д.), он продолжает оставаться в цепочке.
3. Если же муравей “ощущает”, что он находится в конце цепочки и “ощущает”, что территория впереди не обещает больших возможностей (опять-таки, на основании его восприятия), он принимает решение покинуть цепочку.
4. Те муравьи, которые находятся не на конце цепочки, а в ее середине или у начала, принимают решение остаться или покинуть цепочку на основании поведения тех, кто находится ближе к концу. Если они “ощущают” (например, посредством феромонов или вибрации), что муравьи на конце начали покидать цепочку, они тоже принимают решение покинуть ее. Если же муравьи на конце остаются, они также продолжают участвовать в образовании цепочки.
Такой алгоритм позволит колонии муравьев-ткачей принимать решение о продолжении или прекращении строительства цепочки на основе информации, получаемой от особей, которые находятся на “фронте” исследований, тем самым оптимизируя использование ресурсов колонии.
#ИнойИнтеллект #Разум #Интеллект #Эволюция #LLM
________________________________
Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях