В “Интеллект-стеке” опубликован переписанный раздел “10. Логика” (добавлено главным образом про “квантовоподобность” в рассуждениях, excess Bayesian inference), сейчас приступил к “11. Рациональность”, там будет внесение идей из Рациональность в интеллект-стеке 2022: ailev — LiveJournal, если всё хорошо, то где-нибудь в понедельник и опубликую.
Сегодня в лаборатории AI смотрим очередную инкарнацию нашего бота, на основе finetuned GPT-3.5-turbo. Очень интересно, finetune рулит по сравнению с промптами! Бот поумнел существенно. Но пока в production мы его не выпускаем. А старый бот пока выключили, чтобы не смущал. Наша идея о том, что AI надо обучать на текстах наших учебников, а не на общей помойке знаний – она находит подтверждение. Вот статья “Textbooks Are All you need” от Майкрософт, [2306.11644] Textbooks Are All You Need. Если учить, например, кодированию на текстах из учебников программирования и упражнениях из этих текстов, то можно обходиться крошечными нейросетками и небольшими объёмами данных, и быть при этом более чем конкурентоспособными с большими моделями, обученными на больших объёмах данных, но не слишком качественных. Так что потихоньку двигаемся к model assystant, где model понимаем как модель в универсальном моделере. Вот ссылки на нашу стратегию AI:
– мой доклад на конференции про Aisystant как systems model assystant (стратегия ШСМ в области AI) — вот Современная системная инженерия и менеджмент 2023. День 2 - YouTube, презентация AI стратегия ШСМ 2023 -- 23apr23.pptx — Яндекс Диск
– рекомендательная система в клубе Мысли про Aisystant, лето 2023: ailev — LiveJournal
– общие направления сегодняшней нашей работы по AI Моё стратегирование в июне 2023: интеллект-стек (алгоритмика), приоритеты ШСМ, AI-стратегия: ailev — LiveJournal
– а что такое интеллект и состав интеллект-стека пишем в курсе “Интеллект-стек”. По идее, надо будет в какой-то момент подтащить литературу, а вот “как читать литературу” (как SoTA, или наоборот, как морально устаревшие идеи) – это как раз в материалах наших курсов.
Меня спросили, почему я сейчас так равнодушен к появлению в моих группах разных “тренеров” и “консультантов по менеджменту”. А потому, что большинство из них у меня обычно не показывают каких-то выдающихся результатов. Для них все наши курсы обычно “ещё одна книжка для цитирования на моих собственных курсах”, мышление они не перестраивают, а проекты у них всегда или “учебные”, или чужие, продолжения образования обычно нет. Иногда такой консультант в связи с исчезновением собственно консалтингового бизнеса встраивается в компанию работать. Тогда ему это надо не для “повышения квалификации”, а для реальной работы в компании. И тогда всё работает!
Очередной “термин” (в кавычках!) как кандидат на вылет – это “творчество”. О творчестве вечные дискуссии. Я о “творчестве” писал регулярно, например, Творчество в системном мышлении: ailev — LiveJournal, Компьютерное творчество: для всех, даром, и пусть никто не уйдёт обиженным!: ailev — LiveJournal, Компьютерное творчество: для всех, даром, и пусть никто не уйдёт обиженным!: ailev — LiveJournal, Музыкальное ухо выучили, на очереди "настоящая креативность": ailev — LiveJournal и так далее. Текстов много, и там уже более-менее всё понятно, что происходит. Cлово “творчество” чрезвычайно многозначное, но им пользуются как будто оно что-то более-менее понятное означает, все эти “творческие личности” и “творческие методы”. Иногда это аналогично параметру “температура” в порождающих моделях (то есть насколько хаос, тьфу, белый шум как источник всего принципиально нового, влияет на выход функции), иногда это “умение найти аффорданс, когда никто больше его не находит” (то есть решить изобретательскую задачу), иногда это указание на порождение не отдельного экземпляра в каком-то стиле (новый контент с использованием каких-то известных уже паттернов), сколько порождение стиля (нового паттерна, с которым потом ожидается, что будет сгенерировано много контента). Или вы находите решение какой-то проблемы, или нет, а слово “творчество” только уводит от сути дела. Хоть творчеством, хоть лаптем. Все эти “творческие личности” — фигня, поглядите на творческих собак, как они творчески прыгают, хотя интеллекта у них не очень много. Даже “новизну” Stanley и Lehman пытались определить точнее в своих работах. Так что вопрос “творчества” становится вопросом спора о терминах, так же как вопрос “предпринимательства” (которое тоже “творчество”, кстати). Надо выкидывать вредные многозначные слова. Мы отказались от слова “предприниматель” — и тут же решили множество вопросов, которые не решались, когда использовалось это слово. С “творчеством”, похоже, будет то же самое. Если не используете “творчество”, то оказывается, что есть множество теорий с хорошими словами про то же самое — функции те же, слова другие. Проблема порождения чего-то нового решена принципиально: это порождающие модели, которые развиваются с использованием умных мутаций (то есть идеи техно-эволюции, чуток отличной от дарвиновской эволюции), многоуровневая оптимизация конфликтов между уровнями и рост сложности. Дальше “творим”, насколько хватает вычислительных мощностей.
29 июня 2004 года я опубликовал текст про коммуникационный паттерн “Присоединение-ведение у Уилбера” (Присоединение-ведение у Уилбера: ailev — LiveJournal), и пожалился там, что не делаю “присоединение”, а сразу перехожу к “ведению”. Прошло девятьнадцать лет, а ведь ничего у меня не поменялось! Я думаю, что дело в неявном превращении изложения предмета в изложение “истории предмета”, с другой стороны, это становится “каталог заблуждений”. Что-то подобное пишет ведь и Дойч в своих книгах. Вот этот текст почти полностью:
Эх, научиться бы использовать коммуникационный паттерн “присоединение-ведение” в текстах так, как это делает Уилбер! Я вот пытаюсь представить, каким образом его читали бы атеисты/христиане/буддисты, или марксисты/кейнсианцы/австрийцы и понимаю, что каждый из них получил бы примерно такое метапослание: “да, у вас – именно у вас! – шикарный и правильный взгляд на мир! Очень ценные мысли! Правда, чистая правда, ничего кроме истинной правды, хотя и не вся правда. Ведь есть еще и некоторые проколы в видении отцов-основателей вашей теории/практики/верований. У вас, верных учеников и последователей, но живущих позже, есть все шансы этих проколов избежать путем учета того-то, и этого, и еще вот этого”. То есть по каждому отдельному поводу дается:
а) поиск и презентация позитивных намерений любого автора – от Будды до Маркса (обычно Уилбер всегда привязывает идеи к их авторам. У него идеи не самозарождаются, а кто-то первый их указывает).
б) показ правильности и адекватности главных устремлений и некоторых отдельных мыслейв)
в) показ глубоких заблуждений и зубодробительная критика
г) еще раз признание глубоких заслуг автора перед историей и людьми (что, по идее, должно освободить адепта от угрызений совести за то, что через пять минут он станет ревизионистом, ренегатом, предателем дела автора и т.д. – “при полном уважении и сохранении всего ценного” он ведь просто пойдет дальше учителя, так? 😉
д) указание, что глубокие заслуги правильны, но недостаточны ввиду очевидных недостатков. И требуется что-то новенькое.
е) предложение каких-то других “исправляющих” конструкций других авторов, часто сразу нескольких и разноплановых (очень часто с формулировкой "чтобы ответить на эти возражения были предложены три типа ответов: раз, два и три). Свои собственные конструкции он дает зачастую не как один из этих ответов (хотя и такое бывает), а как набор понятий, в которых видна глубинная общность этих раз-два-три, и в терминах которых далее будет понятна последующая критика.
Эта последующая обязательная критика – самое замечательное. После предложения других конструкций других авторов для каждой из них часто идет тот же цикл: предложенные новые конструкции проходят путь от а) до е), и очень немногие веточки остаются непрокритикованы. И так страница за страницей.
Тем самым его тексты могу читаться врагами чего угодно, и они часто найдут там зубодробительную критику объектов (субъектов😉) своей вражды. То же самое относится к адептам чего угодно – они найдут там если не похвалы, то как минимум объяснения, почему такой подход может иметь место. Присоединение гарантированно. Далее – ведение.
ПРОДОЛЖЕНИЕ 👈
#новости
#познавательное
#интересное
#левенчук
#мышление