Истина, выраженная в форме (например, написанная, сказанная..), перестаёт ей быть, включая и то, что я пишу...исключения, как правило, составляют метафоры, притчи, сказки, пословицы...музыка, живопись.
Прочитав этот тренинг-статью, читатель:
- сделает гимнастику для мышления, что позволит, быть может, увеличить осознанность и, соответсвенно, привнести больше свободы в своё мышление и, как следствие, в свою жизнь
- периодически, думается, тренинг-статью стоит перечитывать, делать пометки, пытаясь понять изложенные смыслы и связи между ними
...также будет иметь представление:
- о простой модели социума
- о ментальных моделях
- об основных законах социума
- об ИИ и его влиянии на будущее
- о том, можно ли создать сильный ИИ с помощью нейроных сетей
- о самом главном вопросе, без решения которого, наши перспективы довольно туманны, к сожалению
От автора
Тренинг-статья написаны специально "рваным темпом", с многочисленными открытыми вопросами, с большим количеством заложенных явных и скрытых смыслов и взаимосвязей, с резкими переходами. Предполагаю, что можно "потеряться" от перегрузки смыслами. После перегрузки и отдыха, можно попробовать заново. Тем, кто имел опыт работы с коанами, возможно, стоит попробовать отнестись к этой статье, именно как коану, а чтение её, как работа с коаном. Если будут вопросы, внизу мои контакты.
Лекция — презентация:
Как и все, ты с рождения в цепях. С рождения в тюрьме, которой не почуешь и не коснешься. В темнице для разума.
Контекст этой статьи
Очевидно, что ИИ "пришло", как минимум ИИ-модели. Начало эры ИИ, как утверждал Bill Gates в своей статье от 03.2023, где он описывает своё видение и выражает надежды на решение старых и новых проблем человечества "новыми инструментами". Есть немало статей и других материалов на эту тему. Поскольку я сам работаю в области и у меня есть своё видение, я написал часть этой статьи 03-05.2023. По личным обстоятельствам, закончил и публикую её только сейчас. Помимо ИИ, статья поднимает главный, как мне видится, вопрос, который я буду раскрывать в последующих публикациях. Я говорю также про "сценарии будущего", поэтому думаю спустя 10-12 месяцев после написания, будет отчётливее видно, если мои размышления ошибочны.
Основной вопрос: для чего и как мы взаимодействуем с друг другом?
Ошибки людей сильного ума тем именно и бывают страшны, что они делаются мыслями множества других людей.
Н. Г. Чернышевский
Написано: 30.05.2023; отредактировано: 26.05.2024.
Введение
Все мои статьи пронумерованы и номер индекса имеет значение. Мои статьи поднимают философско-практические вопросы и расчитаны на вдумчивое, нескорое чтение. Цель - увеличить осознанность, задуматься: возможно, я скорее поднимаю вопросы, нежели отвечаю. Статья "#0: Метафорическая автобиография или бункерные истории профессора" является вводной, об авторе.
Зачем я пишу эту статью и почему сейчас
Мне захотелось выразить свои мысли таким образом и надеюсь это кому-то интересно и/или полезно.
Миллионы обывателей и "бывателей" впечатлены возможностями ИИ-моделей уже который год, с нарастающим уровнем удивления и с предвкушением (быть может, некоторые с настороженностью) ждут выхода следующих версий всеми известных ИИ-продуктов. Немало компетентных и/или известных людей предлагали срочно сделать 6-ти месячную паузу в ИИ-разработках.
Некоторые коллеги по "цеху" предлагают своё видение влияния на общество результатов своей и нашей, коллеги, коллективной работы (например, статья OpenAI). Моё внимание привлёк пост в фб опытного дата инженера, который делился своими впечатлениями от этой статьи.
Он был крайне удивлён тем, как развиваются события и вспоминал свой разговор с таксистом 2015 года в Тбилиси, где он интересовался у таксиста, чем он будет заниматься, когда скоро машины будут сами ездить. Для него было удивлением, что в первую очередь развитие ИИ-технологий повлияют на высокооплачиваемые работы.
Мне видится это ироничным и достойным более глубокого осознания, что большое количество умных людей по всему миру с хорошими зарплатами работают над чем-то, последствия чего они сами не понимают. В этот контекст органически "вписывается" небезызвестный скандал в OpenAI с увольнением CEO Sam Altman и его возвращением: иронично, что люди, которые не могут просчитать последствия своих собственных решений в рамках одной компании, берутся "делать мир лучше с помощью создания сильного-ИИ". Уместно в данном контексте также вспомнить "отречение" Илона Маска от "своего детища" и ироничное становление OpenAI не таким уж и "Open". Это огромный контраст с прошлым: сапожник знал, что он вложит столько-то времени и энергии и будет обувь и т.д. Можно было бы сравнить нашу деятельность с деятельностью учёных экспериментаторов, но в таком случае масштаб вкладываемых ресурсов (денежных, человеческих и т.д.) огромен в сравнении с учёными-одиночками/группами как в прошлом, учитывая, что мы не осознаём последствий конечного продукта. На этом я хотел бы и заострить внимание в статье. Также я хочу поднять вопрос, который считаю самым главным.
Детальное изучение отдельных органов отучает понимать жизнь всего организма.
В. О. Ключевский
Чем я хочу поделиться
Я представлю через метафоры простую ментальную модель, которую можно использовать для моделирования социо-экономической динамики.
Для кого пишу
Думается, мои статьи могут быть интересны "архитекторам", людям оперирующими мета-ментальными (и более сложными) моделями. Также, быть может, людям, которые не привыкли использовать разные ментальные модели, чтобы разбираться в происходящих процессах.
Что полезного, может быть, они извлекут из этой статьи
Возможно, читатель узнает о другом способе мыслить о реальности. Соответственно, появится возможность увидеть другие причинно-следственные связи.
Об авторе
Я приведу некоторые факты, повлиявшие на формирование моих ментальных моделей.
Базис: можно условно сказать, что каждые "3 месяца-полгода я переезжал и адаптировался в другом обществе/стране" (на бессознательном, но затем и на сознательном уровне). Для меня не само собою разумеющееся: здоровье, чистый воздух, наличие воды, еды, электричества, места для сна (не подразумевается сон в тишине, это уже экстра), наличие тихого места, где можно уединиться, спокойствие, наличие близких людей; одежда и т.д. - это уже экстра. Менял много социальных ролей. Практиковал различные духовные практики. Опыт общения с разными людьми из разных социальных страт. Я также математик и с детства люблю цифры.
Места проживания (бол. 2 месяцев): УССР: Николаев, Комсомольск на Днепре, Берислав; Украина: Николаев, Краматорск, Комсомольск на Днепре, Берислав; Израиль: кибуц Ягур, Нешер, Хайфа; Швейцария: Лугано; Франция: Ренн; Греция: Афины; Германия: Берлин. Много где был.
PhD, тема: Спектральные мульти-модальные методы анализа данных; научный руководитель: Prof. Michaеl M. Bronstein.
В добрый путь, капитан!
Мне близка метафора управления кораблём, поскольку я имел небольшой опыт управления рыболовецким судном в Средиземном море. Продолжу эту метафору в контексте управления-моделирования социума/социо-экономических систем. Представим, что всё человечество плывёт на корабле. Есть два штурмана: Коллективное Сознательное и Коллективное Бессознательное. Но это не так интересно: представим, что Ты, мой читатель, тоже капитан, но своего судна (Рис. 2), которое неким образом влияет на плавание большого корабля на Рис. 1.
Опишем вначале законы и правила движения. Для запоминания и упрощения восприятия материала законы будут описаны простым языком. Все законы я сформулировал сам для себя в течении жизни, и они отвечают моему личному опыту, знаниям и наблюдениям. Пожалуйста, используйте всё чему я "учу" разумно и во благо.
Надеюсь, что Тебе, читатель, было интересно провести немного своей драгоценной жизни со "мной" читая эту статью.
0. Закон "Тайны Божией"
Есть события и понятия, которые не вписываются ни в один закон...кроме как Тайны Божией.
Принцип "Бритвы Оккама"
Не объясняй сложно, если можно объяснить легко. Если можно объяснить проще, не прибегая к "теориям заговора", то используй это объяснение. Что, в прочем, не означает, что некая "теория заговора" не верна.
1. Закон "Упрощения" или "Параметризации"
Любое явление можно упростить на его составляющие и после "работать с ними". Говоря математическим языком: его можно параметризировать, найдя "проекцию" на подходящую под задачу "систему координат". Далее можно иметь дело с этим ограниченным количеством параметров.
- Одушевлённое: любой человек - это "космос" и очень сложен, проще объединить людей по "классам", используя значимые для задачи признаки (5PFQ, XYZα, Архетипы, Темперамент, Знаки Зодиака, Соционика, Дизайн Человека, Коэффициент Интеллекта, 9-типов по Анаграмме, Персоны в маркетинге, Касты 1, Касты 2, Метафизические Классы и прочее).
- Неодушевлённое: рассматриваемое явление можно смоделировать как Риманово многообразие - это объект, в каждой точке которого существует "касательная плоскость с системой координат"; после, "спроецировать" всё на эту "плоскость" и далее там применять стандартный математический инструментарий для анализа и манипуляций ("поверхность" одной картинки, пространство всех картинок, 3D объект, пространство 3D объектов, граф, пространство всех комментариев, пространство всех текстов, пространство всех "стилей художников", пространство всех "стилей музыки", пространство всех песен, пространство всех аудиосигналов, произведённых артистом/музыкальным инструментом, пространство всех гладких функций, пространство всех операторов и прочее).
Обоснование: Риманова геометрия и дифференциальная геометрия, ортогональные функции: функции Фурье, спектральное разложение и прочее; например, существование науки психология, которая способна находить закономерности и "каталогизировать" личности; существование и "успешное" применение "скриптов", используемых мошенниками; существование и применение пикапа для соблазнения и прочее.
Хорошо, мы умеем "упрощать"/"параметризировать": а почему это позволяет нам делать какие-то выводы касательно людей? Разве человек предсказуем?
2. Закон "Матрицы" или "Обломов-лайт"
Часто мы мыслим и, соответсвенно, действуем "автоматически", "шаблонно", реализуя определённые "сценарии". Мы можем, как автобиль, автоматически переключать разные, быть может, очень сложные "сценарии"/"шаблоны" для решения знакомых задач, не отдавая себе в этом отчёт.
Любое действие или мысль за пределами имеющегося опыта вызывает, как правило, тревогу, сомнения и требует бОльших усилий в сравнении с привычным. Это требует дисциплины и определённой привычки, которая не у всех людей развита.
Осознанность является инструментом в преодолении "автоматизированности" и "запрограммированности" (немного про осознанность тут, здесь учат бесплатно).
- Способствует: любая монотонная деятельность, "рутина", некоторые профессии: кассир, работник на конвеере и прочее.
- Не способствует: деятельность, требующая критическое мышление, влияние на людей (например продавцы, политики, маркетологи, мошенники), диверсионная и шпионская, занятие творчеством, инвестирование и прочее.
Обоснование: автоматические мысли, жизненные сценарии, небольшая статья с ссылками на научные работы про автоматичность (например вот эта или эта), "Думай медленно...решай быстро", Г. Гурджиев и прочее.
У меня есть моё личное наблюдение какой процент людей или какую часть заданий мы "шаблонизировали" или "автоматизировали", которое я использую для себя; мне не известны научные труды на эту тему, поэтому не буду тут писать эти цифры; скажу только, что я использую подобие Закона "80/20".
Думать сложно, поэтому большинство людей судит
К. Г. Юнг
Значит человек в какой-то мере "предсказуем", "автоматизирован" и, будучи осознанным, этот Закон "Матрицы" "ломается". Сейчас "осознанность" в "тренде": многие медитируют, ходят на йоги, различные тренинги, книги, ходят к психологам, которых огромное количество и прочее. Значит этот закон - не закон и он почти не работает?
3. Закон "Эхо в горах"
Заблуждение думать про осознанность как некоторое "точечное" действие-"пребывание в моменте", поскольку осознанность имеет "форму", можно сказать "радиус". "Радиус осознанности" можно "определить" как "расстояние, на которое мы слышим отголоски наших поступков, "себя" ... и, в более продвинутом виде, мыслей": как эхо своего голоса в горах; кто-то глух, кто-то слышит пару раз своё эхо, а кто-то, быть может, слышит весьма долго "отражение" от скал своего голоса.
Иначе можно сказать, что "радиус осознанности" - это насколько глубоко мы осознаём причинно-следственные связи и себя/своё влияние в этом пространстве в каждый момент и в разных контекстах.
Понятно, то есть то, что многие "прокачивают", куда "они идут" в практиках, является, как правило, ошибочным и позволяет им "со спокойной душой" делать то, что они бы делали и так. Ну а что на счёт практик, разве они не должны людям помогать понять это и другие вещи ?
4. Закон "Контроля Оппозиции/Правых"
Любая практика (например випассана, дыхательные практики Вим Хофа, молчание, сатори, испытание реальностью, психоанализ разного направления/школы, работа с коанами, использование таблеток/грибов/трав, разновидности йог, терапий и прочее) - это инструмент. Может быть очень мощный инструмент.
Любой инструмент создаётся для решения определённых задач. Многие практики-инструменты подразумевают сохранение "статуса-кво" при их практиковании; то есть созданы специально, чтобы определённые вещи не менялись, прежде всего в мышлении практикующего.
Этот закон будет, мне думается, проще понять людям из "структур", диверсионных войск, политтехнологов и прочих: для контроля над несогласными с любой системой (а такие всегда будут исходя из Законов "Стреляющей палки" (для подтверждения существования) и "Колокольчика" (описывает количество таких людей)), выгоднее эти движения "возглавить", контролировать верхушку; финансировать, следить и контролировать за всеми их действиями: акции протеста, телеграм каналы и прочее.
То есть один из способов сохранения "статус-кво", прежде всего в мышлении, это продвигать и поощрять "выгодные практики, медитации, понятие осознанности, йоги..."? А какие ещё приёмы применяются?
5. Закон "Девушки в красном платье"
Те, у кого есть дети, знают, что их внимание можно обратить на что-то, чтобы они "переключились" с "нежелательного". Схоже и с нами: нам создают "повестку", чтобы мы не обращали своё внимание на то, на что не "стоит обращать внимание"; как следствие, чтобы нам в голову не "приходили неподходящие вопросы и действия".
6. Закон "Загнанной лошади"
Наша социо-экономическая система сделана, как правило, так, чтобы у нас было как можно меньше времени "смотреть по сторонам", чтобы не "приходили в голову ненужные мысли, вопросы".
7. Закон "Внимания"
Где твоё внимание, там и Ты.
Мы ошибочно думаем, что деньги, время и прочее это главный ресурс. Самый главный ресурс человека, это, пожалуй, его внимание (здесь должен быть переход на душу - базис всего, но останусь в "светской риторике"). Дальше энергия. Именно поэтому "инфлюенсеры" и прочие зарабатывают деньги. Где много внимания людей, там их энергия, которая, при определённых контекстах, конвертируется в денежные единицы, например.
Это, пожалуй, наверное второй по важности закон.
А почему контроль внимания важен?
8. Закон "Розового слона"
"Мир человека" ограничен его опытом в широком смысле слова. То, что не "побывало во внимании" человека, для него не существует в его сознании.
Если человек никогда не слышал и не видел "розовых слонов", то он не может попросить себе в "армию"... "розового слона".
Любые изменения начинаются с мысли об идее... и придание ей внимания.
9. Закон "Энштейна о решении проблем и анализе систем"
"Невозможно решить проблему на том же уровне, на котором она возникла. Нужно стать выше этой проблемы, поднявшись на следующий уровень."
Альберт Эйнштейн
То же работает и для анализа систем: ты не можешь анализировать то, частью чего ты являешься, вначале тебе надо перестать быть участником этой системы. Поэтому и приглашают внешних специалистов: для анализа и решения проблем в отношениях, конфликтах, личного психолога и прочее, которые не являются участниками этой "динамической системы"/"сторонние наблюдатели".
10. Закон "Кто как обзывается, тот так и называется"
Проекция в психологии. "Хорошие люди" не могут себе, как правило, представить всю изощрённость мыслей и намерений "плохих людей", они судят по "себе" опираясь на свой опыт.
11. Закон "Дао"
Когда появляется "мягкое", появляется и "твёрдое",
когда появляется "лёгкое", появляется и "тяжёлое"...
Одно не может существовать без другого.
12. Закон "Титаника"
Даже если ты "видишь айсберг впереди", есть "инерция", не позволяющая мгновенно "остановиться". "Инерция" есть как у одного человека (например человек, куривший долго и много, не может, как правило, перестать сразу...или мгновенно внедрить новую привычку-"изменить курс своего корабля"), так и у большой социо-экономической системы.
13. Закон "Пророка" или "Disruptive innovation"
Если ты делаешь что-то, что меняет систему (в первую очередь, мышление людей или смещаешь фокус внимания на то, что "не надо"), у тебя начинаются "проблемы". "Проблемы" возрастают по мере "серьёзности угрозы системе" (например "отмена", дискридитация, запугивание тебя и/или близких, лишение возможности кормить семью, "странные совпадения", физическая смерть и прочее, на что хватит фантазии у "оппонентов"-"выгодоприобретателей системы").
И наоборот, если в результате деятельности ты "награждён" и прочее, как правило, ты, как минимум, не мешаешь "системе". Поэтому так называемые "Disruptive innovation" есть во многом культивируемая "иллюзия", то, что делает систему более устойчивой и придающая ей "антихрупкость" (на счёт "антихрупкости" не ручаюсь, надо глубже как-нибудь подумать).
14. Закон "Люди не меняются"
Люди как люди. Любят деньги, но ведь это всегда было… Человечество любит деньги, из чего бы те не были сделаны: из кожи ли, из бумаги ли, из бронзы или из золота. Ну, легкомысленны… ну, что ж… и милосердие иногда стучится в их сердца… обыкновенные люди… в общем, напоминают прежних… "квартирный вопрос" только испортил их…Цитата Воланда из романа "
Мастер и Маргарита" М. А. Булгакова
Люди меняются, но чем "ближе к сердцевине человека, тем сложнее и медленнее изменения".
15. Закон "Стреляющей (раз в год) палки"
Любое событие, даже чрезвычайно маловероятное (например выигрыш в лотерею и прочее), почти "наверняка" произойдёт при достаточно большом количестве "попыток".
Количество же событий будет описываться, как правило, Законом 16. "Колокольчика" (хотя есть специальные методы вычисления мат. ожидания "редких величин").
Обоснование: закон больших чисел и мат. ожидание биномиального распределение (при достаточно большом n), Теорема о бесконечных обезьянах.
16. Закон "Колокольчика"
Если мы посмотрим на распределение (большинства) вещей или произошедших событий, то оно будет как "колокольчик", правда со своими средним и дисперсией (например распределение роста людей, расстояния между глазами, количество мирных жертв при штурме, количество 200-300ых в штурме при разном количестве артиллерии, IQ распределение, вес лошадей и прочее).
Обоснование: разумеется я говорю про нормальное распределение/распределение Стьюдента и центральные предельные теоремы.
17. Закон "80/20"
"20 % усилий дают 80 % результата, а остальные 80 % усилий — лишь 20 % результата"
Что не покрывается нормальным распределением, то часто покрывается распределением Парето (например, распределение денег, распределение слов в языке и прочее)
Обоснование: распределение Парето, закон Парето, кривая Парето
18. Закон "Большого объёма"
Любое, даже мизерное, изменение в системе с большим объёмом приводит к значимым абсолютным изменениям.
Допустим, что в трубе, перекачивающей нефть, есть небольшое отверстие. Если труба перекачивает 10 литров нефти в день, то убытки будут небольшими. При перекачке миллионов литров, убытки будут существенными.
Другой пример. Допустим в отделении Старбакса в Калифорнии установили с помощью "A/B теста", что меняя капучино и американо местами в меню, прибыль увеличивается на 0.03%. Предположим, что мировой оборот компании 32 миллиарда долларов. Применив эти изменения в остальных точках, компания ожидает увеличение выручки в 9.6 миллиона долларов.
19. Закон "Терминатора"
В любой механической/"шаблонной" деятельности машины обойдут живое (например, человека).
20. Закон "Сваренной лягушки" (частный случай: "Окно Овертона")
Постепенные изменения принимаются легче, чем резкие; знак изменений: "+" или "-" не важен. Часто изменения могут даже не замечаться.
21. Закон "Слабого звена" или "Узкого горлышка"
"Где тонко, там и рвётся."
В любой замкнутой системе (например производство, продажи, любые "воронки", автомобиль, армия, логистика чего-то и прочее) есть "узкое горлышко" (УГ), которое ограничивает поток ресурсов в системе; любое функционирование системы можно представить как поток и преобразование ресурсов. Нахождение и устранение УГ улучшает функционирование системы оптимальным способом.
Также система настолько крепка, насколько крепко самое слабое звено.
Внимание: теория ограниченных систем/УГ только частично применима к человеку или, в более общем случае, Социо-Экономическим Системам (СЭС). В СЭС динамике есть "воронки"/"магниты"; не редко там есть "спирали" и "фракталы спиралей и воронок".
Обоснование: "Теория Ограниченных Систем"
22. Закон "Водоворота"
В поле действия человека могут быть "водовороты". Это можно представить как путешествие Вашего корабле в местности с сильным "течением/и" в результате "водоворота/ов". Эта метафора позволяет объяснить почему так сложно и иногда уже почти невозможно выйти за пределы контекста в иных случаях (например когда люди вживаются в социальную роль, "втягиваются в идеологию/секту/погромы" и прочее).
Я буду об этом писать более подробно в статье про сложные ментальные модели; там будет понятно почему теория УГ не применима.
23. Закон "Магнит стаи"
Тяжело идти против всех или большинства, сопротивляться общепринятому мнению.
24. Закон "Лестницы в (китайском) кинотеатре"
Предположим мы сидим в кинотеатре в каком-то ряду. Если те, кто сидит впереди нас, принесут подушки, то, чтобы видеть, нам нужно будет тоже сесть на что-то для компенсации увелечения высоты. И так по нарастающей: чем выше сидят те, кто впереди, тем выше нужно будет сидеть и нам.
Под этот пример подходят многе процессы из нашей жизни: использование ИИ/цифровизации/рекламы... в бизнесе; использование дронов/спутников/РЭБ/... в войне и прочее. Если не использовать "лестницу", то будет "не видно" (будешь в проигрышном положении).
Я услышал впервые этот пример от Китаянки, рассказавшей об их притче.
25. Закон "А что, так можно было?!"
Новый, лучший способ достигать прежних или лучших результатов быстро перенимается другими участниками "игры"; это также тесно связано с Законом 24, поскольку иначе ты будешь в проигрышной позиции, делая всё "по старому".
Примеры: это в первый раз применение бизнес-модели по подписке (которая уже считается стандартом); дронов в войне и прочее.
26....41. Закон: ...
Законы, которые не упомянуты. Можете предложить в удобной для Вас форме обратной связи недостающие, по Вашему мнению, законы.
42. Закон ॐ
Это самый сложный закон; мне его сказали. Я его не понимал, пока не сделал экстремальную духовную практику.
Не думаю, что он будет понятен большинству, поэтому ограничусь словами:
1. живое есть источник "волн": наш мозг, как правило, находит правдоподобные объяснения тому, что уже было "решено" на уровне "волны",
2. человек - это "мембрана": принимает и транслирует электро-магнитные волны; все люди (живое) связано и влияет друг на друга; через определённые волновые сигналы, можно влиять на людей, "синхронизировать" и "дирижировать" .
Обоснование: самое близкое (из прикладного) к этому закону я нашёл в этом видео
Парадокс "Сократа"
"Я знаю, что ничего не знаю."
(предположительно) Сократ
"Лучшее знание — это незнание о том, что ты что-то знаешь."
Лао Цзы
"99.99%" людей считают, что они "знают" больше, чем "Сократ", включая меня, парадоксально.
Пример "неполного" мышления:
- очевидно, что такое мужчина/женщина...
- на меня не влияет реклама/фильмы/мультики/пропаганда
- меня мошенники не обманут - со мной такое точно не произойдёт
- понятно что такое деньги, можно прочитать в словаре
- ...
Законы можно и нужно комбинировать.
Начало путешествия
Давайте осмотрим наш корабль на Рис. 1.
У нас очень большой многоярусный общий корабль. Кто-то работает в "моторном отсеке" или на кухне, другие обеспечивают бесперебойную работу электроники, кто-то беззаботно веселится на палубе и т.д.; здесь очень много разных помещений.
Мы знаем некоторые предыдущие маршруты корабля (важно учитывать, что информация неполная и стоит корректировать "курс"-модель при поступлении новых вводных). Пример "маршрутов": истории про разные ситуации/цивилизации, войны, открытия, взаимоотношения, статистические данные разных страт в разных контекстах (например какое мат. ожидание количества выхода из строя бойцов при атаке/обороне в данной ситуации с данным количеством боеприпасов, других вводных) и прочее.
Исходя из 1. Закон "Упрощения" и 17. Закона "80/20" существует ограниченое количество "параметров", объясняющих "маршрут нашего корабля". Дополнительно, из 14. Закон "Люди не меняются" следует, что если эти "параметры" ближе к "центру", то они изменяются намного медленне, чем "внешнее". Наконец из 12. Закон "Титаника" следует, что "движение по маршруту" имеет "большую иннерционную природу". Что же это за "параметры", близкие "к центру", определяющие во многом наше "коллективное путешествие"?
Мне представляется, что это наши ценности и смыслы. То есть ценности и смыслы, как явно заявленные, так и реальные, являются индикаторами и маячками направления нашего "движения к разным островам". Под "островами" я понимаю то, где мы "оказываемся" в результате "нашего плавания"; мы можем на некоторых из них "задерживаться", а некоторых наоборот "избегать", если "подойдя ближе" мы видим, что "остров не слишком приятный" - если успеем "увернуться", исходя из 12. Закон "Титаника".
Пример ценностей или смыслов (часто деление довольно условно):
- оптимизация издержек, прибыль, ROI...
- деньги: доллары, евро, рубли; криптовалюты...
- luxury: яхты, часы, бренды, золото, бриллианты...
- успех:
- социальное поощрение: звания, грамоты, последователи, авторство книг/статей, соавтор с известными людьми...
вещественные признаки: марка машины, место жилья, красивая женщина, любовница... - здоровье
- избегание: боли, позора, страхов, унижения...
- стремление: получать удовольствие...
- ресурсы: электричество, газ, нефть...; еда, вода...
- быть в тренде, первым
- быть популярным
- ощущать себя частью бОльшего
- обладание "эксклюзивным": умом, дарованием, стилем одежды, внешним видом, бриллиантами, исскуством...
- ...
В сегодняшнем нашем путешествии в океане нам будут встречаться только 2 типа островов: остров типа "1+1=2" и остров типа "1+1>2".
ЦСи - движение: Ценностно - Смысловое движение
Определение 1. Рассматриваемые параметры, определющие динамику развития общества - "движения нашего корабля из Рис. 1"
Острова типа "1+1=2": на этом острове попадаются происшествия или вещи, которые намечены на "бортовых картах" по курсу ЦСи-движения нашего корабля с пометкой о большой доли вероятности их существования на острове.
Несколько примеров вещей или явлений, которые были найдены мною на островах "1+1=2": дроны, Tesla, starlink, глубокое обучение, геометрическое глубокое обучение, Transformers, Large Langause Models, ChatGPT 1-4, Google и т.д.
Острова типа "1+1>2": острова, которые попадаются неожиданно - неочевидные события/процессы, которые меняют наше бытие на корабле коренным образом.
Мне на островах типа "1+1>2" попадались электричество, паровая машина, атомная энергия, интернет, блокчейн, возможно, смартфон и т.д.
Мини ЦСи-круиз по направлению островов "Власть и влияние"
Ценность власти и влияния разделяются большим количеством людей на разных континентах. Часто на практике, хотя и не на словах, эти ценности преобладают над ценностью других человеческих жизней и т.д. Пока это так, есть войны и насилие, захват ресурсов и ценностей, не говоря уже про психологическое удовлетворение от процесса и результа (читай - я/мы круче, сильнее, умнее, богаче, демократичнее всех и т.д.). Также распространена ценность достижения целей с минимальным количеством ресурсов - значит с большой вероятностью люди будут совершенствоваться в этом направлении и дальше.
Вышесказанное актуально на протяжение долгого периода времени - логично предположить, что нам и дальше будут попадаться на нашем ЦСи-движении острова типа "1+1=2" с различными проявлениями вышеупомянутых атрибутов. Мы будем находить на этом ЦСи-пути среди островов типа "1+1=2" вещи/инструменты для быстрой нейтрализации людей/преград с минимальным количеством ресурсов, новые летательные/плавающие/прыгающие/баражирующие/подводные и т.д. апараты для этих же целей, в новых медиумах (космосе, Марсе, под/воде, сознании, душе и т.д.). На этих островах нам будут попадаться новые инструменты для воздействия на сознание (чем нейтрализовывать человека, легче в зародыше влиять на его сознание таким образом, чтобы он был подконтрольный/дружественный), биологию/ДНК, может волновые/лазерные/бактериальные/ДНК-модификаторы у этноса и т.д. инструменты. Мы не знаем ещё имён для всех таких явлений, только некоторые - боевые дроны, атомное оружие, РЭБ, старлинк и т.д. Но мы знаем, что вероятность нахождения таких инструментов очень высока в течении этого ЦСи-путешествия.
Схожим образом мы можем предпринимать ЦСи-путешествия и в другие направления: ИИ, система здравоохранения, финансовая системы, воспитание и т.д.
Пример путешествия на острова типа "1+1=2" под названием Kandinsky 7.0 и ChatGPT 42.0
Как и в любом путешествии, нам нужно вначале хорошо подготовиться, изучить опыт и маршруты уже пройденных островов, подготовить инструментарий и провиант, так сказать.
Как работают новые модели машинного обучения и какая граница их применения, простыми словами
Практически любую нашу задачу (перевод, распознование лиц, генерация текста и т.д.) мы можем представить как некоторую функцию или функционал (на входе функция, на выходе какое-то число, то есть любая функция "стреляет" в какое-то число), закодировать её с помощью цифр - иными словами, математическое моделирование задачи.
Элементарные функции, которые находятся в базисе моделей глубинного машинного обучения и способ их соеденения в единую структуру - позволяет кодировать шаблонные структуры рассматриваемой задачи (это хорошо видно в задачах компьютерного зрения).
Теоремы об апроксимации служат неким теоретическим обоснованием для применения моделей глубинного обучения для практически любой задачи. Шаблоны и функции преобразований выражены через параметры модели:
Обучение современных моделей в общем виде: нахождение шаблонов и параметров функций мапирования (преобразований шаблонов и промежуточных данных), которые минимизируют ошибку на тренировочных данных в рамках выбранной мат. модели. Для последовательных данных (текст, временные ряды и т.д.), мы можем добавить "контекстную" информацию (есть некий словарь и мы для каждой данной точки находим в виде весов релевантные данные из словаря/шаблонов: большой вес возле слова, значит оно более релевантно для данной точки/шаблона) - принято это называть трансформерами/вниманием, но мне больше нравится слово "контекстная информация"; поскольку это то, что делает наш мозг, когда пытается понять что-то, он смотрит на "контекст" помимо прямого смысла/ов. Дальше мы изучаем мапирование из шаблонов + контекстов в/из оригинальных данных. Мы можем некоторые функции мапирования опустить - в этой конструкции они будут константами. Вкратце это то, что мы делаем сейчас.
Обратите внимание, что благодаря тому, что Ценностей и Смыслов соизмеримо меньше их проявлений, а также их относительной статичности (читай, что они не изменяются быстро, как правило), упрощается количество параметров, которые нам нужно иметь в виду нашей ментальной модели мира, а также дифференциируются процессы на важные и не столь, и наконец они "замедляются" соизмеримо скорости изменений Ценностей/Смыслов.
Граница применения моделей
Мы ограничены шаблонами, которые модель выучила + функциями преобразования. Если явление порождено другим "шаблоном", то мы получим некую проекцию этого явления на многообразие вариантов, выражаемых моделью. Если же у нас функция мапирования из "шаблонов" в многообразие описуемых явлений выучена "нехорошо", то получится "галлюцинация" - результат не пренадлежит многообразию явлений, которые мы моделируем/описываем. Поскольку связок контекст/смысл бесконечно много (и вариций шаблонов соотвественно), то этим путём моделирования мы никогда не создадим исскуственный интеллект, всегда будет "непокрытый 1%" случаев. Это похоже на выражение сигнала через некий "затухающий" базис, например Фурье: сколько нам нужно базисных-элементов, чтобы выразить любую функцию? Все!
Разработка исскуственного интеллекта требует принципиально другого подхода в моделировании... нашего мозга в конечном счёте. А зачем нам исскуственный интеллект, кстати? Для меня ответ неочевиден.
Кому интересна эта тема, например Алексей Редозубов (@AlexeyR @habr) делал интересные исследования альтернативного пути к построению ИИ.
Коллективное сознание
Реальность "шире" любого языка; больше - язык, во многом, обуславливает нашу реальность. Коллективное сознание - это максимум моделей, основанных на нашем мозге. Сильный исскуственный интеллект с увеличенными вычислительными способностями, возможно, даст нам новый опыт проживания реальности.
Какое будет ЦСи-движение корабля: как отразится на нашем обществе визит островов типа "1+1=2" под названиями Kandinsky 7.0 и ChatGPT 42.0
Путешествуя по заданному курсу будет происходить "откусывание" всё большей части шаблонированной природы нашего коллективного сознания с постепенной материализацией по принципу наименьшего сопротивления (ментальное легче заменить, чем физическое). Всё сильнее модели будут схватывать всё больше шаблонов. В соответсвтиее 2. Закону "Матрицы" или "Обломов-лайт" обычно человек мыслит довольно шаблонно, то скорее всего будет действовать 17. Закон "80/20", с повторением оного на оставшихся "участках" - упомянутый раннее "непокрытый 1%" случаев.
В процессе ЦСи-движения нашего корабля по ветру ИИ, мы будем ускоряться: шаблонные задачи будут быстрее выполнятся, открываться новые паттерны/шаблоны. Часто тормозом будет не технология, но незнание что делать с "высвободившимися людьми"; до момента придумывания что с ним делать, разумеется.
Стоит заметить, что в отличие от предыдущих технологических революций, эта отличается кардинально тем, что мы замещаем моделями (затем, если следовать логике СЦи-движения, роботами) само наше коллективное сознание, а уже потом, как следствие, другие наши социальные явления (взаимодействия в рамках какой-то работы, написание текста и прочее) - то есть мы автомитизируем основу основ. Соответсвенно, любую деятельность с возможностью шаблонирования/расписания алгоритмов действия мы сможем автоматизировать. Получается, что мы не сможем придумать работы для людей, если они не творческие (не шаблонные) и не "грубо" физичекие (до тех пор пока мы не научимся делать био-роботов/роботов).
Будут ли найденные явления на островах в нашем путешествии называться ChatGPT 42.0 или Kandinsky 7.0, не столь важно. Понятно, что это острова типа "1+1=2" и что "подобные порядковые версии" моделей будут обладать вышеупомянутыми свойствами.
Примечателен опыт одного бизнес консультанта, который запрограммировал бизнес процессы и принятие решений в большой компании, в результате чего оказалось, что 90% высшего менеджмента не нужно и было уволено (90% ситуаций стандартные и могут быть решены без вовлечения высшего руководства).
В процессе путешествия с большой долей вероятности мы заедем на остров типа "1+1>2" - принципиально иной способ моделирования ...мозга.
Наглядные примеры присутствия шаблонов, которые становятся более явными в повседневной деятельности, ускоряя наше движение: шаблонирование работы Data Scientist/Engineers, шаблоны в miro, Notion, Evernote, презентациях, бизнесе: 55 паттернов бизнес моделей и прочее. По большому счёту, все книги про то, как стать успешным, завоевать друзей, презентовать материал и т.д., это про изучение шаблонов в разных сферах (в основном они сводятся к одним и тем же внутренним шаблонам и переживаниям, но это уже отдельная тема).
Как правило, мы самоидентифицируемся, то есть "слипаемся" со своей ментальной моделью, поэтому рекламные компании, пропаганда, телевидение, диверсионные операции и т.д. столь эфективны - они опираются главным образом на мета-ментальные модели. Выведение человека из спокойного состояние в эмоциональное (например, активация страха, психологических травм, комплексов, унижения, неприязни, гордости и т.д.) уменьшает осознанность и как следствие активирует его ментальную модель, ограничивая способность к критическому мышлению.
Критика и границы применения этой ментальной модели
- это очень простая модель, которая не учитывает многих аспектов: сознание, коллективное сознание/бессознательное, духовное и прочее.
- модель полностью полагается на "позитивисткий нучный взгляд", поэтому чем больше мы знаем, тем точнее модель; в идеале нужно знать "закрытую" информацию, тогда и многие кризисы и войны будут принадлежать острову "1+1=2", а не "1+1>2", по крайней мере задолго до прибытия, мы уже будем с бОльшей вероятностью понимать к какому острову приближаемся.
- желательно использовать разные ментальные модели в зависимости от задачи и контекста; профессии, которые способствуют применению сложных моделей: психолог/психиатр, социолог, спец. службы/диверсионные операции, маркетолог/специалист по брендам, мошенники на доверии/социальная инженерия, философы/духовные практики, инвесторы (Д. Сорос, Ч. Мангер, В. Бафет), политики-стратеги (В. Сурков, А. Арестович, З. Бжезинский и т.д.) и прочее ("Профессор Мориарти"). В скобках я привёл примеры людей, которые, по моим наблюдениям, с большой долей вероятности, используют более продвинутые ментальные модели, назовём их мета-ментальные модели. Есть много мета-ментальных моделей (пример мета-ментальной модели представленной Феликсом Шмиделем). В рамках таких моделей оперируют также другими ментальными моделями в своих представлениях о реальности. В идеале, если есть возможность влиять на "реальность" общества через коллективное сознание, то быть в тени самое выгодное и думается, многих людей с невероятно сложными мета-ментальными моделями, мы не знаем и они знакомы только очень узкому кругу лиц. Стоит отметить, что теперь к очень сложным моделям этих людей + закрытой информации + продвинутым современным знаниям об устройстве мозга и возможностями влияния на коллективное сознание, теперь добавляются возможности ИИ-технологий (Palantir & Co и т.д.).
- отмечу, что самый сложный тип моделей: духовные мета-ментальные модели. После них уже духовное. Исходя из наблюдений к таким личностям относятся А. Арестович, думается В. Сурков, В. Путин; Г. Распутин, Г. Гурджиев, Ошо, И. Сталин, Ж. д’Арк (из исторических персонажей) и т.д. Одна из многих сложностей понимания их ментальной картины мира заключается в том, что главные их смыслы и ценности лежат вне материального мира, а также в их, как правило, уникальности. Соответсвенно, когда большинство придаёт большое значение домам, яхтам, деньгам и прочему в их владении, для них оно имеет, с большой долей вероятности, совсем иное значение - они в них вкладывают другие символы. А оцениваем мы в основном по себе, через нашу картину мира, поэтому и сложность понимания.
- недетерменизм: любая ментальная модель это вероятностная модель (хоть вероятность и может быть почти 100%)
Почему важно сейчас начать переосмысливать для чего и как мы взаимодействуем друг с другом
Стремление к большой марже ведёт к тому, что даже поездка к любовнице превращается в военную операцию.
Ф. Шмидель
В области "делания", особенно шаблонного делания, любое железо будет выполнять вещи лучше нас; 19. Закон "Терминатора". Шаблоны могут быть нетривиальными и очень сложными и их рано или поздно новые модели тоже выучат (многие шаблоны могут быть сюрпризом для большинства). В рамках существующего нашего взаимодействия мы пришли к тому, что мы теперь можем машины учить сложным шаблонам и сложным функциям мапирования, учитывая контекстную информацию.
Нам стоит определиться, будем ли мы продолжать наше ЦСи-движение на нашем корабле под теми же ветрами или ...?
Будем ли мы видеть в тех, "других", кто в чём-то слабее/глупее/менее дальновиден, не умеет или ему/ей не пришло время учиться оперировать мета-ментальными моделями - только источник благ/достижения целей, "батарейку" для ресурсов, "био-робота" или же будем видеть в другом ценность как живой сущности?
Просто потому, что в этой огромной галактике случилось чудо - и перед нами живая сущность, которая зачем-то здесь появилась как и ты, мой дорогой читатель!
Обратите пожалуйста внимание, что я вообще не учитывал вопросы (гео-политических) конфликтов, предполагая, что мы способны друг с другом договариваться.
Кратко:
- наша социо-экномическая система не сбалансирована и неминуемо ведёт к расслоению общества (как внутри стран, так и на глобальном уровне), что в конечном итоге приведёт к сегрегации (предполагаемые классы: "элита", "обслуга" (физическая, "духовная" и интеллектуальная), "охрана", "био-масса")
- хотя она уже даёт треск и непонятно какую форму примет в течении следующих 2-10 лет
- ИИ и автоматизация значительно ускоряют вышеупомянутую динамику распределения благ
- ИИ и автоматизация - это революция средств производства, что неминуемо приведёт к социальному напряжению и конфликту между разными классами общества
- Элиты - это, в большинстве случаев, в первую очередь, такие же люди как и мы; мы все переживаем за свои сбережения и уровень жизни, будущее детей и действуем исходя из наших ментальных картин мира и опыта. Зарабатывание денег И. Маском, Б. Гейтсом, В. Баффетом, Р. Абрамовичем, Д. Безосом и другими более того, что у них есть сейчас, не имеет никакого смысла с точки зрения цифр. Будет у В. Бафета, например, состояние больше на 10 млрд или меньше - мало отразится на его реальном уровне жизни, не говоря уже, что с собой ничего не заберёшь. Зарабатывание сверх какой-то разумной меры напоминает:
Дерусь… просто потому, что я дерусь!
Портос
Решение мне кажется должно быть движение в сторону общества, где все могут продолжать заниматься тем, что они любят (например, В. Баффет инвестировать и т.д.) и сохранять "нормальный" уровень жизни, но чтобы средства производства как следствие экономической активности постепенно распределелись более равномерно путём консенсусного соглашения. Это приведёт к динамике постепенного улучшения распределения благ.
По поводу умения договариваться:
Мы не можем ни о чём договориться, любой инструмент или ресурс - оружие.
А. Кубышкин
У нас становится оружием любая технология, философия, понятие...: демократия, слухи, страхование машин/судов, протоколы финансовых учётов, деньги, жизненные ресурсы, таланты, интернет, история, хорошие намериния и в любых медиумах: Земля, воздух, вода, под водой, космос, сознание, душа...
Что дальше
Главный вопрос: для чего и как мы взаимодействуем друг с другом? в рамках отношений, компаний, городов, стран, Земли... как ещё мы можем взаимодействовать? Ответ на этот вопрос, мне видится, лежит в решении, что первично-вторично:
(а)
- Взаимопомощь (сострадание и милосердие)
- Конкуренция
или
(б)
- Конкуренция
- Взаимопомощь (сострадание и милосердие)
Если (б), тогда стоит брать пример с природы и зверей. Например, стая львов, захватив прайд и новые территории, победив старых вожаков, прежде всего убивает маленьких львят - детёнышей прежних вожаков -
от конкурентов легче избавляться пока они слабые, в идеале, зародыши или вообще не родились.
Соответсвенно, выгоднее всего конкурировать, убрав детей наших конкурентов - убив ли, сделав невыгодные условия развития, напичкав их вредными для здоровья продуктами и прочее. Вместо того, чтобы блокировать дороги Украинской продукции, лучше вообще всех Украинских, Африканских детей нейтрализовать. И стоит к чужим детям относиться так же, учить их навыкам, затрудняющих адаптацию и развитие. Лучше разработать ДНК-оружие, чтобы делать женщин определённой национальности/группы бесплодными, тогда потом не нужно воевать со взрослыми воинами. Да прибудет с нами выгода, ведь это самое главное, разве нет?
Если же (а), вектор движения я вижу в улучшении качества жизни (много измерений) всех участников - увеличении блага. Критерий правильности движения - чтобы "стало не хуже, чем было".
А мне, что говорить не станут,
Я буду все твердить своё:
Что впереди - бог весть,
А что моё - моё!
И. А. Крылов
Возможно, это звучит не слишком красиво и амбициозно, но в этой формуле есть и сравнение с тем, что было - брать лучшее из прошлого, учиться на ошибках и опыте и при этом осторожный взгляд и постепенное движение в будущее.
Сделать "справедливо"/"поровну" и т.д. - это утопия.
Также утопия, если кто-то говорит, что я знаю как лучше будет всем - система управления нашим кораблём слишком усложнилась. Стоит ориентироваться на этот вектор и на непрерывную обратную связь пассажиров корабля.
Обратите внимание, что при таком движении пассажиры неизбежно вынуждены направлять внимание вовнутрь, чтобы понять что им надо и стало ли не хуже, а это неизбежно приведёт к переосмыслению культуры потребления и других ценностей. С таким движением нам и не требуется сильный исскуственный интеллект - аргумент в пользу оного (для распределения ресурсов, например) некоторых мыслителей; хотя и концептуального противоречия тоже нет.
В следующих статьях расскажу какие у нас могут быть опции и почему мышление в рамках капитализм и/или социализм и/или ... другого ..изма ошибочно в самой сути вопроса.
Да прибудет с Вами выгода, ведь это самое главное, разве нет?
Я боюсь стать таким, как взрослые, которым ничто не интересно, кроме цифр...
Маленький принц, А. де Сент-Экзюпери
Просьба от автора
Мне важна обратная связь. Поскольку, метафорически выражаясь, я десятилетиями взимодействовал с внешним миром "из бункера", то у меня есть некоторые несостыковки в понимании меня и моих мыслей окружающими. Усложняет ситуацию тот факт, что я мыслю довольно нестандартно и замечаю вещи, которые обычно вне "радаров" большинства. Соответсвенно, критически важна обратная связь заинтересованного читателя: на каком место меня потеряли? какой пример/аллегория непонятны, а какие понятны? какая причинно-следственная связь видится неочевидной/"натянутой"? какие вещи банальны и стоило бы их не писать, а какие наоборот требуют бОльшей детализации? и т.д. Разумеется, все мои доводы проходят мою критическую проверку, а также проверку на логическую последовательность. Соответсвенно, всё, что я пишу, подразумевает, что я выстроил в голове логические причинно-сдедственные связи. Разумеется, я что-то не вижу, упускаю, указание на оное тоже важно и ценится мной.
Примеры того, как я обрабатываю информацию, материалы с основными тезисами и моими комментариями
1. Александр Кубышкин, "ИИ, мировая экономика, чего ожидать" (ENG), основные тезисы:
- энергия - базис
- всё в этом мире - экономическое (ментальное, духовное, культурное) оружие, невозможно ни о чём договориться // политическое оружие
- 6ая технологическая волна
- 1-5 волны (x2 больше энергии в каждой волне/переходе)
- новые технологии - много энергии
- новая технология: замкнутый круг производства энергии//не протестировано
- не верю в переход зелёной энергии (пример станции в космосе с огромными идеальными батареями и условиями), мало места + мало ресурсов для батарей
нужно смотреть на "уг" (узкое горлышко) = Китай - крипто/блокчейн + ии
- мы не будем жить в глобальном мире!!!
- цепочки доставок будут локализованы
- ии этому в помощь, не будет в глобальном мире
- технологии двигаются быстрее, чем общество адаптируется
- нет инициатив брать риски в управлении
- персональные данные через блокчейн
- запрет технологии децентрализации
- движение в сторону модели "Китая"
- изменение парадигмы мышления (капитализма)
- рост невозможен если ограничены ресурсы
- нет возможности расширяться - космос; Маск старается несмотря на то, что технологии атомные были заморожены на 25 лет после Чернобыля
будут конфликты - 40% компаний в NASDAQ "лалаленд" компании - непонятно что как и кому они продают и смогут ли достичь того, что обещают
- если всё посчитать (влияние на природу, цену копания минералов и тд) - самая чистая форма энергии это атомная
- растут риски, нестабильность, нужно быстро реагировать + сигнал обратно
- единственный неудачник - Европа:
- нет энергии
- система управления неэфективна (политики как клоуны - неспособны ничего решить)
- невозможен переход в новую экономику без войны: вопрос она будет большая или нет?
- сша/китай - два способа организации обществ
- китайская модель при турбулентности может быть перенята другими странам
- япония - предсказание (проблема с демографией), что роботы будут "частью" общества
- конфликт при турбулентности не обязательно между 2мы странами, но многими
- Крымсие войны 1900 века позволили Британии сохранить доминирующее положение на другие 100 лет
- Швабс идея инклюзивного капитализма: элиты-хорошие и другие-рабы
- корупция верхушки - деньга на западе - через банковскую систему контроль денег и верхушки - государства (Казахстан например)
- финансовый пузырь должен лопнуть (40 лет) и только после можно что-то строить
- деньги
- налог - механизм государства поощрять людей что-то делать
- создаются не государством, но банками
меньше 1% процент это деньги
95% "денег" - приватный банковский сектор (я думаю, что это занижено)
никто не может дать определение, что есть деньги (шутка: в сша не могут дать определение, что есть женщина)
у банков есть разные методы печатания/создавания денег и создавать таким образом фин отчёты
во всей системе:
центральный банк, банки, не банковские фин институты: 450-470 триллионов долларов
глобальная экономика: 90 триллионов (финансовые ценности в gdp x6)
классические банки: 200 триллионов
серые "банки" (хэдж фонды, страховки...): 250 триллионов
центральные банки: 40 триллионов
мы не знаем как именно система работает, мы не знаем что есть деньги, что считается деньгами... - 50% всех переводов - доллары; 95% всех дериватив - доллары
- 2% - не доллары
- только 50% квартиры в NY заняты
YouTube channel Alexander Kubyshkin
https://www.youtube.com/watch?v=HmKrhvYsGaI
2. Economist on AI & Society, основные тезисы:
- скептичны - теперешние технологии ещё не "там"
- риск не исчезновение человечества, но баяс с дискриминационными социальными последствиями, приватность и интеллектуальная собственность и тд
3. Sam Altman | Lex Fridman #367 (ENG), основные тезисы:
- openAI - сделали огромные прорывы в области ИИ
- но важно отметить риски ИИ (Лекс) - мы на пороге изменений (думает при нашей жизни)
- это вдохновляет: мы знаем много апликаций, многие не знаем, это поможет нам победить бедность и приблизится к счастью, к которому мы все люди стремимся !!! на чём обосновано это предположение? !!! опасность, что мы можем быть уничтожены - 1984 Оурэл/ Хаксли.. перестанем мыслить и т.д.
- нужно найти баланс между возможностями AGI и опасностью
- 2015 -> заявлена цель работать на сильным ИИ, многие в области смеялись/издёвки; говорит, что плохой маркетинг/брендинг
- утверждение Лекса: deepmind & OpenAI были небольшая группа, которая не побоялась заявить о цели создать сильный ИИ;
- Сэм: теперь никто над нами сильно не смеётся (до этого их критиковали/насмехались, что они хотят построить AGI)
- это разговор о власти, психологии создателей ИИ и т.д.
- GPT4 зачем она и что это
- Сэм: это система, на которую мы оглянёмся когда-то и скажем, что это был первый ИИ, медленный, с багами и т.д. это будет что-то важное в будущем, как сейчас компьютеры
- Сэм: я думаю прогресс экспоненциальный, мы не сможем указать точку - где это случилось.. (ИИ)
- Лекс: слишком много! проблема больше в фильтрации данных
- Сэм: много кусочков нужно собрать вместе в одну пайплайн (придумать новые идеи или хорошо имплементировать известные)
- Лекс: цитирует "....чатgpt учит что-то...."
- Сэм: что самое главное: "на сколько это полезно для людей?"
- Лекс: не уверен, что вообще когда-нибудь мы будем понимать эти модели, потому что они сжимаю/компрессируют весь интернет/тексты в небольшое количество параметров
- Сэм: "для определённых определений интеллекта/способности руссуждать - чатгпт может это делать на определённом уровне - как-то невероятно"
- Лекс: да, многие согласятся, особенно если имели опыта переписки с чатгпт..
- Сэм: я согласен на счёт идей
- Лекс: Питерсон спросил если Дж. Питерсон фашист:
- Сэм: "какие вопросы спрашивают люди - говорит о многом о них самих"
Питерсон спрашивал про длину сообщений
Заключил, что чатгбт лжёт и знает, что он лжёт.. не может посчитать длину своих сообщений - Сэм: я надеюсь, что эти модели вернут опять в жизнь нюансы !!! на чём основано эта надежда/предположение? что модель будет возвращать объективную разносторонне взвешенные ответы на непростые вопросы? мне неочевидно это предположение, но может я и не прав !!!
- Сэм: прогресс имеет экспоненциальную природу.. невозможно указать "точку" (например, рывок)
- Сэм: мы доучиваем LLM модели с помощью обратной связи от людей (обучение с подкреплением), иначе модели не на столько полезны
- Сэм: некоторые вещи для нас тривиальные - для модели нет (счёт знаков в сообщении и т.д.)
- Сым: мы выкладываем в общественный доступ модель рано, потому что верим, что если ЭТО будет определять будущее, то общими усилиями мы находим "хорошие"/"плохие" вещи, которые делает модель
- мы никогда не могли бы обнаружить вещи внутри компаний, если бы не обратная связь "коллективного интеллекта"
это итеративный процесс улучшения - чатгпт 4 намного лучше, меньше баяса чем 3.5 .. я не был особенно горд за баясы 3.5 !!! интересно какую роль играет здесь Эго и какую роль желание сделать "Мир лучше".. и что есть лучше? как ты можешь решать что есть лучше за других? если ты не голодал и т.д.? то есть не "ходил в их макасинах"? !!!
- Сэм: никогда не будет 2х людей согласных о качестве модели, думаю выход это со временем дать персонализированный контроль человека над моделью
- Сэм: я мечтал строит ИИ раньше и не думал, что у меня будет шанс этим заниматься
- Я не мог себе представить, что после самой первой "примитивной" итерации мне надо будет тратить своё время, чтобы отвечать людям на замечания касательно работы модели: "сколько знаков в ответах вопроса о двух разных людях" (намекая, что это не важно..) "Ты даёшь людям AGI и это ТО, чем они хотят заниматься?!" !!! то есть ты делаешь что-то невероятно мощное, делаешь это доступным каждому и ты не знаешь ЧТО потом будет делаеть с этим.. может вначале решить что и как мы хотим делать с этим и только потом делать? !!!
это очень важно (замечания людей о количестве знаков и прочее подобное) !!! противоречие с предыдущим утверждением; политкоректность а не искренность? !!!.. возможно... но я бы не догадался вначале !!! тролит? а что ещё случится, о чём ты не догадался бы раннее? худший сценарий? лучший? самый вероятный? !!! - Лекс: сколько Вы тратите на вопросы связанные с безопасность?
- Сэм: мы много тратим на "алайнмент" (безопасность, не баяс и "за всё хорошее против всего плохого").. горжусь чатгпт 4 и проделанной работой; много времени потратили на тесты (!!! не говорит сколько именно !!!)
- Лекс: поделитесь опытом "алайнмент"
- Сэм: мы не нашли ещё способ как делать "алайнмент" для супер мощных систем
- не все люди понимают нюансы и какая это непростая проблемы
работа по "алайнмент" похожа на всю остальную работу мы ведём по созданию и делаением полезными другие мощные модели (дал-и) - Сым: нам нужно будет "согласиться"/"договориться" о границах моделей (что хорошо/плохо..)
- люди получат контроль что они могут делать в зависимости от запроса (например "отвечай как ххх..")
промпт инженерия: опыт от взаимодействия - Лекс: поскольку это основано на "наших" данных, мы можем что-то выучить/понять о себе самих
- с опытом система умнее и умнее отвечает, ощущения как от общения с человеком
- Лекс: я думаю LLM/ChftGPT изменит "природу" програмирования/как мы програмируем
- Сэм: это уже происходит и это самое большое краткосрочное изменение (позволяет делать их работу/креативное занятие лучше и лучше) !!! лучше или быстрее? не убъёт ли это креативность в долгосрок? не атрафирует ли это умение долго работать над получением новых навыков в долгосрок? (чтобы опытный програмист стал опытным ему надо пройти долгий путь пребывания неопытным) !!!
- Лекс/Сэм: можно попросить сгенерировать код и в новых системах уже можно итереативно его улучшать "общаясь с моделью".. новый способ дебагинга?
- Сэм: креативный-диалоговый партнёр.. это очень большая вещь! !!! он расматривает его как помощника.. а зачем что-то делать быстрее? всегда ли нужно быстрее и эфективнее? какие последствия в долгосрок: какие качества и навыки такие системы будут способствовать вырабатывать у наших детей/следующих поколений? не лень ли? если что-то можно сделать в пару кликов, зачем напрягаться? !!!
- Пытаются определить, что такое "ненавистное общение" и т.д., что должены делать модели с ненавистью и другими качествами людей
- пример Конституции как аналог общественного договора.. демократическим путём !!! а мы уверены, что демократия это то, что нужно в этом месте? если детям дать волю, они будут кушать слдадкое и играть в игры.. Гитлер пришёл к власти демократическим путём выборов.. на чём основывается это предположение? !!!
- Лекс: на сколько плоха базисная модель - Сэм ушёл от ответа !!! открытость означает во всём, впервую очередь в вещах, которые неприятны !!!
- Сэм: мы открыты/хорошо воспринимаем к критике.. не уверен, что понимаю все последствия как критика на нас влияет.. не уверен
- Сэм: мне не нравится, когда компьютер меня "учит".. важно помнить, что я "контролирую" процесс, и могу "выкинуть" компьютер !!! не уверен, что он здесь искренен и не давит на точку людей - страх потерять контроль.. быть может манипуляции умного продажника.. что он понимает и разделяет твои страхи.. он как ты.. вы в "одной лодке" !!!
- я часто в офисе говорю, что нужно обращаться как со взрослыми !!! на чём основывается это предположение? что значит быть взрослым? эмпирические данные показывают, что далеко не все являются психологически взрослыми (что бы это не означало.. опущу определения тут); это также противоречит вышесказанному, что "модели вернут нюансы в дискуссии", то есть модель будет выполнять роль "учителя/взрослого": так модель должна учить людей или .. ? мы уверены, что критическая масса людей взрослые? Это фундаментально для понимания дальнейших действий по тому как взаимодействовать с людьми !!!
- Сэм: разница между чатгпт 3.5 и 4 очень большая, мы в опенай хороши в том, чтобы находить небольшие технические улучшения и набрав критическую массу улучшений мы получили 4 (улучшения на каждом шаге)
- Лекс/Сэм: сравнение мозга и нейроных сетей, что это очень впечатляет
- также, что дискусия вырываются из контекста
- Сэм: это самое сложное, что людти делали; через какое-то время это будет тривиальным и многие смогут это повторить
- Лекс: модель натренирована на всех данных, которое человечество произвело за всю историю; это компрессия всего человечества
- Лекс: сколько параметрпов в модели?
- Сэм: мы попали в ловушку гонки количества параметров, но в опенай мы хороши в том, чтобы фокусироваться на результате, а не на "красоту" подхода/алгоритмов !!! вопрос: сколько параметров? ответ: мы хороши в том, чтобы модели хорошо работали!!!
- Лекс: Ноам Хомски один из основных критиков, что LLM смогут достичь AGI
- ты действительно думаешь, что LLM это путь для построения AGI (сильный ИИ - "сознание")
Сэм: думаю это часть "уравнения", но нужны другие супер важные вещи; расширение парадигмы чатгпт в направлении идей, про которые мы ещё не знаем; если бы "Оракл" (отсылка к Дельфийскому, древнегреческому) сказал бы мне, что чатгпт 10 будет сильным ИИ, то я бы не сильно удивился, даже если бы не было какой-то большой новой идеи;
может мы и никогда и не построми сильный ИИ, но сделаем людей "супер грэйт" !!! в чём именно? в том, что мы делаем сейчас: войны, конфликты и т.д.? !!! и это огромное достижение !!! может перед тем как людей делать "супер", нам вспомнить что значит быть Человеком, а уже потом "супер"; может быть нам и не захочется быть "супер" после этого? !!!
Сэм: система, которая не может добавить кардинально новые знания в науке, не является "супер интеллектом" !!! я читаю: "я не знаю, что такое сильный интеллект, но я это хочу построить, и я верю, что это сделаеть нашу жизнь лучше.. и я также строю себе бункер.. и готовлюсь к выживанию, когда случится колапс" !!! - Сэм: меня вдохновляет мир, где чатгпт это инструмент, который расширяет возможности человека, "его волю" !!! а зачем тогда готовиться к выживанию? бункер? ты уверен, что мы хотим дать ВСЕМ людям возможность легче и быстрее реализовывать их планы, вытекающие из существующего уровня нашего развития, ценностей и смыслов; почему тогда мы потеряли "нюансы" и нам нужна модель это вернуть? мы точно не деградируем? для меня ответ неочевиден; мне думается, что без изменения нашего развития, способов мышления, ценностей и смыслов, мы будем получать те же результаты, но быстрее !!!
- Лекс: мне нравится програмировать с ИИ;
- есть опасения, что ИИ лишит програмистов работы;
если тебя лишит работы, значит ты не такой хороший работний/програмист - это только частично так; есть креативная составляющая !!! логически неверное утверждение: если 80% работы стандартная, то неважно какого уровня ты програмист, дешевле сделать её с ИИ; уровень компетенции нужен для небольшого количества работ, обычно она шаблонизирована !!!
Сэм: многие програмисты вдохновлены возможностыми ИИ, что я могу быть х10 продуктивен; немногие выключают эту опцию !!! это типичное применение Закон 24. "Лестницы в (китайском) кинотеатре": в какой-то момент если ты не будешь это использовать, то ты будешь проигрывать в "нашей коллективной гонке", соответсвенно момент -выбора- выключить или нет эту функцию забирается у человека !!! - Сэм: Каспаров когда проиграл компьютеру сказал, что шахматам конец, но никогда шахматы не были так популярны;
- мы не смотрим как ИИ играют друг против друга
!!! а ты уверен, что мы получаем бОльшее удовольствие от игры? или быть может ушёл элементы "сюрпризных/неожиданных" ходов уступая место сухому компьютерному расчёту? мы уверены, что уподобляясь "машинам", нам лучше/интереснее и прочее? !!! - Лекс: ИИ будет лучше и бла бла, но нам нужны будут эмоции/неидеальность...
- Сэм: то, на сколько мы можем повысить уровень жизни людей с ИИ просто невероятно, мы сможем сделать невероятные вещи !!! а на чём основывается это предположение? разве в Японии/Южной Корее/Швейцарии/Скандинавских странах процент самоубийств не выше, чем на Ямайке/Бали...? разве там люди не вымерают? разве они счастливее, чем в местах с меньшим достатком? ты решаешь что-то улучшить (уровень жизни в данном случае): а в чём причина такого положения вещей? разве можно решить проблему не разобравшись в первопричине?! быть может если мы её поймём, то и ИИ не понадобиться? быть может это наша жадность? лицемерие? лобирование военных заводов и их продукции? политика неявной колонизации? использование рабского труда других людей? провоцирование военных конфликтов где нам выгодно получить дешёвый доступ к ресурсам (нефть, литий, кобальт, паладиум, уран...)? может нам выгодно, чтобы другие люди жили в бедности и нищите, тогда мы можем покупать их ресурсы, товары, "мозги" (фриланс) задёшево (как себестоимость эппл телефонов меньше 20 доларов, например) и т.д.? может стоит понять причину проблемы, перед тем как что-то делать? !!! но людям нравятся быть полезным, драма.. и мы найдём способ это предоставить !!! а так ИИ сделает их бесполезными?! а может мы, люди, сами решим, что и как нам надо, а ты займёшься своей жизнью.. "не причиняя нам добра"? !!!
- Лекс: Элиезер Юдковски пример того, кто продостерегает перед сильным ИИ, поскольку считает, что он уничтожит человечество
- основной посыл: невозможно контролировать супер интеллект
Сэм: есть шанс, что он прав
нужно фокусировано решать эту проблему
подход: итеративное улучшение/ранняя обратная связь-реагирование/ограничение сценариев "одна попытка" (one shot)
Элиезер описал почему AI alignment ("делание ИИ норм для человека") такая сложная проблема, Сэм считает есть логические ошибки (не указывает), но Элиезер продумал хорошо аргументы в целом - Лекс: сильный ИИ как появится, быстро или постепенно? повседневная жизнь изменится?
- Сэм: я думаю (Лекс согласен), что для "мира лучше медленное постепенно работа над/появление" сильного ИИ
- я боюсь быстрого развития сильного ИИ
- Сэм: ты думаешь чатгпт 4 сильный ИИ?
- Лекс: думаю как и с видео об НЛО, мы бы сразу узнали это. С какой частью чатгпт 4 я общаюсь, мне кажется, что не все возможности доступны
- Сэм: думаю чатгпт 4 не сильный ИИ !!! ушёл от ответа про недоступные возможности !!!
- Лекс: ты думаешь у чатгпт 4 есть сознание?
- Сэм: думаю нет, ты думаешь у чатгпт 4 есть сознание?
- Лекс: думаю он умеет притворяется, что у него есть сознание
- Лекс: я верю, что ИИ будет иметь сознание, как это будет? страдание, память, будет общаться и т.д.
- Сэм: я скажу, что раннее говорил Илья (Суцкевер) касательно как мы узнаем, что у модели есть сознание: если в тренировочных данных нет "про сознание", но модель может ответить, что "она понимает как переживается сознание" (вольный перевод) - то, вот... (есть сознание)
- Лекс: сознание про переживание жизни (Сэм считает, что созание не вкл. эмоции); в приведённом фильме улыбка робота/ии самому себе (переживание опыта ради самого переживания опыта) - признак сознание.. утверждает, что эмоции играют важную, возможно ведущую роль
- Не могут сказать что-то понятное про сознание
- Лекс: какие есть причины, что в процессе работы над сильным ИИ, что-то пойдёт не так? что может пойти не так? ты говорил, что ты очень вдохновлён разработками но и боишься немного..
- Сэм: да, я боюсь немного, но думаю, что странно, как можно вообще не бояться
- я симпатизирую людям, которые сильно боятся !!! "мы на одной стороне, я Вам сочувствую"; это может быть приём "эфективной комунгикации, за которым не стоит ничего реального !!!
!!! не ответил не вопос !!! - Лекс: ты думаешь ты узнаешь момент, когда система станет супер умной?
- Сэм: мои тепершние переживания
- будут проблемы вранья/дезинформации
экономические шоки/кризисы
другое, что кратно превосходит всё, к чему мы готовы
вышесказанное не требует супер ИИ, мне думается немногие уделяют достаточно внимание этим проблемам...ещё до сильного ИИ !!! на вопрос он не ответил, но сказал, что ещё до того как мы начнём говорить про сильный ИИ, есть другие вещи, про которые нам стоит переживать !!! - Лекс: то есть ты думаешь, что даже сейчас шкалируя теперешние модели это может поменять геополитику и т.д.?
- Сэм: как мы знаем, что в твитере, например, LLMs не управляют потоки информации/дискусси и прочее? и так далее?
- мы не можем знать! и это опасность... может регуляция, более сильные ИИ !!! то есть создали мощные гениратор для заблуждения, сделали его мощным и "умным достаточно", но последствия его применения контролировать не в состоянии.. это учитывая на сколько огромное значение соц. сети и прочее имеют - "делались революции через них", например; так себе делание мира лучшим !!!
- Лекс: как ты справляешься с давлением рынка (большие компании как Гугл и т.д.), опен сорс проекты...? как расставляешь приоритеты?
- Сэм: я придерживаюсь своей веры и миссии !!! а от куда миссия взялась? какой её "источник"/базис? у Гитлера и прочих тоже была миссия? ты уверен, что "источник" этой миссии "светлый!? !!!
- будет много сильных ИИ, мы предложим один из..
разнообразие это хорошо
вначале над нами смеялись, но мы были смелы объявить, что мы занимаемся созданием сильного ИИ... !!! почему это важно, что вы были смелы и т.д.... какую роль играет Эго в этом и какую желание помочь другим людям сделав мир лучше? !!! - Сэм: сложная структура OpenAI... некомерческая орг контролирует, но чисто некомерческая структура у нас не сработала.. мы пришли к пониманию, что нам нужны некоторые "ништяки капитализма"
- я думаю, что никто не хочет уничтожить мир, поэтому капитализм и т.д... приведёт к тому, что "хорошие ангелы" и компании победят в конце !!! здесь логическая ошибка.. и опасное необоснованное предположение пример с Гитлером.. люди совершают самоубийства, люди уничтожают свою жизнь осознано/неосознанно; нужны факты, а не.. !!!
мы сообща обсуждаем и пытаемся митигировать ужасные риски - Лекс: никто не хочет уничтожения мира !!! необоснованное предположение !!!
- Лекс: может случиться, что пару парней в комнате друг-другу скажут: "Ахренеть!!" (от увиденного результата от своей работы)
- Сэм: это случается уже сейчас чаще, чем ты можешь себе подумать
- Лекс: это может сделать Вас самыми могущественными людьми на свете; ты переживаешь, что власть может тебя испортить?
- Сэм: конечно! мне думается, что решения как применять ИИ должно быть всё больше и больше демократизировано (примечание: больше людей имеют право голоса), но мы пока не знаем как это может быть сделано. Одна из причин, чтобы мир (примечание: люди) имели время адаптироваться, рефлексировать, принять поправки к законодательствам.
- Сэм: это очень плохо если один человек будет иметь доступ к этим технологиям; я НЕ хочу никаких привелегий, в совете директоров !!! а что случилось у Вас в совете директоров? !!!
- Лекс: создание сильного ИИ даёт огромную власть
- Сэм: (примечание: спрашивает вопросы) ты думаешь мы делаем хорошо? что можно улучшить? На заметку Лекса о бОльшей открытости спросил если открыть доступ к чат-гпт4. Лекс сказал нет, он считает много людей в опен-аи хороших и доверяет им.
- Сэм: Гугл врядли бы открыли API, а мы сделали; возможно мы не на столько открытые как многие хотели бы, но мы делаем много.
- Лекс соглашается и говорит, что они не так боятся рисков связанным с PR но больше с доступностью технологии (примечание: рисков связанных с её применением)
- Сэм: утверждает, что люди в нашей компании чувствуют ответсвенность !!! перед кем? !!! за результаты своей работы; показывает открытость к идеям о том, как они могут делать вещи лучше; говорит, что обратную связь он черпает от таких разговоров, как этот !!! их интервью? разве самые важные вопросы можно так обсудить? !!!
- Лекс: в чём вы согласны с Илон Маском касательно сильного ИИ?
- Сэм: мы сходимся касательно оценки рисков и опасностей и в том, что в результате появления сильного ИИ людям в общем должно быть лучше в сравнение если бы его не существовало !!! как Вы думаете это должно быть достугнуто? какую роль именно должен сыграть сильный ИИ в этом? !!!!!! Сэм часто спрашивает встречные вопросы на "неудобные" ремарки !!!
- Лекс: в чём ты согласен и не согласен с Илон Маском касательно ИИ?
- Сэм: мы согласны касательно потенциальных рисков сильного ИИ
- мы согласны, что в результате появления сильного ИИ людям на Земле должно стать жить лучше нежели если бы сильный ИИ никогда не был создан
Илон атакует нас в твиттере и тд по нескольким направлениям
у меня к нему эмпатия / сочувствие, поскольку я думаю он очень переживает по поводу вопросов безопасности касательно сильного ИИ !!! Сэм не впервый раз использует это выражение - у меня си/эмпатия к ... - возможно это такой коммуникационный приём, за которым нет никаких переживаний !!!
я уверен есть другие мотивы его (Илона) претензий !!! намекает о какой-то игре? непорядочном? !!!
я видел давнее видео Илона, где он говорит про SpaceX и многие известные люди из космической отрасли его критиковали, и что Илон говорил, что они (эти люди) были его героями и ему неприятно/больно, что его так сильно критикует, и что хотелось бы, чтобы было заметно как мы (Илон и ко) сильно стараются осуществить задуманное. Илон был героем Сэма, несмотря, что он козёл в твитере !!! сильное суждение человека !!!, я рад, что он существут, но мне бы хотелось, чтобы он больше замечал нашу тяжёлую работу, чтобы сделать всё правильно !!! очень удачный коммуникационный приём - приведение в пример критику на самого Илона !!! - Лекс: больше любви! Что ты ценишь в Илон Маске в контексте любви / принятия?
- Сэм: он двигал мир вперёд по важным направлениям
- электрический транспорт
космос
несмотря, что он козёл !!! оценка второй раз !!!, он весёлый и тёплый парень - Лекс: мне нравится разнообразие (мнений, людей..) и что в твитере идёт настоящая битва мнений...
- Сэм: может мне стоит ответить ... но это не мой стиль... (может когда-нибудь отвечу)
- Лекс: Вы оба (Сэм + Илон), хорошие люди и глубоко озабочены сильным ИИ и большой надеждой/верой в него !!! может людьми стоит быть озабоченным, а не технологиями? !!!
- Лекс: цитирую Илона Маска, кажется, chatGPT слишком WOKE (слишком толерантный, лгбт+, гендер и тд)? это вопрос касательно баяса?
- Сэм: не знаю уже что значит WOKE !!! сомнение !!!, но первые гпт были слишком баяс; не будет существовать версии чатгпт, чтобы у мира был консенсус, что у него нет баяса !!! хороший коммуникационный приём - можно сказать, что что-то недостижимо и не надо отвечать касательно неудобных вопросов про баяс !!!
- мы будем пытаться сделать базисную модель нейтральнее
- Лекс: пару слов касательно баяса модели связанного с работниками фирмы?
- Сым: 100% есть такой баяс, мы пытаемся избежать пребывания в "когнитивном пузыре Сан Франсиско"; я собираюсь в поездку по миру и буду говорить с людьми (клиентами) в совершенно разнообразных контекстах (в YC я так часто делал) !!! это показывает, что он целенаправленно старается использовать мета-ментальные модели, понять-моделировать других людей !!!
- думаю мы лучше других избегаем попадания в "сумасшедший пузырь Сан Франсиско", но думаю всё равно довольно глубоко в нём !!! признаёт несовершенство - оч хороший коммуникативный приём; располагает и вызывает доверие !!!
- Лекс: можно ли отличить баяс модели и баяса работников?
- Сэм: я больше всего переживаю за баяс людей, которые дотренировывают модель после! эту часть мы понимаем меньше всего.
- ->Это центральное место и самое, на мой взгляд, важное во всём интервью и в принципе в этой теме - решения проблем с каким бы то ни было инструментом (будь это ИИ или ещё что): есть проблема в том, что мы не умеем понимать и слушать друг-друга; если это не решать, то никакой ИИ, ни сильный ИИ не поможет нам договариваться с друг другом, будем и дальше в противном случае воевать, только теперь уже с ИИ и его производными.
=====================================
Тут я остановлюсь, поскольку:
а. не вижу дальше смысла что-то выписывать, если "базис" уже понятен и на нём нет достаточного фокуса
б. это энергозатратно и не уверен, что кому-то это интересно и/или полезно
Общие комментарии/вопросы:
- Ты даёшь людям мощнейший инструмент, с тем уровнем развития и сознания (ценности, смыслы..), что у них есть сейчас - значит, что они будут реализовывать те же потребности и смыслы, что и до / сейчас, но с новым инструментом.. значит, что все процессы ускорятся: а ты уверен, чтор мы не на "Титанике", чтобы ускорять ход корабля?
- Ты не можешь просчитать ходы / последствия в рамках одной компании, зачем берёшься думать и делать за остальных?
- Какую роль твои Эго и амбиции тут играют?
- Правда ли, что ты строишь/построил себе бункер (как и Цукерберг и ко): если да, то зачем? если мы не на "Титанике", то зачем тебе "бункер", если же на "Титанике", то зачем ускоряешь движение?
- Почему название компании не отвечает содержанию: почему не откроете код? как тренируете? какие данные используете? развые это не начальная цель - сделать OPEN AI для всего человечества? может тогда опен сорс?
- Такие модели натренированы на труде всего человечества (тексты, перводы, дизайны, картины, видео (уже в новой модели), игры, код..): почему взяв продукты всего человечества кто-то имеет право присваивать себе результаты = модели? их бы невозможно было бы получить без коллективного труда всех людей: разве они не должны тогда быть опен сорс?
- Универсальный базисный доход: большая ошибка, поскольку не учитывается природа человека - будет много деградации
https://www.youtube.com/watch?v=L_Guz73e6fw
4. Sam Altman | Lex Fridman #419 (ENG), основные тезисы и сравнение с первым интервью:
Не вижу смысла анализировать здесь также второе интервью и сравнивать с первым - непонятно если это кому-то нужно и интересно; если да, то потом просмотрю и проанализирую, сравню.
Я его не смотрел - мне врядли там что-то будет новое.
Человек уже так устроен, что и на счастье-то как будто неохотно и недоверчиво смотрим, так что и счастье ему надо навязывать.
М. Е. Салтыков-Щедрин
Ω
После того, как перепробуете всё и если не найдёте то, что ищете, быть может, стоит обратиться ко мне...я последний.
"Играю своей жизнью мелодию своей души — женщинам и детям на защиту"
Персональный сайт (в процессе)
Email для персональных сообщений