“Мне ни к чему одические рати
И прелесть элегических затей.
По мне, в стихах все быть должно некстати,
Не так, как у людей…”
Анна Ахматова.
С Сергеем Гевличем (основатель компании «Смыслотека», ИИ-энтузиаст, основатель проекта «Афина ЕГЭ») мы в свое время хорошо поработали в его проекте “Смыслотека” (один из самых известных продуктов проекта - “объясняшки”, видеоролики, объясняющие суть продукта, явления, человека, компании). Теперь мимолетно пересекаемся в сетях. Он, как исследователь “искусственного интеллекта и нейросетей”, я, как Сторителлер и противник всего “искусственного”. У нас скажем так… “не одинаковые” взгляды на то, что сейчас захватывает умы и сердца большинства - стремительный рост цифровых технологий. И как “кроун оф криэйшен” всего этого “великий и ужасный ИИ” (кстати, эти эпитеты были заимствованы у “Волшебника Гудвина” из известной детской сказки, который на деле оказался “закомплексованным клерком”).
Поскольку я в какой-то момент занял непримиримую позицию по поводу Искусственного интеллекта: “Продавать в аптеке после 11:00, строго по рецепту врача, с плашкой 21+!!!”; мною были написаны несколько манифестационных статей, которыми я не преминул с Сергеем поделиться, он тоже в накладе не остался. Представил у себя на странице электронный вариант книги “Когда ответы стали дешевыми” и поделился со мной. За что ему - спасибо! Книга представляет из себя сборник стенограмм дискуссий какой-то конференции со множеством панелей. Но, темы этих панелей - взгляды с разных точек зрения на ИИ и его интеграцию в социальную жизнь человека.
Специально выписал всех участников дискуссии, чтобы вы понимали эти “точки зрения”. Итак… Участники:
- Марк Андриссен, венчурный инвестор, технооптимист
- Андрей Ын, исследователь и предприниматель в области ИИ
- Итан Моллик, профессор Wharton, исследователь практик работы с генеративным ИИ
- Арвинд Нараянан, профессор Princeton, соавтор “AI Snake Oil”
- Себастиан Семятковски, CEO Klarna
- Эрик Бриньолфссон, экономист, исследователь цифровой экономики
- Гэри Маркус, когнитивист, критик текущей LLM-парадигмы
- Сергей Гевлич, технологический предприниматель, методолог, создатель ИИ-каскадов для экспертных задач
- Дэвид Аутор, экономист труда
- Линда Граттон, профессор London Business School, исследователь будущего работы и организационного обучения
- Эмили Бендер, лингвист, критик больших языковых моделей
- Элисон Гопник, когнитивист, исследователь детского мышления и причинного обучения
- Шеннон Валлор, философ технологий и этики ИИ
- Ян Лекун, исследователь ИИ, главный AI scientist Meta
- Мередит Уиттакер, президент Signal, исследовательница власти и инфраструктуры ИИ
- Ласло Бок, бывший SVP People Operations в Google, автор “Work Rules!”
- Сал Хан, основатель Khan Academy
- Ричард Сасскинд, исследователь будущего юридической профессии и legal tech
- Томас Домке, CEO GitHub
- Тоби Лютке, CEO Shopify… Кого пропустил… Прощенья просим!
Я не буду, как обычно, делиться впечатлениями от прочитанного. Все они не будут новыми. Я приведу здесь высказывания, с которыми я либо согласен “на все 100%”, либо из серии “с такими друзьями и врагов не надо”. Думаю, тем не менее, это будет показательно… Да… Я не буду приводить авторства, за исключением тех цитат, что были произнесены самим Сергеем. Итак…
“...главный риск - не только в том, что модель ошибается. Главный риск в том, что она ошибается в форме компетентности. Да. Ошибка в плохом тексте часто заметна. Ошибка в хорошем тексте опаснее. Модель может дать красивую причинную
историю, убедительное объяснение, аккуратную структуру - и всё это может быть неверным, нерелевантным или пустым… …ещё: не переносите человеческие категории на систему слишком быстро. Когда мы говорим «модель думает», «модель
понимает», «модель знает», мы создаём неверную интуицию у пользователя… …В этом смысле они похожи на мощные машины имитации. Но человеческое обучение не
сводится к имитации. ИИ, основанный только на больших массивах языка и изображений, может прекрасно описывать известные способы использования объекта. Но ему трудно самостоятельно открыть новый способ действия в мире…”
“Сергей Гевлич: Я бы сказал так: опасность ИИ в том, что он слишком быстро закрывает вопрос. А мышление часто начинается не с ответа, а с удержания вопроса…” Тут я вставляю свой комментарий: быстрый ответ (решение) без затрачивания усилий - это и есть главный критерий допинга, с пока еще неясной для многих, а нам, сторителлерам, очевидной ужасающей побочкой!
“Иллюзия компетентности возникает тогда, когда человек получает продукт экспертной формы без внутреннего становления эксперта. И язык здесь играет ключевую роль. Текст - это социальный сигнал компетентности. Если человек пишет уверенно,
грамотно, структурно, мы склонны считать, что он понимает. LLM делает этот сигнал дешёвым… …Здесь есть и другая сторона. Новичок с ИИ действительно может сделать то, что раньше не мог. Это не всегда иллюзия. Если человек никогда не программировал и с помощью ИИ собрал простой рабочий инструмент, это реальное расширение возможностей…” Наркотики тоже “расширяют сознание”...
“Сергей Гевлич: Я бы добавил… ИИ увеличивает скорость появления «объектов для осмысления». Текстов, идей, гипотез, кода, планов. А способность осмысливать не масштабируется так же быстро.
Леонид (модератор): Это звучит как когнитивная инфляция.
Сергей: Да. Производство смыслоподобных объектов дешевеет. Осмысление дорожает…” Тут мне понравились словосочетания: “когнитивная инфляция” и “смыслоподобные объекты”!
“Если человек постоянно живёт в потоке сгенерированных вариантов, у него может
снижаться терпимость к медленному мышлению. А некоторые виды понимания требуют медленности… …В развитии ребёнка это особенно важно. Игра, исследование, скука, попытка самому найти решение - это не потерянное время.
Это среда формирования мышления. Если мы всё время даём быстрый ответ, мы можем нарушить естественный цикл исследования…”
“Леонид: Элисон, где граница между полезной трудностью и бессмысленной рутиной?
Элисон: Хороший вопрос. Полезная трудность - та, которая помогает построить модель мира или навык. Бессмысленная рутина - та, которая только потребляет внимание без развития понимания. Но граница зависит от стадии обучения. Для эксперта какая-то операция может быть рутиной. Для новичка она может быть необходимым упражнением…” Ну и как тут не вспомнить Анну Андреевну: “Когда б вы знали, из какого сора
Растут стихи, не ведая стыда,
Как желтый одуванчик у забора,
Как лопухи и лебеда.
Сердитый окрик, дегтя запах свежий,
Таинственная плесень на стене…
И стих уже звучит, задорен, нежен,
На радость вам и мне…” Рутина или питательная среда?! Вот в чем вопрос…
“Книга не притворяется собеседником. Бумага не отвечает уверенным голосом. Диаграмма не говорит: «Я думаю, что решение такое». LLM создаёт социальную иллюзию партнёра. Это меняет отношение пользователя…” Опять хорошее словосочетание: “”иллюзия партнера”. Тоже что-то из области запрещенных веществ.
“Если признаки компетентности становятся дешёвыми, что происходит с институтами, которые десятилетиями по этим признакам судили о человеке? Резюме. Мотивационное письмо. Тестовое задание. Домашнее эссе. Заочная олимпиада.
Юридический документ. Научная рецензия. Консалтинговая презентация. Аналитическая записка. Все эти формы были не просто артефактами. Они были сигналами. По ним мы пытались понять: человек умеет думать или нет, знает предмет или нет, способен решать задачу или нет, заслуживает доверия или нет. ИИ ломает не потому, что он «плохой». Он ломает потому, что делает производство сигналов дешёвым…” Дешевым, потому что иллюзорным. А Кирилл Палыч лет пятнадцать как… говорит: “Рынок резюме и этого всего сменит Рынок ценных текстов!”
И тут интересны ответы экспертов на вопрос модератора: “Что теперь является дорогим сигналом?”
“...Дэвид: Живое решение задачи. Перенос навыка. Репутация, подтверждённая действиями. История работы. Способность объяснять и защищать суждение.
Ласло: В найме - work sample в контролируемых условиях, структурированное интервью, проверка реального прошлого опыта, рекомендации от людей, которые видели кандидата в работе. И ещё - trial projects, но честные и короткие, не
эксплуатационные.
Сал: В образовании - устное объяснение, процесс решения, портфолио черновиков, рефлексия, работа с ошибками, способность применить идею к новому случаю.
Ричард: В праве - проверяемость источников, профессиональная ответственность, audit trail. Возможность показать, откуда взялась каждая правовая позиция.
Арвинд: В экспертизе - воспроизводимость. Данные, методы, ограничения, открытость к проверке. Не просто «вывод», а «как вы пришли к выводу».
Мередит: И я бы добавила: независимость. В мире, где инфраструктуры оценки принадлежат платформам, дорогим сигналом становится доверие к институту, который не заинтересован в манипуляции результатом.
Сергей: Для меня главный новый сигнал - способность думать вслух под изменяющимся условием. Когда человек сталкивается с уточнением, возражением, новым ограничением и не рушится, а перестраивает ход мысли. Это трудно сымитировать готовым артефактом…”
Мне одному кажется, что они все говорят о… СТОРИТЕЛЛИНГЕ?! Мозг человеческий нужно учиться развивать, а не технологии… Технологии что? Молоток, канцелярские счеты. Там, на конференции, сравнивали ИИ с электричеством. Очень точно. Дозировано… По рецепту… С учетом возраста… Ну и как не вспомнить Михал Афанасича… “Объясните мне, пожалуйста, зачем нужно искусственно фабриковать Спиноз, когда любая баба может его родить когда угодно. Ведь родила же в Холмогорах мадам Ломоносова этого своего знаменитого. Доктор, человечество само заботится об этом и в эволюционном порядке каждый год упорно, выделяя из массы всякой мрази, создаёт десятками выдающихся гениев, украшающих земной шар…”
По-другому… не скажешь!!!
...........................................................................
Об авторе: Гопиус Кирилл Павлович,
Сторителлер всея Руси
единственный профессиональный эксперт по сторителлингу в России.
Исследователь, модератор, идеолог, советник руководителя.
Ссылка на резюме на hh.ru: https://domodedovo50.hh.ru/resume/be455c75ff0afcba200039ed1f6e6a78373041
Полное собрание сочинений (около 50 книг: теория, практика, методология сторителлинга):
https://dzen.ru/a/Y6vU1z58TWxEtmqr
Ссылка на Дзен канал (больше 3000 статей 14 000 подписчиков): https://dzen.ru/id/5c584c0186e4a700adce84cb
Когда нужно “портфолио”, сюда…
https://realmir-gopius.livejournal.com/818219.html
Карьеру свою начал с дворника и санитара, разнорабочего на стройке. Работал экспедитором и торговым представителем. Позже с 1999 года занимал руководящие посты в различных бизнес структурах (строительство, машиностроение, продажи, финансы, безопасность). Работал по России и за границей (Кувейт, Саудовская Аравия, Швейцария).
С 2004 года изучает, исследует, популяризирует, преподает и практикует сторителлинг, как мировоззрение, философию, фундаментальную науку и коммуникационную технологию. Помогает людям, компаниям, сообществам, территориям вспоминать, создавать, представлять свои истории, вписывать их в глобальные контексты, что проявляет внутренние ценности и смыслы людей, компаний, сообществ, территорий. Самоидентификация и коммуникация с любой аудиторией.
В 2010 году основал и руководил Центром прикладных знаний в Санкт-Петербурге. В 2017 году учредил “ГопиусСториБАНК”. Написано тысячи статей, взято сотни интервью. Почти 40 книг о методологии и философии сторителлинга, сценарии сторителлинг спектаклей. Кроме того, пьесу по книге “От первого лица. Разговоры с Владимиром Путиным”, пьесу по воспоминаниям о Е.М. Примакове (по линии ТПП), корпоративную историю компании QIWI, книгу о “Международном генеалогическом центре”, биографию героя Калмыкии Церена Санджеевича Балзанова, тренера олимпийского призера по боксу, биографию Александра Васильевича Зимина, тренера российских профессиональных боксеров.
Создал несколько образовательных программ по сторителлингу, которые применял в работе с депутатами (ГБУ “Центр социальных коммуникаций”), управленцами (“Президентская программа подготовки управленческих кадров”), с членами некоммерческих организаций (“Общественная палата РФ”), предпринимателями, актерами (Центр имени Мейерхольда), учителями, спортсменами и пр.
Был организатором 7-ми фестивалей сторителлинга в России.
В 2011 году в течении года вел подкасты про сторителлинг. в 2019 году сделал несколько авторских программ на “Радио 1”. В 2017 было написано 20 сценариев для видео роликов, представляющих косметическую фирму “Солинг” их услуги и продукты. Имеет большой опыт телевизионных съемок, съемок в кино, участия в театральных представлениях.
За последние несколько лет работал: Ген. директором СРО “Ассоциация ЖЕЛДОРБЕЗОПАСНОСТЬ”, Пресс-секретарем “Российского профсоюза работников транспортной безопасности”, экскурсоводом-проводником смыслов на Международной выставке-форуме “Россия (Москва, ВДНХ). По итогам работы на форуме написал книгу “Театр проводников смыслов” (о новом туристическом формате представления историй людей, компаний, сообществ, территорий), включающую в себя две пьесы для такого театра: “Мой 75-й. Наша Россия” и “Издалека долго… Диалоги с рекой”. Несколькими годами ранее была написана книга о “Театре предпринимателя” (основанная на опыте работы с предпринимателями). Экскурсоводом в Музее «Дедушкин чердак», «Космический чердак», Музей радио и телевидения.
С 2015 по 2018 год был ректором образовательной Академии экспертной сети “Союзконсалт”.