Автор: Дуг Белшоу
С 1917 по 1983 год архитектор, теоретик систем и изобретатель Бакминстер Фуллер вёл дневник, который он назвал «Хронофайл Димаксион». Это была навязчивая запись его жизни:
«Хронофайл Фуллера» содержит более 140 000 листов бумаги, а также 64 000 футов плёнки, 1500 часов аудиокассет и 300 часов видеозаписей. «Хронофайл» снабжен перекрестными ссылками в алфавитном порядке с использованием 13 500 карточек размером 5x8 дюймов. Фотографии из детства Фуллера, начиная с четырёхлетнего возраста, были добавлены ретроспективно.
Это была его попытка запечатлеть жизнь во всех её деталях, создать то, что мы сегодня назвали бы «внешней памятью» с возможностью поиска.
Большинство организаций, ориентированных на выполнение миссии, используют нечто вроде «хронографа Dymaxion»: архивы электронной почты, CRM-системы, аналитические панели, общие документы и записи видеоконференций. В наши дни эти системы часто дополняются инструментами искусственного интеллекта, готовыми по запросу извлечь любой фрагмент и обобщить найденную информацию. Это может ощущаться как сверхскоростной прогресс: ничего не исчезает, и все можно вернуть на место.
Мы можем думать, что идеальная память — это удивительный дар или то, к чему нужно стремиться. Опыт людей с гипертимезией говорит об обратном. Это редкое состояние, при котором люди способны помнить аномально большое количество событий своей жизни в мельчайших деталях. Важно отметить, что они не воспринимают это как сверхспособность, а как отвлекающий, навязчивый и утомительный фактор.
Оказывается, забывание — это то, как функционирует человек. Мы не только храним информацию, но и сжимаем ее, переосмысливаем и позволяем событиям отойти на второй план, чтобы мы могли действовать сейчас, в этой ситуации или контексте, и с этим набором приоритетов.
То же самое верно и для организаций. Существует разница между способностью вспомнить всё и способностью решить, что делать дальше. Инструменты искусственного интеллекта могут обещать сделать наши институциональные воспоминания доступными для поиска и анализа в больших масштабах, но риск заключается в том, что мы путаем доступность с полезностью.
Цена за то, чтобы помнить всё
В рассказе Борхеса «Фунес Памятливый» главный герой падает с лошади и обретает идеальную память. Он помнит всё. Каждый лист на каждом дереве, которое он когда-либо видел, по отдельности и в любой конфигурации света. Каждое слово каждого разговора. Каждое ощущение каждого момента. Его воспоминания абсолютны, мгновенны и безупречны.
Это его полностью разрушает.
Почему? Фунес не может обобщать. Он не может абстрагироваться. Он не может, в каком бы то ни было смысле мыслить. Как пишет Борхес: «Мыслить — значит забыть разницу, обобщить, абстрагироваться. В перенасыщенном деталями мире Фунеса не было ничего, кроме деталей». Его разум становится подобен жесткому диску, заполненному несжатыми фильмами, хранящему каждый пиксель каждого кадра, но никогда не создающему краткого изложения.
Эту историю обычно читают как притчу о пределах памяти. Но, возможно, полезнее читать её как притчу о пределах информации. Фунес не испытывает недостатка в данных; он тонет в них. Во многих отношениях утопление в данных — это худшая проблема, чем их недостаток, потому что оно маскируется под компетентность.
Когда вы можете вспомнить каждый факт, легко принять воспоминание за проницательность, как студент, который зубрит к экзамену, но потом понятия не имеет, что делать с этой информацией в реальной жизни.
Пределы информационных панелей
Как я объяснил во втором посте этой серии, существует разница между выбором (выбором из предложенных вариантов) и свободой воли (формированием того, какие варианты вообще существуют).
Точно так же полезно провести различие между понятностью и значимостью:
- Понятность означает, что что-то можно зафиксировать в виде данных. Например, посещаемость веб-сайта, показатели завершения программ или уровень вовлеченности в социальных сетях. То, что можно подсчитать, отследить, построить график и сравнить.
- Значимость означает, насколько важны эти данные с точки зрения их реального влияния на миссию организации. Иногда понятность и значимость пересекаются, но часто нет, и они тянут в разные стороны.
Наиболее значимые действия организации, такие как создание сообществ, проведение информационно-пропагандистской работы для изменения мнения людей по тому или иному вопросу или создание условий для системных изменений, часто наименее понятны. Их трудно количественно оценить не потому, что они «неопределенны», а потому, что они сложны. Сложно выразить сложность одним числом.
Например, молодежной благотворительной организации было бы очень легко сообщить своему совету директоров, сколько семинаров они провели за финансовый год и сколько молодых людей их посетили. Но гораздо сложнее определить значимость этих данных: чувствуют ли эти молодые люди себя теперь более способными противостоять несправедливости? Стали ли они чаще обращаться за помощью, когда она им нужна?
Мы знаем, что системы ИИ предвзяты к понятным данным. Они очень хорошо выявляют закономерности в существующих данных, но слепы к тому, что не было измерено — или не могло быть измерено. Поэтому опасность заключается в том, что сложный анализ с помощью ИИ начинает еще больше подталкивать организации к оптимизации того, что измеримо, а не того, что имеет смысл.
Послушайте, никто не ставит перед собой цель заменить значимость понятностью. Этот сдвиг больше похож на эрозию. Инструменты делают понятность легкой и приятной, поэтому значимость в конечном итоге вытесняется.
Со временем программы с упорядоченными показателями начинают выглядеть более «эффективными», чем программы с нечеткими, но глубокими результатами. Если не проявлять осторожность, организации, ориентированные на выполнение миссии, могут столкнуться с тем, что новый генеральный директор начнет перенаправлять ресурсы с программ, дающих преобразующие, но трудноизмеримые результаты, на программы, дающие скромные, но «поддающиеся визуализации» результаты.
Инструменты ИИ могут слишком легко привести к тому, что читаемость будет отдана больше, чем значимость.
Идентичные, но не одинаковые
Борхес написал еще одну историю, которая освещает это с другой точки зрения. В Пьере Менаре, авторе «Дон Кихота» писатель XX века создает текст, слово в слово идентичный «Дон Кихоту» Сервантеса. Он добился этого не путем копирования, а путем получения тех же слов совершенно иным способом. Борхес утверждает, что два идентичных текста означают совершенно разные вещи из-за разных контекстов, в которых они были созданы.
Я согласен.
Контекст имеет значение, когда речь идёт об анализе, генерируемом ИИ. Рекомендация, основанная на глубоких организационных знаниях, контекстной оценке и с трудом приобретённом опыте, может выглядеть так же, как и рекомендация, сгенерированная моделью ИИ, обрабатывающей те же данные. Слова в рекомендации могут быть даже идентичными – например, «Сосредоточьтесь на взаимодействии с сообществом и работе с донорами, чтобы укрепить отношения и увеличить пожертвования».
Но это не одна и та же рекомендация. Важен сам процесс – не потому, что процесс сам по себе «священен», – а потому, что способность генерировать рекомендацию является формой организационного интеллекта. Эта способность содержит неявные знания, отношения, институциональную память и чувство риска, которые не укладываются в чётко заданный вопрос. Аутсорсинг этой способности означает, что организация становится зависимой от инструмента, который, возможно, и способен произвести результат, но не может воспроизвести понимание, которое когда-то лежало в его основе.
Аргумент в пользу стратегического забывания
Возвращаясь к истории Фунеса Памятника, его трагедия в том, что он не может забыть. Всё одинаково присутствует, одинаково важно, одинаково требует внимания. У него нет иерархии значимости, нет системы критериев для определения того, что важно, а что нет. В каком-то смысле у него бесконечный объем данных и полное отсутствие здравого смысла.
Противоядием от этого является не невежество, а то, что можно назвать стратегическим забыванием: преднамеренная, принципиальная практика игнорирования или откладывания информации. Организации могут принимать такое решение не потому, что информация ложна, а потому, что уделение ей внимания в данный момент не служит целям организации.
Чтобы было ясно, это не аргумент против принятия решений на основе доказательств. Скорее, это аргумент о том, что на самом деле требуется для принятия решений на основе доказательств. Организациям нужны не только сами доказательства, но и система критериев значимости, предварительное понимание того, чего они пытаются достичь.
Без такой системы больше данных просто превращается в больше шума. Инструменты ИИ, которые преуспевают в создании большего количества данных, легко могут превратиться в «машины шума», если организации не хватает умения ими управлять.
Я считаю, что наиболее эффективно использовать ИИ будут не те организации, которые генерируют больше всего аналитических данных. Вместо этого, наиболее эффективными будут те, кто сможет взять всеобъемлющий отчет, сгенерированный ИИ, и с уверенностью заявить, что они будут действовать на основе двух выводов, а остальные отложат в сторону.
Умение управлять процессом — это то, что нельзя автоматизировать. Это результат ясности миссии, институциональной памяти, понимания контекста — и смелости быть избирательным в среде, которая поощряет всесторонний подход.
Что мы узнали из этой серии
Начиная с вопроса о восприятии, в первом посте этой серии был задан вопрос: знаете ли вы, что находитесь внутри системы? Я исследовал, как инструменты ИИ переходят от «необязательных» к «неизбежным», и как механизмы управления могут накапливаться, не обеспечивая подотчетности.
Во втором посте был задан вопрос: видите ли вы, что система скрывает от вас? Мы рассмотрели, как инструменты ИИ сужают пространство выбора до того, как к вам придет лицо, принимающее решение, — и что нужно, чтобы восстановить осознание закрытых путей.
В этом посте задается вопрос: можете ли вы по-прежнему ясно мыслить внутри системы? Я утверждал, что больше данных не приводит к лучшим решениям, если они не сочетаются с суждением, определяющим, что имеет значение. Инструменты ИИ могут подрывать это суждение, даже умножая доступную информацию.
Эти три вопроса образуют последовательность:
- Вы не можете восстановить свой выбор, если не знаете, что находитесь внутри системы.
- Вы не можете ясно мыслить о своем выборе, если не можете его увидеть.
- Видеть их недостаточно, если вас переполняет все остальное, что показывает вам система.
Борхес всю свою карьеру писал о системах, которые прекрасны, всеобъемлющи и тихо бесчеловечны: библиотеки, лотереи, бесконечные сады, идеальные воспоминания. В каждом случае система работает именно так, как задумано, но люди внутри нее при этом обесцениваются. Организации, которые лучше всего справятся с ИИ, — это не те, которые внедряют больше всего инструментов или генерируют больше всего данных. Это те, которые сохраняют способность отстраниться от системы и спросить себя, служит ли она их целям.
В конечном счете, организационный потенциал — это не проблема технологий; это проблема лидерства. Она начинается с готовности задавать неудобные вопросы о том, насколько то, что делает ваша организация, действительно принадлежит ей.