А вот и прекрасное чтение на выходных, спасибо Леше Тихонову: подробное изложение точки зрения на ИИ как на просто очередную крутую

А вот и прекрасное чтение на выходных, спасибо Леше Тихонову: подробное изложение точки зрения на ИИ как на просто очередную крутую технологию, не обладающую никакими сенсационными атрибутами. Нет никаких цифровых существ, нет никаких автономных и потенциально обладающих сверхинтеллектом сущностей.

Как положено серьезному тексту, он разбит на три части: что имеем сейчас, куда это предположительно придет, рекомендации как нам следует с ИИ обращаться.

Текущая картинка мира состоит в том, что проникновение в области с критическими рисками остается низким: там используются традиционные вполне интерпретируемые модели. Там внедряемые технологии на десятилетия отстают о фронтирных разработок. Регуляторика, особенно европейская, тоже помогает тормозить внедрение новинок, но уж лучше сорвавшаяся с катушек бюрократия, чем сорвавшийся с катушек ИИ. Ну и вообще институции нашего общества способствуют торможению быстрых процессов. По сути, долго и достаточно аргументированно рассказывается, почему шкала времени для сильных изменений измеряется в поколениях, а не в годах; смену поколений ускорить технически невозможно.

В прогнозах на будущее основная роль отводится средствам контроля со стороны человека, которые превзойдут текущие возможности элайнмента и всегда будут обеспечивать подчиненную роль сколь угодно развитого ИИ. В качестве сильно неубедительного примера рассматривается невозможность грузового автономного транспорта, потому что водитель должен иногда сам разгружать машину или разговаривать с клиентами. Почему вождение рассматривается изолированно от автоматизации остальных смежных функций в логистических процессах, авторы не объясняют.

Третья часть — про риски. В ней снова странные обсуждения на примере автономного транспорта, испытывающего сложности в США, но при полном отсутствии упоминаний про его массовое и успешное развертывание в Китае. Здесь авторы предлагают фокусироваться не на специфичных для ИИ экзистенциальных рисках, которые модно обсуждать, а на прозаических рисках, которые влечет появление любой “обычной” новой технологии. Среди них усиление имеющихся противоречий в обществе, изменения рынка труда, новая дискриминация и замусоривание важнейших информационных каналов. Подчеркивается важная цель: уменьшение неопределенности за счет правильного регулирования.

В целом, успокаивающее чтиво для встревоженных развитием технологий. Я не сильно согласен с авторами, но мое мнение не делает их позицию в чем-нибудь хуже. Претензии у меня простые: вообще игнорируется восприятие ИИ в массовом сознании (взрывная популярность ИИ как компаньона или терапевта подтверждается статистикой использования). Неважно, что авторы считают неправильным относиться к ИИ как к личностям -- на практике все больше людей так относятся. Вообще не упоминается существующий тренд быстрого массового внедрения человекоподобных роботов, “воплощенного ИИ”. Тут речь совсем не про десятилетия, а результаты резко увеличивают ту самую неопределенность, которую авторы советуют снижать. И, традиционно, опыт Китая и процессы там словно вообще не существуют.

https://knightcolumbia.org/content/ai-as-normal-technology