Министерство транспорта США (DOT) планирует использовать искусственный интеллект, в частности Google Gemini, для ускоренного написания федеральных транспортных нормативов. Инициатива, которую лоббирует администрация Трампа, вызывает опасения среди сотрудников DOT из-за рисков, связанных с ошибками ИИ в критически важных областях безопасности.
Эта история была первоначально опубликована изданием ProPublica.
Администрация Трампа планирует использовать искусственный интеллект для написания федеральных транспортных нормативных актов, согласно данным Министерства транспорта США (DOT) и интервью с шестью сотрудниками ведомства.
Этот план был представлен сотрудникам DOT в прошлом месяце на демонстрации «потенциала ИИ в революционизировании способа составления нормативных актов», — написал юрисконсульт ведомства Дэниел Коэн коллегам. Демонстрация, как отметил Коэн, должна была показать «новые захватывающие инструменты ИИ, доступные авторам нормативных актов DOT, чтобы помочь нам выполнять нашу работу лучше и быстрее».
Обсуждение плана продолжилось среди руководства ведомства на прошлой неделе, согласно протоколам совещания, изученным ProPublica. Грегори Зерзан, генеральный юрисконсульт ведомства, заявил на этой встрече, что президент Дональд Трамп «очень воодушевлен этой инициативой». Зерзан, по всей видимости, предположил, что DOT находится в авангарде более широких федеральных усилий, назвав департамент «острием копья» и «первым ведомством, полностью уполномоченным использовать ИИ для составления правил».
Зерзана, по-видимому, интересовало в первую очередь количество нормативных актов, которые может сгенерировать ИИ, а не их качество. «Нам не нужно идеальное правило по XYZ. Нам даже не нужно очень хорошее правило по XYZ», — цитируют его протоколы совещания. «Нам достаточно, чтобы было достаточно хорошо». Зерзан добавил: «Мы наводняем зону».
Эти события встревожили некоторых сотрудников DOT. Правила ведомства затрагивают практически все аспекты безопасности на транспорте, включая регламенты, которые обеспечивают нахождение самолетов в воздухе, предотвращают взрывы газопроводов и не дают грузовым поездам, перевозящим токсичные химикаты, сходить с рельсов. Почему, задавались вопросом некоторые сотрудники, федеральное правительство собирается отдавать на аутсорсинг написание столь критически важных стандартов новой технологии, печально известной склонностью к ошибкам?
Ответ сторонников плана прост: скорость. Написание и пересмотр сложных федеральных нормативных актов может занимать месяцы, а иногда и годы. Однако, благодаря версии Google Gemini, используемой в DOT, сотрудники смогут генерировать проект правила за считанные минуты или даже секунды, как запомнили два сотрудника DOT, присутствовавшие на декабрьской демонстрации, слова докладчика. В любом случае, большая часть того, что входит во введения нормативных документов DOT, — это просто «словесная окрошка» (word salad), — вспомнил докладчика один из сотрудников. Google Gemini умеет делать «словесную окрошку».
На прошлой неделе Зерзан вновь подтвердил стремление ускорить нормотворчество с помощью ИИ. Цель состоит в том, чтобы кардинально сократить сроки производства транспортных нормативных актов, так чтобы они могли пройти путь от идеи до полного проекта, готового к рассмотрению Управлением по вопросам информации и регулирования (OIRA), всего за 30 дней, — сказал он. Это должно быть возможно, поскольку «на получение проекта правила из Gemini не должно уходить больше 20 минут».
План DOT, о котором ранее не сообщалось, представляет собой новый фронт в кампании администрации Трампа по интеграции искусственного интеллекта в работу федерального правительства. Эта администрация не первая использует ИИ; федеральные ведомства постепенно внедряют эту технологию в свою работу на протяжении многих лет, в том числе для перевода документов, анализа данных и категоризации публичных комментариев, среди прочего. Однако нынешняя администрация проявила особую заинтересованность в этой технологии. Трамп выпустил несколько исполнительных указов в поддержку ИИ в прошлом году. В апреле директор Управления по вопросам управления и бюджета Рассел Воут распространил меморандум, призывающий к ускорению его использования федеральным правительством. Через три месяца администрация выпустила «План действий по ИИ», содержащий аналогичное указание. Однако ни в одном из этих документов прямо не говорилось об использовании ИИ для написания нормативных актов, как это планирует DOT.
Эти планы уже приведены в действие. Ведомство использовало ИИ для составления еще не опубликованного правила Федерального управления гражданской авиации (FAA), по словам сотрудника DOT, знакомого с этим вопросом.
Скептики утверждают, что так называемым большим языковым моделям, таким как Gemini и ChatGPT, не следует доверять сложные и ответственные задачи управления, учитывая, что эти модели склонны к ошибкам и не обладают человеческим мышлением. Но сторонники рассматривают ИИ как способ автоматизировать рутинные задачи и повысить эффективность медленно работающей федеральной бюрократии.
Такой оптимизм был продемонстрирован в конференц-зале без окон в Северной Вирджинии ранее в этом месяце, где федеральные технические чиновники, собравшиеся на саммите по ИИ, обсуждали принятие «культуры ИИ» в правительстве и «повышение квалификации» федеральных служащих для использования этой технологии. Среди этих федеральных представителей был Джастин Юберт, начальник отдела кибербезопасности и операций Федерального управления транзита DOT, который выступал на панели, посвященной планам Департамента транспорта по «быстрому внедрению» искусственного интеллекта. Многие считают людей «узким местом», замедляющим ИИ, — отметил он. Но в конечном итоге, предсказал Юберт, люди отойдут к простой надзорной роли, контролируя «взаимодействия ИИ с ИИ». Юберт отказался давать комментарии ProPublica под запись.
Аналогично радужное отношение к потенциалу ИИ пронизывало презентацию в DOT в декабре, на которой присутствовало более 100 сотрудников DOT, включая руководителей отделов, высокопоставленных юристов и государственных служащих из отделов нормотворчества. Переполненный энтузиазмом, докладчик сообщил им, что Gemini может справиться с 80% до 90% работы по написанию нормативных актов, а сотрудники DOT смогут выполнить оставшуюся часть, вспомнил один из участников.
В качестве иллюстрации докладчик попросил аудиторию предложить тему, по которой DOT, возможно, потребуется составить Уведомление о предложении о нормотворчестве (Notice of Proposed Rulemaking) — публичное заявление, излагающее планы ведомства по введению нового регламента или изменению существующего. Затем он ввел ключевые слова темы в Gemini, который сгенерировал документ, похожий на Уведомление о предложении о нормотворчестве. Однако, по воспоминаниям одного сотрудника, в нем, по-видимому, отсутствовал фактический текст, который включается в Свод федеральных нормативных актов (Code of Federal Regulations).
Докладчик, по словам трех присутствовавших, почти не выразил беспокойства по поводу того, что нормативные документы, созданные ИИ, могут содержать так называемые «галлюцинации» — ошибочный текст, часто генерируемый большими языковыми моделями, такими как Gemini. В любом случае, сказал он, именно здесь вступят в дело сотрудники DOT. «Мне показалось, что его видение будущего нормотворчества в DOT заключается в том, что наша работа будет заключаться в вычитке этого машинного продукта», — сказал один из сотрудников. «Он был очень воодушевлен». (Присутствовавшие не смогли четко вспомнить имя главного докладчика, но трое сказали, что полагают, что это был Брайан Бротсос, исполняющий обязанности главного специалиста по ИИ в ведомстве. Бротсос отказался от комментариев, перенаправив вопросы в пресс-службу DOT.)
Представитель DOT не ответил на запрос о комментариях; Коэн и Зерзан также не ответили на сообщения с просьбой о комментариях. Представитель Google не предоставил комментариев.
Декабрьская презентация оставила некоторых сотрудников DOT глубоко скептичными. Они заявили, что нормотворчество — это сложная работа, требующая экспертизы в данной предметной области, а также в существующих статутах, нормативных актах и прецедентном праве. Ошибки или упущения в нормативных актах DOT могут привести к судебным искам или даже травмам и смертям в транспортной системе. Некоторые авторы правил имеют многолетний опыт. Но, по словам присутствовавших, докладчик, казалось, проигнорировал все это. «Это кажется дико безответственным», — сказал один из них, который, как и другие, просил об анонимности, поскольку не был уполномочен публично высказываться по этому вопросу.
Майк Хортон, бывший исполняющий обязанности главного специалиста по искусственному интеллекту в DOT, раскритиковал план использования Gemini для написания нормативных актов, сравнив его с «привлечением стажера старшей школы для выполнения нашей работы по нормотворчеству». (Он сказал, что план не разрабатывался, когда он покинул ведомство в августе.) Отмечая ставки, связанные с жизнью и смертью в правилах транспортной безопасности, Хортон заявил, что руководство ведомства «хочет действовать быстро и ломать вещи, но когда действуешь быстро и ломаешь вещи, люди получают травмы».
Ученые и исследователи, отслеживающие использование ИИ в правительстве, высказали смешанные мнения о плане DOT. Если авторы правил ведомства используют технологию в качестве своеобразного помощника по исследованиям при строгом надзоре и прозрачности, это может быть полезно и сэкономить время. Но если они передадут ИИ слишком много ответственности, это может привести к недостаткам в критически важных нормативных актах и нарушить требование о том, чтобы федеральные правила основывались на обоснованном принятии решений.
«Только потому, что эти инструменты могут генерировать много слов, это не означает, что эти слова складываются в высококачественное государственное решение», — сказала Бриджит Дулинг, профессор Университета штата Огайо, изучающая административное право. «Так заманчиво попытаться понять, как использовать эти инструменты, и я думаю, что попытка имеет смысл. Но я считаю, что это следует делать с большой долей скептицизма».
Бен Уинтерс, директор по ИИ и конфиденциальности в Федерации потребителей Америки (Consumer Federation of America), заявил, что план особенно проблематичен, учитывая отток экспертов из правительства в результате сокращения федерального штата при администрации в прошлом году. С момента возвращения Трампа в Белый дом DOT потерял в общей сложности почти 4000 из 57 000 сотрудников, включая более 100 юристов, показывают федеральные данные.
Департамент эффективности управления Илона Маска (Department of Government Efficiency, DOGE) был одним из главных сторонников принятия ИИ в правительстве. В июле The Washington Post сообщила об утечке презентации DOGE, в которой предлагалось использовать ИИ для устранения половины всех федеральных нормативных актов, в том числе путем поручения ИИ составления нормативных документов. «Написание автоматизировано», — говорилось в презентации. Программа ИИ DOGE «автоматически составляет все сопроводительные документы для редактирования юристами». DOGE и Маск не ответили на запросы о комментариях.
Белый дом не ответил на вопрос о том, планирует ли администрация использовать ИИ для нормотворчества и в других ведомствах. Четверо высших технических чиновников администрации заявили, что им ничего не известно о таком плане. Что касается заявления DOT о роли «острия копья», двое из этих чиновников выразили скептицизм. «Много позерства вроде: „Мы хотим выглядеть лидерами во внедрении ИИ в федеральных структурах“», — сказал один из них. «Я думаю, это во многом маркетинговый ход».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jody Serrano