Министерство транспорта США использует Google Gemini для ускоренной разработки нормативных актов в сфере авиации и транспорта, вызывая опасения сотрудников о рисках из-за «галлюцинаций» ИИ, которые могут привести к серьезным авариям и жертвам.
Министерство транспорта США, по всей видимости, считает хорошей идеей использование искусственного интеллекта для разработки нормативных актов, влияющих на безопасность самолетов, автомобилей и трубопроводов, как показало расследование ProPublica, опубликованное в понедельник.
Это может стать проблемой, если Министерство транспорта (DOT) станет первым ведомством, использующим ИИ для составления правил, поскольку известно, что ИИ уверенно ошибается и генерирует вымышленные сведения. Сотрудники опасаются, что любой пропущенный ИИ-ошибку может привести к несовершенным законам, вызывая судебные иски, травмы или даже гибель людей в транспортной системе.
Однако главный юрисконсульт DOT, Грегори Зерзан, не обеспокоен этим, как следует из протоколов декабрьского совещания, поскольку цель не в том, чтобы ИИ был идеальным. Цель — помочь ускорить процесс нормотворчества, чтобы правила, на разработку которых уходят недели или месяцы, могли быть написаны в течение 30 дней. По словам Зерзана, предпочтительный инструмент DOT, Google Gemini, может составить проект правил менее чем за 30 минут.
«Нам не нужно идеальное правило по XYZ», — заявил Зерзан сотрудникам DOT на совещании. «Нам даже не нужно очень хорошее правило по XYZ. Нам нужно достаточно хорошее».
ProPublica побеседовала с экспертами и предоставила шестерым сотрудникам DOT анонимность, чтобы те могли высказать свою обеспокоенность по поводу использования DOT инструмента Google Gemini для разработки правил.
Некоторые эксперты, наблюдающие за использованием ИИ в госсекторе, сообщили ProPublica, что DOT мог бы сэкономить время, используя Gemini в качестве помощника по исследованиям «при условии достаточного надзора и прозрачности». Например, на одной из презентаций сотрудникам DOT сообщили, что «большая часть того, что входит во вступительные части нормативных документов DOT, — это просто „словесный салат“», а «Gemini умеет делать словесный салат».
Однако сотрудники сообщили ProPublica, что они «глубоко скептически» относятся к тому, что Gemini справится с этой задачей. Они подчеркнули, что нормотворчество в DOT — это «сложная работа», требующая иногда десятилетий «экспертизы в данной области, а также в существующих статутах, нормативных актах и судебной практике». Вероятно, еще большее беспокойство у сотрудников вызвало то, что ProPublica отметила: демонстрация разработки правил с помощью Gemini выдала документ с отсутствующим ключевым текстом, который сотруднику затем пришлось бы восполнять. Кроме того, этот шаг DOT предпринят после года, когда галлюцинации ИИ вызвали хаос в судах: многих юристов оштрафовали, а судьи признавались, что их могут обмануть сфабрикованные сведения.
Любые ошибки в правилах могут иметь серьезные последствия. Эти правила «затрагивают практически все аспекты безопасности на транспорте», удерживая «самолеты в небе», предотвращая «взрывы газопроводов» и не допуская «схода с рельсов грузовых поездов, перевозящих токсичные химикаты», — сообщило ProPublica.
«Это кажется дико безответственным», — сказал один из сотрудников.
Независимо от опасений сотрудников, DOT, похоже, стремительно движется вперед с этим планом, сообщает ProPublica. По словам сотрудника DOT, проинформированного по этому вопросу, ведомство уже использовало Gemini для разработки «пока не опубликованного правила Федерального управления гражданской авиации».
Дональд Трамп призывал федеральные ведомства ускорить внедрение ИИ, но нигде в его указах президент не требовал, чтобы ИИ разрабатывал законы, отметило ProPublica.
Однако Трамп «очень взволнован» инициативой DOT, сообщил Зерзан сотрудникам на совещании, предполагая, что Трамп рассматривает DOT как «острие копья» и ожидает, что последуют и другие ведомства.
В DOT Трамп, вероятно, надеется увидеть быстрое обновление многих правил для модернизации воздушного и автомобильного сообщения. В отчете, освещающем крупнейшие «успехи» Управления по научно-технологической политике в 2025 году, Белый дом отметил заслуги DOT в «замене многолетних правил гибкими, благоприятными для инноваций рамками», включая ускоренное принятие правил, разрешающих большее количество автоматизированных транспортных средств на дорогах.
В настоящее время DOT ожидает, что Gemini сможет справиться с «80–90 процентами работы по написанию нормативных актов», сообщает ProPublica. В конечном итоге все федеральные служащие, использующие инструменты ИИ, такие как Gemini, для разработки правил, «вернутся к роли простого надзора, отслеживая „взаимодействия ИИ с ИИ“», — сообщает ProPublica.
Google не ответил на запрос Ars о комментарии относительно этого сценария использования Gemini, который может распространиться по всему правительству под руководством Трампа.
Вместо этого технологический гигант в понедельник опубликовал блог, продвигая Gemini для госсектора в более широком смысле, обещая федеральным служащим, что ИИ поможет в «творческом решении наиболее критически важных аспектов их работы».
Google конкурировал с другими ИИ-конкурентами за государственные контракты, предлагая год доступа к Gemini за 0,47 доллара, что ниже сделок OpenAI и Anthropic на 1 доллар.
Контракт с DOT, похоже, важен для Google. В декабрьском блоге компания с гордостью сообщила, что DOT стал «первым ведомством уровня кабинета министров, полностью перешедшим от устаревших поставщиков к Google Workspace с Gemini».
В то время Google предположил, что этот шаг поможет DOT «обеспечить, чтобы в Соединенных Штатах была самая безопасная, самая эффективная и современная транспортная система в мире».
Сразу после этого Google призвал других федеральных руководителей запустить свои собственные инициативы с использованием Gemini.
«Мы стремимся поддержать цифровую трансформацию DOT и готовы помочь другим федеральным руководителям по всему правительству принять этот план для достижения их собственных миссий», — говорилось в блоге Google.
DOT не сразу ответил на запрос Ars о комментарии.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger