Предупреждение дизайнера правительства Великобритании: полагаясь на ИИ для обобщения материалов, можно получить неполную картину. «Мы должны проектировать с учетом того, что большая часть публикуемого нами будет переосмыслена системами, которые мы не контролируем». — theregister.com
Старший дизайнер правительства Великобритании предупредил, что те, кто полагается на искусственный интеллект для обобщения официальных материалов, могут получить искаженно узкую или неполную их версию.
По словам руководителя отдела дизайна Марка Эдвардса, цифровые сервисы Департамента образования страны фиксируют рост трафика от поиска, опосредованного ИИ, и снижение числа фактических посещений страниц. «Сначала это казалось прогрессом; не стоит сопротивляться более быстрому доступу к информации», — пишет он в своем блоге на сайте GOV.UK. «Но при более внимательном рассмотрении картина оказалась сложнее».
Если агенты или ответы, опосредованные ИИ, станут доминирующей точкой входа, мы должны быть уверены, что люди, которым не хватает уверенности или знакомства с темой, не окажутся в еще более невыгодном положении…
Одна из проблем заключается в том, что инструменты ИИ отвечают только на заданный вопрос: «Они встречаются с пользователями там, где те уже находятся, что может ограничить открытие новой информации и укрепить пробелы в понимании», — пишет Эдвардс. Например, подросток, заканчивающий школу, может не знать, что нужно искать информацию о таких вариантах, как ученичество, уровни T-levels или профессиональные пути.
Ситуация для растерянного выпускника школы может быть не так плоха, как опасается Эдвардс. Обзор, сгенерированный Google в ответ на поиск по вопросу «Какие у меня есть варианты после окончания школы?» с британского IP-адреса, включал все три упомянутых им варианта, а также уровни A-levels, университет и трудоустройство. Он использовал такие источники, как пост в блоге GOV.UK, призванный ответить на этот вопрос, а также сайты о карьере выпускников и консультационные страницы на ресурсах благотворительных организаций, местных органов власти и отдельной школы, все из которых выглядели вполне надежными.
Но даже если инструменты ИИ смогут давать подробные ответы на общие вопросы, тем, кто пишет официальные веб-сайты, в будущем придется делать это отчасти и для тех, кто никогда не зайдет на сайт.
«Теперь нам нужно проектировать с учетом того, что большая часть того, что мы публикуем, будет читаться косвенно, атомизироваться, обобщаться или переосмысливаться системами, которые мы не контролируем», — пишет Эдвардс.
Это делает такие качества, как четкий, хорошо структурированный контент на простом английском языке, еще более важными, но также требует обдумывания того, является ли абзац, вырванный из контекста, безопасным и точным. Эдвардс добавляет, что это, вероятно, также будет означать тестирование того, как материал выглядит после прохождения через инструменты ИИ, и его разработку таким образом, чтобы он мог интерпретироваться как машинами, так и людьми. «Если агенты или ответы, опосредованные ИИ, станут доминирующей точкой входа, мы должны быть уверены, что люди, которым не хватает уверенности или знакомства с темой, не окажутся в еще более невыгодном положении», — говорит он.
Государственная цифровая служба (Government Digital Service) проводит испытания собственного чат-бота на базе ИИ, который использует только материалы с GOV.UK, и считает, что сейчас он дает точные ответы в 90 процентах случаев. Однако пользователи считают его среднее время ответа в 10,7 секунды слишком долгим, поэтому служба рассматривает возможность разделения ответов для предоставления первоначального ответа быстрее. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – SA Mathieson