Исследователь из НИУ ВШЭ в Санкт-Петербурге Андрей Терников разработал пошаговую схему безопасного внедрения больших языковых моделей (LLM) в университетах. Методика помогает выстроить работу так, чтобы снизить риски, связанные с неточными ответами ИИ и нарушениями конфиденциальности. Об этом «Жуковский.Life» сообщили в пресс-службе НИУ ВШЭ.
Учёный использовал диаграмму Исикавы («рыбью кость»), чтобы разложить проблему на шесть групп факторов: «Материалы», «Методы», «Машины», «Среда», «Люди», «Измерения». Для каждой ветви он описал типичные сбои и предложил меры профилактики.
«Так, проблемы с приватностью данных можно решить, внедрив надежные протоколы безопасности и методы анонимизации. Технические ограничения частично решаются за счет облачных сервисов или открытых решений, а трудности во взаимодействии людей с искусственным интеллектом — за счет внедрения понятных правил и обучения», — отмечает исследователь.
Практическая логика внедрения, по его словам, строится на четырёх шагах: быстрый аудит текущего использования ИИ, введение минимальных стандартов, запуск ограниченных пилотов на типовых курсах и масштабирование успешных практик.
Активное использование ИИ в вузах уже привело к тому, что около 87% студентов применяют его в учебе. Исследователи называют это «постплагиатной» эрой, когда привычные схемы контроля знаний перестают работать, а регламенты не успевают за практикой.
Активное развитие генеративного искусственного интеллекта привело к его массовому использованию для создания интернет-контента. Согласно исследованию компании Graphite, после появления ChatGPT доля машинных текстов резко возросла, и сейчас ИИ генерирует более половины всего нового контента в сети, однако рост этого показателя, по данным аналитиков, в последнее время достиг плато.