Автор Дуг Белшоу
Я очень оптимистично отношусь к использованию инструментов искусственного интеллекта, таких как LLM, для решения конкретных задач. См., например, последний пост в моем личном блоге.
Однако меня беспокоит процесс принятия решений его ИИ. В данном случае люди, которые не читали книг, реализуют сумасшедший закон в вопросах, которые определяются через решения языковой модели, которая толком не понимает, что от нее просят.
Согласно статье в газете штата Айова The Gazette от 11 августа, которую заметил PEN America, муниципальный школьный округ Мейсон-Сити недавно удалил 19 книг из своей коллекции в преддверии быстро приближающегося 2023-24 учебного года. Запрет является попыткой соответствовать новому закону, требующему, чтобы каталоги школьных библиотек Айовы были «соответствующими возрасту» и не содержали «описаний или визуальных изображений полового акта». В беседе с The Gazette на прошлой неделе помощник суперинтенданта по учебной программе и обучению Мейсон-Сити Бриджит Эксман заявила, что «просто невозможно прочитать каждую книгу и отфильтровать эти новые требования».
«Честно говоря, у нас есть дела поважнее, чем тратить много времени, пытаясь придумать, как защитить детей от книг», — сообщает Эксман PopSci по электронной почте. «В то же время у нас есть юридическое и этическое обязательство соблюдать закон. Наша цель здесь действительно – это защищаемый процесс».
По данным The Gazette, итоговая стратегия заключалась в составлении основного списка наиболее спорных книг, а затем использовании ранее неназванного «программного обеспечения искусственного интеллекта» для предположительного текстового анализа каждого названия. Помеченные книги затем были удалены из фондов школьной библиотеки Мейсон-Сити для 7–12 классов и «хранились в административном центре», поскольку преподаватели «ожидают дальнейших указаний или ясности». Среди названий были «Пурпурный цвет» Элис Уокер, «Рассказ служанки» Маргарет Этвуд, «Возлюбленная» Тони Моррисон и «Огни ночной пятницы» Базза Биссинджера.
Ссылка: Школьный округ использует ChatGPT для удаления библиотечных книг | Популярная наука