Во всем мире готовится законодательство, которое даст частным лицам право запрашивать удаление своих данных из систем машинного обучения (искусственного интеллекта), а Закон о конфиденциальности потребителей Калифорнии 2018 года уже предоставляет это право жителям штата. Так в ЕС готовится директива об Искусственном интеллекте, которая представит «право на забвение» всем гражданам, а уже сейчас в Европе, статья 17 Общего закона о регулировании защиты данных (GDPR) требует, чтобы компании удаляли пользовательские данные по запросу.
***
Задача такой законодательной инициативы - запрет на раскрытие конфиденциальных данных без согласия лица, а также защита интеллектуальных прав, действующая в отношении материалов для машинного обучения.
***
в 2015 году исследования Колумбийского университета предложили метод "отучения от машины", основанный на обновлении ряда суммирования в данных; а в 2019 году исследователи из Стэнфорда предложили новые алгоритмы удаления, однако все они сводились к откату искусственного интеллекта до прошлой версии.
***
Теперь исследовательский консорциум из Китая и США опубликовал новую работу, в которой вводится единая метрика для оценки успешности подходов к удалению данных, а также новый метод "отучения" под названием Forsaken, который, как утверждают исследователи, способен обеспечить более 90% скорости забывания при потере точности всего на 5% в общей производительности модели.
***
https://www.unite.ai/making-a-machine-learning-model-forget-about-you-forsaken-forgetting