Найти в Дзене

Алгоритмы ИИ нуждаются в испытаниях лекарств в стиле FDA

Каждый день мы просматриваем потоки контента, выбираемые пользователем с помощью простых программных алгоритмов, некоторые из которых создаются в общежитиях, на основе методики, называемой обучением с адаптивным подкреплением.

В действительности алгоритмы, применяемые к податливым людям, могут иметь кардинально отличающиеся и пагубные побочные эффекты в глобальном масштабе.

Настало время прекратить беспечно допустить это и создать цифровой эквивалент испытаний лекарств.

Более всеобъемлющий процесс цифрового тестирования должен был бы уменьшить потенциальный вред людям и обществу независимо от мотивов разработчиков.

Чтобы защитить когнитивную автономию отдельных лиц и политическое здоровье общества в целом, мы должны сделать функцию и применение алгоритмов прозрачными.