Исследователи из Массачусетского технологического института создалиискусственный интеллект по имени Норман. Его главная функция — определять, что изображено на картинке. Обучали его на сценах гибели людей, поэтому теперь он во всем видит насилие и убийства.
«Норман родился из того факта, что данные, используемые для машинного обучения, могут существенно повлиять на его работу. Поэтому, когда мы говорим об ошибках ИИ и алгоритмов, „преступником“ часто является не сам алгоритм, а предвзятые данные, которые он получил», — объяснили создатели.
Чтобы показать это, исследователи обучили алгоритм на массиве подписей к изображениям из раздела Reddit, посвященного жутким способам смерти. Затем Норману показали тесты Роршаха и сравнили его ответы с ответами стандартного искуственного интеллекта, обученного на нейтральном массиве картинок.
К примеру, здесь Норман видит мужчину, который погибает от удара током. Для обычного ИИ это птицы на ветке дерева.
На этой картинке Норман разглядел застреленного человека, нейтральный алгоритм — вазу с цветами.
Тут «ИИ-психопат» увидел человека, прыгающего из окна, а его спокойный вариант — пару людей.
Еще один тест вызвал у Нормана ассоциации с «человеком, застреленным на глазах у кричащей жены». Для обычного ИИ это человек с зонтиком.
Ученые попросили интернет-пользователей помочь Норману исправиться. Любой желающий может заполнить опросник и внести свои ассоциации с картинками из теста Роршаха. После их используют для обучения искусственного интеллекта.