Работа алгоритмов искусственного интеллекта в значительной степени зависит от данных, которые они получают с самого начала их существования. Как алгоритм будет вести себя «от ребенка», питающегося самым болезненным контентом, который можно найти в Интернете? Ученые из Массачусетского технологического института решили проверить это.
Алгоритм назывался Норман. Он получил своё название в честь убийцы Нормана Бейтса из романа «Психо» Роберта Блоха.
Norman - это алгоритм распознавания изображений, который был создан с одной целью - ученые хотели проверить, как искусственный интеллект, питающийся очень жестоким контентом из сети, может справиться с тестом Роршаха.
Стандартная процедура этого теста состоит в том, чтобы показать исследователю (в данном случае алгоритму) 10 изображений с чернильными пятнами, которые должны интерпретироваться "по-своему". Вам должно быть интересно, что видел Норман?
Там, где стандартный алгоритм распознавания образов мог видеть, например, вазу с цветами, Норман увидел человека, который был расстрелян из пулемёта. Следующие изображение: стандартный алгоритм увидел человека с открытым зонтом. А Норман? Еще одного застреленного человека, рядом с которым его жена кричит в небо. В остальных изображениях Норман видел людей, прыгающих с крыш небоскрёбов и другие кровавые сцен, а также беременных женщин, совершающих самоубийство.
Почему кто-то создал алгоритм-психопат?
Пинар Янардаг, Мануэль Себриан и Ияд Рахван - три ученых из Массачусетского технологического института, хотели доказать этим экспериментом, что алгоритмы машинного обучения могут быть настолько предвзятыми, насколько это возможно в их «рассуждениях». Все зависит от набора данных, который будет использоваться.
Хотя, с другой стороны, аналогичный результат эксперимента, вероятно, будет с человеком, которому с детства показывали бы только жестокие фрагменты нашей реальности. Что касается происхождения этих жестоких образов, ученые Массачусетского технологического института говорят, что нашли их в темных уголках интернета.
