Норман — это пугающая демонстрация последствий предвзятости алгоритмов
Для некоторых людей фраза «искусственный интеллект» вызывает в воображении кошмарные видения, напоминающие антиутопичный фильм с Уиллом Смитом «Я, Робот», или, к примеру, концовку недавнего триллера «Из машины». Здоровые опасения испытывают даже сами учёные, занятые исследованиями ИИ.
На этой неделе исследователи из MIT представили новое творение: пугающий искусственный интеллект по имени Норман, который получил своё имя в честь одноимённого персонажа из триллера АльфредаХичкока «Психо». Учёные пишут:
«Норман — это ИИ, умеющий распознавать изображения и создавать их текстовые описания. Во время его обучения мы использовали сабреддит Reddit (название ресурса скрыто из-за специфического содержимого), посвящённый обсуждению реальных фотографий погибших людей. После этого мы показали Норману пятна Роршаха и сравнили его ответы с ответами другой нейросети, обученной по стандартному методу».
Несмотря на то, что о целесообразности проведения теста Роршаха для оценки психологического состояния до сих пор активно ведутся споры, никто не будет отрицать, что ответы искусственного интеллекта оказались очень жуткими. Судите сами:
Создатели эксперимента хотели продемонстрировать, насколько легко сделать ИИ предвзятым, если использовать для его обучения предвзятую информацию. Ранее они уже проводили другие эксперименты в той же области, заставляя искусственный интеллект генерировать страшные истории, создавать пугающие изображения, судить о моральных решениях и даже пытались вызвать у него сочувствие. Эти исследования очень важны. Мы должны беспокоиться о безопасности искусственного интеллекта так же, как и при изучении любой другой технологии. Способна ли машина совершать непреднамеренные действия, которые могут причинить людям вред? Это основная тема научной фантастики: размышления о возможном будущем человечества и о том, с какими проблемами нам предстоит столкнуться. Айзек Азимов написал «Три закона робототехники», потому что он интересовался последствиями их нарушений.
Несмотря на то, что учёные уже давно занимаются исследованиями искусственного интеллекта, нам предстоит долгий и длинный путь до создания машины, способной испытывать настоящие чувства. Индустрия ИИ до сих пор недостаточно развита. Как вы помните, физика подарила нам атомную бомбу, поэтому каждый физик точно знает, что его творения способны изменить мир до неузнаваемости. Ученые, изучающие компьютерные науки, тоже начинают это понимать. В этом году около 5000 сотрудников Google устроили забастовку, а некоторые и вовсе покинули компанию после обнародования проекта Maven, начатого по инициативе Пентагона.
Подробнее о ситуации: Google не будет помогать создавать оружие с искусственным интеллектом, если только выгоды не будут превосходить риски
В нём машинное обучение используется для повышения точности ударов беспилотных летательных аппаратов.
Норман — это лишь эксперимент, но он поднимает важные вопросы об алгоритмах машинного обучения и принятии решений на основе предвзятой информации. Подобные системы уже используются в некоторых областях — к примеру, при оценке кредитоспособности граждан. Что, если алгоритм решит, что вам не следует покупать машину или дом? К кому вы обратитесь для обжалования решения? А что вы будете делать, если искусственный интеллект назовёт вас потенциальным преступником лишь из-за цвета вашей кожи? Существует ещё огромное количество подобных вопросов, и Норман — это важный шаг на пути к поиску ответов на них.
статьи по теме:
Искусственный интеллект с 95% точностью может предсказать дату вашей смерти
Подпишитесь на "A1NTELLIGENCE " сейчас и получайте актуальные и интересные статьи о искусственном интеллекте первыми!
