Есть такой искусственный интеллект психопат. Зовут его Norman.
Это экспериментальный алгоритм который был создан , чтобы распознавать и интерпретировать фотографии и прочие изображения. Но это не обычный эксперимент искусственного интеллекта. Norman - везде видит ужасы.
Обычный искусственный интеллект интерпретирует изображения как нечто , что-то положительное. Например
- птицы которые поют на ветках дерева- так видит обычный ИИ. то Norman видит человека которого пытают током.
Этот психопатический алгоритм был создан командой исследователей Массачусетского технологического института (MIT). Они пытались понять, как повлияют на искусственный интеллект, на его восприятия мира фотографии и изображения с темных уголков интернета.
Есть такой сайт Reddit , это такой форум ,где люди делятся секретами , историями, спрашивают у специалистов и т.д. Там много разделов, но есть разделы в которые лучше не заходить, если вы очень впечатлительны. Страшные истории, истории убийств, фотографии с места преступлений и многое другое. Так вот, Normana запускали в один из таких разделов и он изучал информацию, и это не могло на нем не сказаться. По этическим соображением ему не показывали полные видео и фото, зато он мог читать подписи к фотографиям.
Это как ребенка отправить в зону психов , убийств, крови и т.д. И сомневаюсь, что на нем как-то это не отразилось бы.
Вот так Norman и стал сумасшедшим. Он видит окружающий мир совсем не так , как видят его люди и другие искусственные интеллекты.
Затем алгоритму представили тест Роршаха: это один из тестов, применяемых для исследования психики и её нарушений. Он представляет из себя симметричные относительно вертикальной оси чернильные кляксы разных цветов.
Психологи уже несколько десятилетий используют подобный тест для того, чтобы понять, насколько позитивно или негативно пациент относится к окружающему миру.
И вот что видит Norman.
И тот факт, говорит нам о том , что присутствует одна из фундаментальных проблем процесса машинного обучения, считает профессор Массачусетского технологического института Ияд Рахван.
"Набор исходных данных важнее самого алгоритма, - говорит он. - Отбор информации, применяемой для тренировки искусственного интеллекта, отражается на том, как этот искусственный интеллект воспринимает окружающий его мир и к каким выводам он приходит".
Однако этот эксперимент продолжается.
Исследователи Массачусетского технологического института (MIT) проводят эксперимент, возможно ли Normana вылечить. И есть возможность каждому внести свой вклад в его выздоровления. Исследователи создали сайт , где каждый может принять участие , просто пройдя тест на официальном сайте и добавив туда свое описание к кляксам.
Искусственный интеллект уже во многих сферах присутствует в нашем мире.
Персональные органайзеры, фильтрация электронной почты, защита банков и различных структур от мошенничества. Алгоритмы распознавания лиц людей. Даже есть алгоритм , который способен с тобой беседовать по телефону и ты не поймешь, что с тобой разговаривает искусственный интеллект. Так же есть алгоритмы , которые играют в сложные настольные игры, создают новые уровни в играх. На торговых биржах уже во всю работают ИИ. В общем вокруг нас уже во всю применяется алгоритмы искусственного интеллекта.
Но эксперимент с алгоритмом Norman указывает, что если ИИ базируется на плохой базе, то он сам начнет приходить к негативным выводом и последствия этого мы не сможем предсказать.
Подписывайтесь на мой канал и ставьте нравиться, дальше будут новые факты. Развивайтесь!