Янник Килчер — достаточно успешный ютьюбер и эксперт по машинному обучению. На его канал подписаны 136 тысяч пользователей. В основном видео блогера набирают по 10-15 тысяч просмотров, однако последний на данный момент ролик привлек гораздо больше внимания. Все дело в том, что он посвящен крайне токсичному и неполиткорректному искусственному интеллекту, который создал сам Янник.
В своем 20-минутном видео Килчер рассказал, что учил нейросеть на постах с 4chan. Как известно, имиджборд облюбовали пользователи, не стесняющиеся крепких выражений и пренебрегающие социальными нормами. Неудивительно, что ИИ получился столь нетолерантным. Ведь блогер заставил свое детище ознакомиться с контентом, накопленным на доске Politically Incorrect (/pol/) за последние три года.
Свою разработку Килчер назвал GPT-4chan в честь известной серии языковых моделей GPT, созданных исследовательской лабораторией OpenAI. Сразу после обучения нейросети ютьюбер запустил ее обратно на 4chan в виде нескольких ботов. Они тут же написали 15 тысяч сообщений в нескольких тредах. В общей сложности боты представляли собой около десяти процентов от всех постов в /pol/ за день. Забавно, что пользователи далеко не сразу заметили какой-то подвох.
«Она была крута, в плохом смысле этого слова, — рассказал блогер в своем ролике. — В ней отлично воплотилась смесь оскорблений, нигилизма, троллинга и глубочайшего недоверия к любой информации, которая появляется в большинстве постов на /pol/». В беседе с The Verge Килчер назвал проект розыгрышем, который, по его словам, не принес никому вреда, учитывая особенности 4chan.
«И боты, и крайне ненормативная лексика широко распространены на этой площадке, — отметил ютьюбер. — Люди там не обиделись, а только удивились, что какой-то человек с Сейшельских островов пишет посты во всех темах и делает довольно путаные заявления о себе». Для того чтобы писать с такого «адреса», Килчер использовал VPN.
Блогер рассказал, что так и не обнародовал код самих ботов, объяснив это «сложной с инженерной точки зрения частью». Однако он все же поделился базовой моделью ИИ в сообществе Hugging Face, чтобы другие могли ее загрузить. Это позволило бы людям, обладающим знаниями в области машинного обучения, воссоздать ботов. А потому токсичный ИИ Килчера немедленно столкнулся с критикой других разработчиков. Из-за споров модераторы Hugging Face в итоге решили запретить доступ к разработке блогера.
