Искусственный интеллект часто представляют как беспристрастный инструмент, свободный от человеческих слабостей. Но на деле нейросети обучаются на данных, созданных людьми, и алгоритмы пишут люди со всеми их комплексами и предрассудками. Поэтому ИИ не скрывает, а наоборот, ярко высвечивает тёмные черты своих создателей.
Лицемерие
Разработчики любят заявлять, что ИИ «объективен» и «беспристрастен». Но при первом же скандале выясняется, что чат-бот цензурирует неудобные вопросы, отказывается обсуждать одни темы, но охотно обсуждает другие, выгодные владельцам. Модерация контента в соцсетях — классика: алгоритмы блокируют одних пользователей за те же слова, за которые других не трогают. Создатели прикрываются «техническими ограничениями», но на деле лицемерно избегают ответственности.
Предвзятость
ИИ учится на исторических данных, в которых зашиты расовые, гендерные, классовые стереотипы. Например, системы распознавания лиц чаще ошибаются на тёмнокожих — потому что датасеты были перекошены в сторону белых. Рекрутинговые алгоритмы отсеивали женщин, потому что обучались на успешных кандидатах-мужчинах. Создатели знают об этих проблемах, но не спешат их исправлять, если это невыгодно. Предвзятость ИИ — это зеркало предвзятости тех, кто его программирует и финансирует.
Поверхностность
Создатели ИИ любят хвастаться «глубоким обучением», но на практике нейросети часто поверхностны. Они генерируют правдоподобный, но ложный текст («галлюцинации»), не понимая смысла. Они не способны на настоящую рефлексию или сомнение. Это отражает подход их создателей: быстрая выдача ответа важнее качества, форма важнее содержания, статистика важнее истины. Такая же поверхностность царит в корпоративной культуре, где главное — отчитаться, а не разобраться.
Итог
ИИ — это не злой гений, а увеличительное стекло. Оно не придумывает лицемерие, предвзятость и поверхностность — оно их честно отражает. Проблемы алгоритмов всегда упираются в проблемы людей. Пока создатели не захотят быть честными, глубокими и справедливыми, любой ИИ будет лишь тиражировать их пороки. Технология не спасёт от человеческой природы — она её обнажит. И это неприятно, но полезно видеть.