В последние годы мир пытается стремительно перейти на алгоритмы на базе Искусственного интеллекта, инвестируя в бизнес огромные суммы. При этом самые совершенные системы далеки от ожиданий экспертов, поскольку совершают досадные ошибки. Программный код часто переписывают, но правки порождают лишь новые проблемы. Возможно, должно пройти какое-то время, пока ИИ окажется достаточно зрелым, но пока происходят довольно неожиданные происшествия. Как стало известно, умные алгоритмы крупных рекламных сетей начали вводить пожизненную блокировку против преподавателей языков программирования Python и Pandas. Оказывается, рекламные сети подозревают программистов в торговле экзотическими животными вместо проведения курсов. Можно сделать вывод, что алгоритмы обращают внимание только на схожесть в названиях, где Python и Pandas переводятся буквально.
Один из преподавателей по имени Ревен Лернер (Reuven M. Lerner) столкнулся со странной ситуацией и подробно поделился своим опытом в личном блоге. По его словам, рекламная сеть Meta (запрещена в РФ и признана экстремистской) имеет довольно примитивные алгоритмы, а разработчики знают о проблеме, но ничего не хотят исправлять. Лернер заявил, что алгоритмы, встроенные в рекламную сеть, заблокировали его аккаунт навсегда, а в итоге нет возможности снять блокировку. Он также утверждает, что другие преподаватели Python и Pandas столкнулись с аналогичными проблемами. Лернер пишет, что по какой-то непонятной причине ИИ решил, что он и другие преподаватели торгуют экзотическими животными. Попытки убедить программу в том, что речь идёт о технологиях и компьютерах оказались бесполезны. Бот в автоматическом режиме рассмотрел апелляцию и подтвердил блокировку.
Лернер жалуется, что теперь нет возможности доказать свою правоту, поскольку блокировка была введена год назад, а сам он обратил на это внимание только недавно. Оказывается, раньше не было нужды прибегать к аккаунту в социальной сети, но сегодня было бы неплохо использовать встроенные рекламные возможности для продвижения бизнеса. Несколько месяцев назад Лернер решил попытать счастья и вновь войти в свой аккаунт, но не смог этого сделать. Программист обратился к своим знакомым, работавшим или работающим в социальной сети, а один из них объяснил, что алгоритм заточен на хранение данных учётной записи рекламной сети в течение полугода. Ну а поскольку профиль Лернера был заблокирован примерно год назад, все данные в нём были удалены. Лернер приходит к выводу, что рекламный аккаунт навсегда потерян, как и важные данные с перепиской с клиентами.
После неудачных попыток обратиться к другим своим знакомым, программист понял, что способа решить эту проблему не существует, поскольку алгоритмы рекламной сети не могут различить программный код от животных. В своём блоге Лернер назвал эту ситуацию абсурдной и удивительной. Он также отметил, что если бы он обратил внимание на блокировку аккаунта в течение определённого периода времени (180 дней), то мог бы попробовать решить проблему, но сейчас это невозможно. Лернер также выразил недоумение по поводу того, почему он не создал второй аккаунт и не реагировал оперативно на уведомления и предупреждения системы. Тем не менее он собирается использовать этот опыт в будущем, когда будет вести курсы по машинному обучению, хотя не уточнил, как именно он намерен это сделать.