Диагноз неразличимости

Детекторы ИИ в университетах выносят приговоры, ошибаясь в 50% случаев, — и ломают судьбы тех, кто меньше всего этого заслуживает. Мы уже говорили о том, что не можем заглянуть внутрь «самовара» и понять: реактор там или пустота. Но что случается, когда общество всё-таки требует заглянуть внутрь, вручая проверяющему заведомо сломанный прибор? Сегодня мы попробуем поставить диагноз этой иллюзии контроля. Университеты по всему миру массово внедрили детекторы ИИ-текста — Turnitin, GPTZero, Copyleaks...

Дипфейк может разрушить репутацию за сутки. Голос близкого человека, просящий перевести деньги, — уже не гипотетическая угроза, а реальный вред, который двигает законодательство быстрее, чем философские споры об авторстве. Мы уже говорили о маркировке, о законе, о царе Тамусе. Сегодня — о том, что за этим стоит. Когда депутаты обсуждают маркировку ИИ-контента, они в первую очередь думают не о стиле и не об авторстве. Они думают о дипфейках — поддельных видео, где человек говорит и делает то, чего никогда не говорил и не делал...

Пока одни обсуждают, как маркировать ИИ-контент, депутаты предлагают маркировать (выдохните) живое. И это не шутка. Первый зампред комитета Госдумы по информполитике Марина Ким в интервью ТАСС высказала мысль, которая звучит как парадокс: возможно, скоро нам придётся маркировать не то, что создано нейросетью, а то, что создано без неё. Она сравнила это с маркировкой продуктов: «зелёные овощи без пестицидов» — и «зелёный контент» без использования искусственного интеллекта. Стоит уточнить, что эта идея не нова...

Три раза подряд получалась одна и та же история. Закон о маркировке текста — Царь Тамус ещё тысячи лет назад боялся того же самого. Код, написанный голосом без единой строчки — разрыв между замыслом и воплощением исчез полностью, и почти никто не заметил момента, когда это случилось. Музыка, которую 97% слушателей не могут отличить от человеческой, — и статистика по прослушиваниям уже дала ответ на вопрос, волнует ли это кого-то на самом деле. Три разных области, один и тот же узор. Пора спросить, что за ним стоит...

Программирование прошло тот же путь, что и письменность. Только дошло до предела чуть раньше остальных — и почти никто этого не заметил. Ассемблер требовал знать архитектуру процессора почти на уровне физики. Фортран и Бейсик уже прятали эти детали за словами, похожими на английский. Объектно-ориентированные C++ и Java добавили ещё один слой абстракции — программист описывал не команды, а сущности и их поведение. Python довёл читаемость почти до естественного языка. Каждый шаг забирал у человека немного контроля над низкоуровневыми деталями — и отдавал взамен скорость...

Напойте мелодию в микрофон — и через минуту нейросеть вернёт вам полноценную аранжировку: с басом, барабанами, гармонией, которую вы сами никогда бы не подобрали. Или не напевайте вообще ничего — просто опишите словами настроение, и модель соберёт трек из паттернов, на которых её обучили: миллионов тактов, сыгранных и записанных до вас. Разница между этими двумя способами больше не заметна на слух. И тут начинается настоящая проблема, которая касается не только музыкантов. Есть расхожее убеждение: совпадение семи нот подряд — это уже плагиат, юридически доказанный факт...