Немецкий суд сказал то, на что остальной мир долго не решался: если AI написал это, значит, вы за это отвечаете
Последние несколько лет я наблюдаю, как AI-компании используют одну и ту же юридическую и пиар-стратегию: запускают продукт, прикрепляют к нему дисклеймер вроде «AI может ошибаться», а потом снимают с себя ответственность за все, что этот продукт говорит.
Для продукта, который они сами создали, это оказалось удивительно эффективным щитом.
Представьте, что автомобильная компания наклеила бы на панель приборов стикер: «Этот автомобиль может работать неисправно», а потом считала бы, что этого достаточно, чтобы защититься от любого будущего иска.
Суд в Мюнхене только что пробил дыру в этой тактике.
Кстати, о поиске себя и выходе из сложных ситуаций.
Если вы чувствуете, что запутались, устали искать ответы сами или переживаете непростой период, загляните на канал психолога Юлии «Лучшее в тебе».
Юлия — дипломированный психолог, психоаналитик и мама четверых детей. Она не предлагает растягивать терапию на годы. Её подход — это реальная, быстрая помощь онлайн. Часто, чтобы разобрать острую ситуацию, вернуть чувство безопасности и найти внутреннюю опору, достаточно всего 1–3 сессий.
На канале Юлия делится бережными техниками и полезными мыслями.
Подписывайтесь, чтобы лучше понять себя ❤️
В рамках предварительного судебного запрета против Google судья регионального суда Мюнхена постановил: AI Overviews от Google — это не просто поисковые результаты. Это собственные утверждения Google. И если эти утверждения ложные, Google несет за них ответственность.
Это не просто техническое решение о дизайне алгоритмов. Это переопределение того, чем являются такие AI-системы и кто отвечает за то, что они говорят.
Что произошло на самом деле
Два мюнхенских издательства, включая издателя технологических и исторических материалов GeraMond, обнаружили, что при поиске их компаний AI Overviews от Google, работающие на базе Gemini, генерировали резюме, где обвиняли их в «сомнительных деловых практиках», подписочных мошеннических схемах и тактике «приманки и подмены».
Ничего из этого не было правдой.
Ни один из источников, на которые ссылался AI, этого не утверждал. Система перепутала этих издателей с совершенно другими недобросовестными участниками рынка и сшила фрагменты несвязанных материалов в полностью ложный нарратив.
Когда Google не отреагировал должным образом на требование прекратить нарушения, издатели подали иск о клевете.
И выиграли.
Три аргумента, которые Google проиграл
Защита Google опиралась на логику, которая защищала поисковые системы последние двадцать лет:
«Мы просто посредники. Мы показываем чужой контент. Пользователи знают, что AI не идеален».
Суд отверг все это.
Во-первых, суд постановил, что AI Overviews не просто показывают уже существующие веб-страницы. Они синтезируют, оценивают и заново соединяют контент, создавая новые самостоятельные утверждения от имени Google.
А значит, Google здесь не посредник.
Google — автор.
Во-вторых, суд отверг идею, что ссылки на источники автоматически снимают с Google ответственность.
И вот здесь аргумент Google окончательно начинает разваливаться.
Защита Google противоречит собственному маркетингу
В суде Google фактически выдвинул два тезиса, которые напрямую противоречат тому, как нам продают эти инструменты.
Первый: пользователи якобы знают, что информации, сгенерированной AI, «нельзя слепо доверять».
Второй: раз Google дает маленькие ссылки внизу, пользователь сам должен перейти по ним и проверить, не соврал ли AI.
Big Tech тратит миллиарды долларов на рекламу этих инструментов как волшебных, сверхразумных помощников, которые сэкономят вам время, перескажут весь интернет и сделают жизнь проще.
Инвесторам они говорят: эти системы заменят целые отделы и рабочие команды.
Потребителям говорят: это будущее умственного труда.
Но как только компанию тащат в суд, защита внезапно звучит примерно так:
«Эй, все же понимают, что эта штука ненадежная и может врать. Если пользователь не потратил собственное время на ручную проверку работы нашей машины, это его проблема».
Немецкие судьи увидели это насквозь.
Во-первых, есть иллюзия полноты. AI Overview пишет уверенным, авторитетным, структурированным языком. Он выдает аккуратный самостоятельный ответ с пунктами, резюме и без какого-либо реального ощущения, что там может быть ошибка или неполнота.
Это выглядит как окончательный ответ.
Во-вторых, есть реальное поведение людей. Данные отрасли, приведенные в деле, показали, что едва ли 1% пользователей действительно нажимает на ссылки внутри AI Overview. Люди используют такие инструменты именно потому, что у них нет времени открывать десять сайтов и проверять каждый источник.
Google попытался переложить бремя точности на пользователя.
По сути, компания заявила, что мы все должны работать бесплатными редакторами для ее экспериментального софта.
Суд провел черту: если вы ставите свой бренд на инструмент, запускаете его для миллионов людей и подаете его ответы как факт, вы не можете потом обвинять пользователя в том, что он вам поверил.
Параллель суда с правом о прессе здесь очень точная: вводящий в заблуждение заголовок может быть основанием для иска, даже если полная статья внутри точна. Вред возникает до того, как человек вообще доберется до источника.
И третье, особенно интересное: суд отметил, что AI Overviews не являются необходимой частью поиска.
Обычный поиск уже организует информацию. AI-резюме — это дополнительная функция, которую Google сам решил встроить в выдачу. Поскольку это выбор, а не необходимость, Google несет полный риск за то, что эта функция говорит.
Почему защита через дисклеймер больше не работает
Мелкий текст в стиле «AI может генерировать неточную информацию» долго был универсальным щитом индустрии от ответственности.
Мюнхенский суд фактически сказал: этого больше недостаточно.
По условиям предварительного запрета Google грозят штрафы до 250 000 евро за каждое нарушение или даже наказания для руководства, если клеветнический контент появится снова.
Я уже писал раньше о том, как AI-компании хронически преувеличивают возможности своих инструментов, пряча реальные проценты провалов и человеческий труд за глянцевыми демо.
Google Veo 3 — недавний пример. Я потратил 275 долларов собственных денег на его тестирование и показал, почему маркетинг не совпадает с реальностью.
Это решение суда возвращает часть этой цены туда, где она и должна быть: к компаниям, которые выпускают такие продукты.
Что изменится теперь
Компании, которые строят AI-системы ответов, включая Google, Microsoft, OpenAI и Perplexity, скорее всего, станут значительно осторожнее в заявлениях о реальных компаниях, реальных людях и непроверенных утверждениях.
Эпоха уверенных галлюцинаций, прикрытых дисклеймером, становится короче.
Я уже приводил похожий аргумент в другом контексте: когда вы обучаете систему на огромном массиве человеческих знаний, а потом вырезаете из нее все, что может раздражать влиятельных людей, вы получаете не нейтральность, а машину, которую научили обходить неудобные истины.
С ответственностью все работает наоборот.
Когда компания вынуждена отвечать за то, что говорит ее AI, у машины появляется реальный стимул быть точной.
Сделает ли это продукт хуже?
Возможно.
И хорошо.
Скорее всего, нам вообще не стоило слепо полагаться на него с самого начала.
Общая картина
Это предварительное решение. Google может подать апелляцию. Кроме того, правовая система Европы заметно отличается от США, где Section 230 все еще дает широкую защиту посредникам, и логика мюнхенского суда не могла бы просто так сработать.
Но суды видят, как AI-системы причиняют реальный вред реальным компаниям. И они начинают замечать, что фраза «это алгоритм сделал, не мы» больше не выглядит защитой.
AI-компании годами просили относиться к ним как к чему-то новому и беспрецедентному.
Слишком сложному, чтобы регулировать.
Слишком быстро развивающемуся, чтобы применять к нему старые стандарты.
Мюнхенский суд только что публично поставил индустрию на место.
Это не нейтральные трубы, по которым просто течет информация.
Это продукты, которые делают утверждения.
А у утверждений есть последствия.
Это и называется ответственностью.