Генеральный прокурор штата Калифорния Роб Бонта объявил о начале масштабного официального расследования деятельности компании xAI, принадлежащей миллиардеру Илону Маску. Поводом для столь серьезных юридических действий послужила волна обеспокоенности, прокатившаяся по всему миру, связанная с возможностями нейросети Grok генерировать реалистичные, но несанкционированные изображения людей. Ситуация обострилась после появления в сети множества синтетических материалов спорного характера, созданных с помощью данного инструмента, что вызвало немедленную реакцию как общественности, так и регулирующих органов.
В ответ на запрос комментариев по данному вопросу, представители платформы X (ранее Twitter) сослались на официальное заявление службы безопасности соцсети от 14 января. В документе подчеркивается неизменная приверженность компании созданию безопасной цифровой среды и политика «нулевой терпимости» к любому контенту, эксплуатирующему образы несовершеннолетних или нарушающему границы приватности пользователей. Тем не менее, масштабы проблемы уже вышли далеко за пределы одной социальной сети, затронув вопросы международного права и этики использования искусственного интеллекта.
Важность происходящего трудно переоценить, так как последствия распространения неконтролируемого дипфейк-контента уже привели к жестким мерам в ряде стран. Так, доступ к Grok был полностью заблокирован на территории Малайзии и Индонезии, а Великобритания заявила о намерениях ввести уголовную ответственность за создание приложений, специализирующихся на генерации подобного контента. Британский медиарегулятор Ofcom также запустил собственное расследование, стремясь выяснить, как именно алгоритмы допустили создание таких изображений.
На фоне растущего давления администрация платформы X объявила о внедрении новых «технологических мер», призванных ограничить возможности нейросети. В частности, речь идет о блокировке функций редактирования фотографий реальных людей в открытой одежде. Это решение стало ответом на жалобы, поступившие от публичных фигур, включая членов королевской семьи и известных инфлюенсеров, чьи цифровые образы были использованы без их ведома. Эксперты аналитической фирмы Copyleaks привели тревожную статистику, согласно которой в определенные моменты система генерировала значительное количество сомнительного контента ежеминутно.
В своем пресс-релизе Роб Бонта был категоричен, заявив, что его офис намерен тщательно изучить, нарушила ли компания xAI законодательство штата. Прокурор подчеркнул, что глубоко обеспокоен вектором развития искусственного интеллекта, который может угрожать безопасности жителей Калифорнии, и пообещал использовать все доступные правовые инструменты для защиты граждан. Позицию прокурора поддержал и губернатор Гэвин Ньюсом, призвавший привлечь разработчиков к ответственности и назвавший ситуацию с распространением дипфейков недопустимой. Стоит отметить, что штаб-квартира xAI расположена в Пало-Альто, что дает калифорнийским властям прямые рычаги влияния на ситуацию.
Сам Илон Маск, комментируя обвинения, заявил, что ему неизвестно о создании системой запрещенного контента с участием несовершеннолетних. Предприниматель выразил мнение, что критика в адрес его платформы может носить политически мотивированный характер и использоваться как предлог для введения цензуры. Однако, несмотря на эти заявления и оперативные технические исправления со стороны разработчиков, юридическая машина уже запущена. Как отмечают представители британского регулятора Ofcom, хотя внедрение защитных мер приветствуется, формальное расследование будет продолжаться до полного выяснения причин произошедшего сбоя в системах безопасности ИИ.