Пока в нашей стране шли затяжные новогодние каникулы, нейросеть Grok успела оказаться в центре международного скандала. Напомню, Grok – это ИИ от xAI, компании Илона Маска. Выяснилось, что с его помощью пользователи социальной сети X смогли без особых усилий сгенерировать порнографический контент. Остановить эту волну оказалось невозможно. Сервис быстро наполнился эротическими изображениями, якобы созданными с участием реальных людей.
На этом фоне Grok заблокировали в Малайзии и Индонезии, а в Великобритании заговорили о введении уголовной ответственности за генерацию откровенных изображений и видео с реальными людьми с помощью ИИ. Уже готовится соответствующий законопроект, и, судя по всему, его примут в сжатые сроки. Любопытно, что в xAI не стали полностью отключать проблемную функцию, а лишь сделали её доступной по платному запросу. Этот шаг, кажется, довольно наглядно характеризует подход Илона Маска. Дело в деньгах?
Что касается идеи запрета использования ИИ для генерации порнографического контента, то здесь часто звучит сомнительный аргумент. Мол, тогда нужно запрещать и Photoshop, и другие графические редакторы, а следом – краски и карандаши. Формально с этим можно спорить. Вижу принципиальное различие – ИИ доступен практически каждому и не требует никакой специальной подготовки, тогда как работа с графическими программами или художественными инструментами всё же предполагает определённые (и еще какие!) навыки. Злоумышленник всегда найдет способ сделать то, что желает, однако в таких обстоятельствах и обнаружить его будет проще.
К слову, первой страной, где ввели запрет на распространение интимных дипфейков, в том числе созданных с помощью ИИ, стали США. Это произошло ещё осенью прошлого года после принятия Take It Down Act.
P.S. Изображение создал ChatGPT на основе текста.