Предстоящие американские выборы не только задают атмосферу в обществе, но и отпечатком ложатся на передовые технологии в сфере IT. В частности, разработчикам нейросетей приходится принимать меры, чтобы регулировать работу искусственного интеллекта. Все потому, что в преддверии выборов, как грибы после дождя, растет количество вирусных роликов, выпущенных от лица известных американских политиков, а на самом деле – сгенерированных с помощью нейросетей.
Иосиф Пригожин в прошлом не просто так слитый телефонный разговор свалил на проделки искусственного интеллекта.🤗 Уже сейчас, созданные нейросетью видеоролики и аудиофайлы, не отличить от оригинала.
Чтобы определить границы между реальностью и реализованной фантазией креаторов с помощью ИИ, компания Meta* в скором времени начнет помечать материалы, созданные нейросетями. Принудительной модерации подвергнется весь контент, загружаемый на Facebook*, в Instagram* и сравнительно новую соцсеть Threads.
Если материал, созданный ИИ, попадет на эти площадки без соответствующей маркировки, пользователь, который его разместил, – будет наказан, вплоть до блокировки его аккаунта.
У Meta* есть сервис Imagine, который генерирует изображения по запросу с невидимым водяным знаком. В России доступ к платформе ограничен, у меня не получилось обойти этот запрет даже с помощью известных инструментов.
Наряду с Meta* другие гиганты этой отрасли двигаются к тому, чтобы маркировать контент, созданный ИИ, водяными знаками. Так, Adobe представила систему Content Credentials, а Google - SynthID для идентификации изображений.
А по какому пути пойдут отечественные разработчики? Есть информация?🤔
(*Meta признана экстремистской организацией и запрещена в РФ; Instagram принадлежит компании Meta, признанной экстремистской организацией и запрещенной в РФ, Facebook принадлежит компании Meta, признанной экстремистской организацией и запрещенной в РФ)