Различить, является ли изображение, которое вы видите, созданным искусственным интеллектом или реальным человеком, было сложной задачей в течение последних нескольких месяцев. Есть не малая вероятность, что многие из нас могли быть обмануты контентом, созданным ИИ, за последние несколько месяцев. Однако кажется, что дни этого обмана могут быть сочтены. Ибо коалиция технологических гигантов и стартапов обязалась ставить водяные знаки на контент, созданный с помощью ИИ. Семь ведущих ИИ-компаний в США согласились на добровольные гарантии развития технологии, взяв на себя обязательство управлять рисками, связанными с новыми инструментами. Семь компаний — Amazon, Anthropic, Google, Inflection, Meta*, Microsoft и OpenAI — официально объявили о своей приверженности новым стандартам в области безопасности и доверия на встрече с президентом Джо Байденом в Белом доме 21 июля.
Объявление было сделано в то время, когда компании стремятся превзойти друг друга в жесткой конкуренции с помощью версий ИИ, которые предлагают новые мощные способы создания текста, фотографий, музыки и видео без участия человека. Но технологические скачки вызвали опасения по поводу распространения дезинформации и страшные предупреждения о «риске исчезновения» по мере развития самосознательных компьютеров.
Компании взяли на себя обязательство разработать надежные технические механизмы, чтобы пользователи знали, когда контент создается AI, например, систему водяных знаков. Это действие позволит снизить опасность мошенничества и обмана. Эти компании также будут исследовать такие риски, как предвзятость, дискриминация и вторжение в частную жизнь.
Еще одно ключевое обязательство — инвестировать в кибербезопасность и защиту от инсайдерских угроз для защиты проприетарных и невыпущенных моделей. Эти версии моделей являются наиболее важной частью системы искусственного интеллекта, и компании согласны с тем, что очень важно, чтобы версии моделей выпускались только тогда, когда это предусмотрено и когда учитываются риски безопасности.
В мае рынки США ненадолго упали после того, как фальшивое изображение окутанного дымом Пентагона стало вирусным в социальных сетях. В другом случае бывший президент США Дональд Трамп бежал от полиции.
На другом изображении, созданном искусственным интеллектом, Трамп обнимает и целует Энтони Фаучи, бывшего главного медицинского советника Белого дома.
* Внесена в перечень общественных объединений и религиозных организаций,в отношении которых судом принято вступившее в законную силу решение о ликвидацииили запрете деятельности по основаниям, предусмотренным Федеральным законом от25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»