Стартап OpenAI запретит использовать ChatGPTспользовать для для распространения дезинформации о выборах, которые пройдут в 2024 году в 50 странах мира. По словам руководителя OpenAI Сэма Альтмана, компания запретит людям использовать технологии ChatGPT для создания чат-ботов, которые выдают себя за реальных кандидатов или членов правительства, искажают информацию о выборах или отговаривают людей голосовать.
В компании заявили, что до тех пор, пока не будут проведены дополнительные исследования технологии, OpenAI не позволит своим пользователям создавать приложения для политических целей или лоббирования интересов тех или иных партий или кандидатов. Кроме этого, в начале 2024 года на всех изображениях, сгенерированных чат-ботом с искусственным интеллектом DALL-E, будет присутствовать водяной знак. Это позволит навсегда пометить контент информацией о его происхождении, что облегчит определение того, было ли изображение создано с помощью ИИ.
Эти и другие предупреждения содержатся в перечне мер безопасности, изложенные стартапом искусственного интеллекта из Сан-Франциско Стартап OpenAI в своем блоге на этой неделе. Они включают в себя сочетание ранее существовавших политик и новых инициатив по предотвращению неправомерного использования его чрезвычайно популярных инструментов генеративного искусственного интеллекта, указывает Associated Press.
По данным отчёта «Глобальные риски 2024», представленного на Всемирном экономическом форуме, «недостоверная информация и дезинформация» являются ведущим краткосрочным глобальным риском. Там же был проведён опрос, по результатам которого 56% руководителей считают, что генеративный ИИ в ближайшие два года даст преимущество атакующим над IT-защитниками. В мае 2023 года Крейг Мартелл, руководитель отдела цифровых технологий и искусственного интеллекта Министерства обороны США, заявил, что «до смерти напуган» ChatGPT. Он назвал чат-бот идеальным инструментом для распространения дезинформации.
Компания OpenAI недавно сняла полный запрет на использование своих инструментов искусственного интеллекта военными, скорректировав политику стартапа 10 января. 17 января на Всемирном экономическом форуме в Давосе вице-президент OpenAI по глобальным вопросам Анна Маканджу в интервью Bloomberg House сообщила о начале работы стартапа с Минобороны США.
ChatGPT и DALL-E от OpenAI — одни из самых мощных инструментов генеративного ИИ на сегодняшний день. Они могут очень быстро создавать оригинальный текст и изображения, но также могут быть использованы для создания вводящих в заблуждение сообщений или убедительных фальшивых изображений.
Однако на данный момент уже создано немало сервисов с такими же сложными технологиями, но не имеющих никаких мер защиты от дезинформации о выборах.
Лишь некоторые компании, занимающиеся социальными сетями, такие как YouTube и Meta (запрещена в РФ), ввели политику маркировки контента, генерируемого ИИ. При этом, неизвестно, смогут ли они предотвращать нарушения и ловить нарушителей.
Честь имею!