Этический вопрос применения искусственного интеллекта (ИИ) остается актуальным, а люди по-прежнему тайно приписывают себе его работы. Собрали три примера, когда хитрость вскрылась лишь спустя время.
Нобелевская речь искусственного авторства
Лауреат Нобелевской премии по литературе Мо Янь в 2023 г. вручал премию следующему награждаемому литератору — Юй Хуа, чей роман «Вэньчэн» отметили критики. Как потом признался Янь, ему никак не удавалось написать похвальную речь для коллеги, поэтому, по совету товарища, он воспользовался ChatGPT.
Заслуженный деятель литературы рассказал, что в запросе использовал ключевые слова, среди которых были название романа, слово «жить», что также отсылало к другому произведению Юй Хуа, а также фраза «удалять зуб», потому что какое-то время Хуа работал стоматологом.
«В мгновение ока появился текст на тысячу иероглифов в стиле Шекспира», — рассказал Мо Янь.
Учет расходов через незнакомцев
В 2017 г. разразился скандал вокруг потенциально успешного стартапа Expensify. Сервис позиционировал себя как автоматизированное решение для учета расходов: позволял компилировать все сведения о тратах по карте напрямую из базы данных банка, вручную добавлять чеки и прочее.
Основатели стартапа утверждали, что система SmartScan без необходимости в привлечении людей со стороны для обработки финансовых данных. При этом якобы сохранялась полная анонимность — личные данные на чеках, среди которых имена, номера счетов и адреса электронной почты, видела лишь бездушная машина. Для развития этой системы предприниматели даже получили $30 млн.
Однако затем сотрудники краудсорсинговой платформы Amazon стали сообщать, что им поступают задачи от Expensify об обработке квитанций пользователей сервиса. Так и раскрылся обман. По сути, сотрудники по всему миру вручную перепечатывали данные из квитанций, а значит, личная информация клиентов стартапа становилась известна абсолютно незнакомым людям и могла быть дискредитирована, а автоматизации не было вообще.
Вирусная музыкальная группа
Пользователи сервиса Spotify тепло оценили творчество новой группы The Velvet Sundown. В июне она выпустила сразу два альбома в жанре кантри-фолк и довольно быстро набрала на платформе 1 млн прослушиваний. В соцсетях можно даже найти рекламные изображения с ее участниками и целую предысторию о возникновении. Но все это, вплоть до внешности самих музыкантов — придумал ИИ.
Анонимный источник СМИ, который назвался «внештатным» участником группы, рассказал журналистам, что The Velvet Sundown использовала платформу Suno для создания своих песен, а сам проект является «художественным обманом». И хоть сначала на официальных страницах группы в соцсетях отрицали эту информацию, затем были вынуждены признать, что The Velvet Sundown является плодом ИИ — «не совсем человек, не совсем машина, но существует где-то посередине».
На фоне этой ситуации представители музыкальной индустрии потребовали от стриминговых платформ маркировать музыку, созданную ИИ, чтобы потребители могли принимать осознанные решения о том, что им слушать. И, разумеется, в очередной раз был поднят вопрос о правомерности использования алгоритмов ИИ, которые учатся на чужом творчестве, чтобы создавать условно новый контент.
Больше полезной информации для инвесторов вы найдете на BCS Express.