3025 подписчиков
#odd_facts #generative #AI
С 10 января в Китае выдача генеративных нейросетей должна помечаться специальными ватермарамки. Речь о неких метках, которые позволяют определить, что текст или изображение создано роботом, а не человеком. Китайские нормы подразумевают еще и обязательную регистрацию самих генеративных нейросетей и их пользователей (как в XX веке было с радиопередатчиками и копировальными машинами) - но интереснее история с маркировкой. Стандарты в этой области пока что не выработаны. Более того, нет работоспособных и точных систем распознавания сгенерированных текстов. Вероятнее одна из первых таких систем появится у OpenAI (разработчик GPT-3, ChatGPT и Dall-E). Этой осенью в компании запустили прототип механизма встраивания опознавательных меток в сгенерированные тексты. (Вот запись выступления профессора, которого специально для этого наняли в OpenAI). Компания озаботилась этим потому, что ее продукты имеют бесплатный демодоступ, а потому — массовые. Соответственно, люди пытаются использовать дармовой труд роботов всеми возможными способами — и не всегда безобидными. В результате, ChatGPT уже запретили в учебных заведениях Нью-Йорка (или на справочном портале программистов Stack Overflow). Очевидно усиленно бороться со сгенерированными текстами будут и в научной среде (а даже эксперты не всегда способны по абстракту научной статьи понять, написал ее человек или машина). Но главное — бесконтрольное применение генеративных языковых моделей очень быстро приведет к замусориванию интернета (считается, что через нескольких лет продукты нейросетей будут составлять большую часть текстов в сети) и — и как следствие этого, новые модели невозможно будет обучить на “нормальных” данных. Впрочем, вотермарки от OpenAI работают только на довольно больших текстах (сотни слов) и от них можно избавится, если человек (или другая нейросеть, но без механизма маркировки) будет переписывать сгенерированный текст “своими словами”.
༼つ◕_◕༽つ @geekorama
1 минута
13 января 2023
10,1 тыс читали