3025 подписчиков
#odd_facts #AI #generative
Умение отличать текст, созданный роботом от сообщения, написанного человеком, как кажется, становится все более важным навыком для пользователя современного интернета. Языковые генеративные модели набирают популярность огромными темпами. Пока что они применяются в основном большими корпорациями, но недалек тот день, когда все это станет доступным широкому кругу разного рода шутников и злоумышленников. Впрочем обилие непроверенных, но правдоподобных сгенерированных безо всякого злого умысла текстов, уже сейчас начинает вредить некоторым сервисам. Справочный wiki-портал для программистов Stack Overflow запретил публикацию сгенерированных отрывков программного кода - из опасений, что их начнут копировать и вставлять в свои работы начинающие программисты, не понимая, что этот код делает. Проблема в том, что запретить можно, а вот распознать искусственно созданный текст или код - сложно. Как модераторы Stack Overflow определяют фэйковые примеры - непонятно. В принципе, систему маркировки, вотермарков, которая должна быть встроена в нейросети, чтобы их продукцию можно было легко различить (в Китае принят закон, запрещающий эксплуатацию генеративных сетей без таких вотермарков) - разрабатывают сразу несколько компаний, но обязательного для всех стандарта пока не существует. Есть опенсорсные инструменты, которые подсвечивают текст, если есть подозрения на то, что он создан роботом. Но пока что задача такого распознавания ложится все же на самого пользователя и вот основные правила по которым это делается. Ошибки, опечатки и повторения слов - достаточно верный признак человеческого происхождения текста. А вот излишне правильный и грамотный текст, а также странные логические прыжки и неправдоподбные заключения в длинных текстах - скорее всего выдают робота. Набить руку в таком распознавании довольно легко (пока что) и этому может помочь игра Real or Fake.
༼つ◕_◕༽つ @geekorama
1 минута
20 декабря 2022
3797 читали