Компания Pangram применяет технологию synthetic mirroring («синтетическое зеркалирование») для выявления текстов, созданных искусственным интеллектом. Система сопоставляет человеческие тексты с близкими по смыслу вариантами, которые генерируют большие языковые модели. Это позволяет обучать алгоритм распознавать особенности машинного письма.
● Индустриальный комплекс вокруг перименопаузы и его влияние на женщин
Также сервис использует метод hard negative mining («поиск сложных отрицательных примеров»). Для этого в наборах данных ищут ложные срабатывания, а затем применяют их при дообучении модели. Основатель Pangram Макс Сперо заявил, что все используемые компанией наборы данных имеют необходимые лицензии.
По данным Wired, Pangram работает с образовательными учреждениями, юридической сферой и рекрутинговыми компаниями. При этом наибольшую часть текстов для обучения составляют литературные произведения. Сперо считает, что разработчики искусственного интеллекта утратили часть доверия, особенно среди представителей творческих профессий.
Широкое внимание к Pangram привлекла история с рукописью Shy Girl («Застенчивая девушка»). В январе Сперо получил PDF-файл произведения после упоминания в публикации на Reddit. Он загрузил текст в сервис и опубликовал результат проверки, однако позднее выяснилось, что обсуждение истории с аналитиком издательской отрасли вел сотрудник отдела продаж Pangram.
● Исследование показывает, что журналистика способствует разоблачению плохой науки
Критики сервиса указывали, что экземпляр рукописи, попавший к Сперо, был взят с пиратского сайта. Сам он признал, что не изучал файл полностью и сразу отправил его на проверку. Позднее Pangram проанализировал победителей премии Commonwealth Short Story Prize за период с 2012 года после высокого результата одного из лауреатов и отметил еще три возможных случая использования искусственного интеллекта.
Сперо подчеркнул, что показатели Pangram не были главным фактором при отмене книжных контрактов. По его словам, оценка сервиса являлась лишь небольшой частью общей картины. Он также заявил, что ценность работы не должна строиться на введении читателя в заблуждение относительно того, был ли текст создан искусственным интеллектом.
Читайте также:
● Испанский египтолог заявил, что пирамиды Гизы построила суперцивилизация
● Ученые заявили о происхождении человека от древнего одноглазого циклопа