Эксперты предупреждают, что система генерирует тексты очень реалистично, а мошенники могут использовать ее для публикации фейк-новостей.
Первоначально исследователи анонсировали систему GPT-2 в феврале 2019 года, но отказались публиковать полную версию программы. Они опасались, что ее будут использовать для распространения фальшивых новостей, спама и дезинформации. Теперь в блоге компании OpenAI отмечается, что они не нашли «никаких убедительных доказательств неправомерного использования», поэтому выпустили модель полностью.
GPT-2 является частью нового поколения систем генерации текста, которые произвели впечатление на экспертов своей способностью генерировать текст из минимальных подсказок. Эту систему подготовили на основе 8 млн текстовых документов. К примеру, используя несколько заголовков СМИ, она может написать целую новость или, используя строчку из стихотворения, создать целый стих.
Однако эксперты, с которыми поговорило издание The Verge, отмечают, что легкий доступ к новейшим исследованиям в области генерации текста может позволить злоумышленникам пользоваться ими. Они отмечают, что OpenAI должна была ограничить публикацию своей модели по этим причинам.
Ранее журналисты «Би-би-си», которые проверили работоспособность модели, отметили, что теперь она может генерировать истории так же хорошо, как и живые авторы. Ранее генератор текста от исследовательской фирмы OpenAI отказались публиковать в свободный доступ, так как считают его «слишком опасным» из-за потенциальных злоупотреблений.
Ильнур Шарафиев