Не очень удивительно — учитывая наблюдаемый прогресс в работе алгоритмов с естественным языком — но как зарегистрированный факт случилось только сейчас. Berkeley Crossword Solver — разработанная в Беркли специализированная программа для решения кроссвордов, превзошла всех 1100 участников американского турнира кроссвордистов (есть, оказывается, и такой). Под капотом GPT-2, в обучении использовались 6 миллионов пар «вопрос-ответ» в опубликованных за 70 лет кроссвордах.