226 прочтений · 1 год назад
Лексемы Фортрана
Многие программисты работают годами и не знают, что такое лексема. И это им совершенно не мешает (сам такой))). Ну а про Фортран забыли даже те, кто его знал. Но не я. Почему-то нравится мне этот язык, хотя на нём, конечно, я не программирую. Но зато рассказываю иногда об этом прадедушке языков высокого уровня. Лексемы - это это основные значимые последовательности букв и цифр, а также специальных символов, из которых составляются имена констант, типов данных и прочих элементов языка. Лексемами являются все ключевые (зарезервированные) слова языка, названия стандартных типов данных и т...
19 прочтений · 1 год назад
Lexeme в Машинном обучении простыми словами
Лексема — это последовательность буквенно-цифровых символов в Токене (Token). Лексемы являются ключевыми словами в словарях. Лексема "играть", например, может принимать разные формы, такие как "играл", "игравший". В контексте Машинного обучения (ML) лексемы являются частью входного потока, в котором идентифицируются токены. Лексема является одним из строительных блоков языка. Из лексем состоит лексикон. Лексемы играют важную роль в Обработке естественного языка (NLP). Однако требования к точности здесь повышенные: один случайный или неуместный символ может ухудшить распознавание...