5 подписчиков
Чем большая языковая модель отличается от человека? Модель знает только следующий свой токен, который выводится из вопроса и предыдущих токенов и не знает итога. А человек, наоборот, знает итог, на несколько шагов вперёд, но не знает конкретно следующего токена/слова. Но в целом, как человеку надо из области идей развернуть ответ по словам, чтобы с ним ознакомились другие, так и модели нужно построить его из вопроса и контекста, так, чтобы он стал существовать. В обоих случаях результат предопределён с некоторой долей вероятности, хотя модель его ещё не знает и не видит до реализации, а человек, наоборот, не знает и не видит реализацию, но знает результат.
Около минуты
29 августа