Агенты LLM
Инфляция архитектурных слоёв. Когда мы даем LLM (Large Language Model) задачу «напиши код», она действует как стохастический попугай — генерирует наиболее вероятную последовательность токенов. В сложных, многосвязных системах эта вероятность приводит к "галлюцинациям" ии. Индустрия, столкнувшись с этим, пошла по пути бюрократизации кода: В итоге мы получаем распределенную систему, которая решает проблему нестабильности одного вероятностного элемента (LLM) путем создания таких же вероятностных элементов. С точки зрения теории информации и теории систем, это ведет к росту энтропии и снижению надежности...