Обучать и запускать большие языковые модели не так уж математически сложно: базу вполне может понять обычный студент-математик.Но настоящая загадка в другом - у нас нет теории, которая объясняет, почему модели блестяще решают одни задачи и внезапно проваливаются на других. По словам Тао, сегодня мы можем только пробовать, измерять и сравнивать результаты — «мы можем делать лишь эмпирические эксперименты».
⚡️ Математик Теренс Тао - один из самых цитируемых учёных в мире о LLM
Обучать и запускать большие языковые модели не так уж математически сложно: базу вполне может понять обычный студент-математик.Но настоящая загадка в другом - у нас нет теории, которая объясняет, почему модели блестяще решают одни задачи и внезапно проваливаются на других. По словам Тао, сегодня мы можем только пробовать, измерять и сравнивать результаты — «мы можем делать лишь эмпирические эксперименты».
