20 лет назад нужно было иметь доступ к экспертам и книгам, чтобы получить информацию, которая помогала сделать лучшие действия: пойти к нужному человеку, правильно составить документ.
А теперь ценную и правильную информацию снова нужно добывать – откапывать в груде галлюцинаций, мусора и ереси 😵💫
Вот Илон Маск запустил новый сервис создания информации – Grokipedia. Grok пишет и редактирует статьи. Создает синтетические данные. Там уже на старте больше 800 тыс. статей. Тут все прозрачно и официально. Работает LLM. Это эксперимент. Но эксперимент настолько масштабный, что вряд ли он закончится ничем (читай: отменой такого рода текстов)
И тут проблема не в том, что такие тексты появляются. А в том, что нам очень уж удобно брать такие тексты сразу в дело, а не перепроверять. Можно сказать, что это так не для всех задач. Что для части задач мы никогда-никогда не возьмем непроверенное. Сказать так можно. Но я в такое не верю.
И что же делать, когда информация стремительно мутирует? Стремительно нарастает число галлюцинаций и ошибок.
В целом, можно плыть по течению. Так сказать, есть, что дают. Можно полностью уйти в непринятие и тратить все ресурсы на контроль, проверку и перепроверку информации. Можно найти что-то посередине: для одних задач доверять, для других проверять.
Где талию (границу) будем делать?
Где вы установите границу между экономией своего ресурса на перепроверке за LLM и жестким контролем полученной информации?
Про человека и технологии | Ядова Екатерина