Маск обещает через две недели запустить Грокипедию - сгенерированный аналог Википедии
тут есть два аспекта - политический и технологический; политический оставим специалистам, а технологический аспект на мой взгляд более интересен: уже были попытки сделать сгенерированный аналог Википедии, отсюда растут ноги легендарных Энциклонгов; но в этот раз может быть иначе
как недавно показали, модели могут довольно хорошо запоминать - примерно 3.5 бита на один вес; на сегодняшний день размер Википедии примерно 2.2 миллиардов токенов, что дает примерно 70 миллиардов бит; т.е. чтобы запомнить Википедию целиком надо всего лишь модель размером 20B, а Grok явно больше; так что при желании сможет ее сгенерировать с нуля
я хотел посетовать, что та же рувики могла бы адаптировать идею Маска, проверил - оказалось, что они его даже опередили! 3 недели назад они объявили о внедрении YandexGPT для
обновления и защиты контента; так что новость внезапно для меня перешла в рубрику "два мира - два Шапиро"
