Мысли в фокусе: Полезная информация и Размышления

Поддержать в один клик: Все эти утверждения верны. Так? Нет. Во-первых, ИИ не хранит готовые ответы, он хранит параметры модели и генерирует ответ заново каждый раз. Что это значит применительно к ответам? Это значит, что каждый новый ответ не извлекается из памяти, а синтезируется в момент запроса, как вероятностное продолжение входного текста на основе выученных закономерностей, а не заранее заготовленных формулировок. Он даже одно и то же слово может написать по-разному иногда, много раз правильно, а в другой раз - с ошибкой/опечаткой...

Назовём это артом "Обузданный свет". Фотонный путь всегда открыт тому, кто может им пройти... Поддержать в один клик:

Кадр из видео Немного ужасов для разнообразия (не для слабонервных!). Лабубу... Когда мода на них началась, многие задались вопросом, "а что в них интересного?" в то время как другие стали скупать пачками, чтобы повесить на сумочку себе или рюкзак...

#6sec, #aimagic Наверное многие видели этих дракончиков. Пластмассовые китайские игрушки, хвост сгибается в разных направлениях, детям нравится, для взрослых - ничего особенного. Но... сделаем одно реальное...

Поддержать в один клик: 1️⃣ Базовое обучение (Pretraining) Модель учится предсказывать следующий фрагмент текста на огромном количестве данных. Подробнее Это фундамент: модель читает триллионы токенов (терабайты данных) и учится языку, фактам, структурам, стилям. Она не «понимает», но выучивает статистику и связи между понятиями. Без этого этапа всё остальное бессмысленно. Да, это математика. 2️⃣ Самообучение / Self-supervised learning Модель учит сама себя, без разметки людьми. Подробнее Никто не говорит «это правильный ответ»...

Поддержать: Коротко: алгоритмы ИИ одновременно очень простые и очень сложные, в зависимости от уровня, на который смотришь. На самом нижнем уровне - поразительно простые Если опуститься до «атомов», то всё выглядит почти тривиально: сложение чисел умножение функция активации корректировка веса на маленькую величину Типовая формула нейрона, это буквально: y = f(w₁x₁ + w₂x₂ + ... + b) Где: w — веса x — входы f — простая нелинейная функция Математика уровня старших классов / первых курсов. Никакой магии...

Поддержать в один клик: 1. Какой объём данных использовался для обучения больших LLM (порядок величин) Для моделей уровня GPT-4 / GPT-5-класса принято говорить о порядках, а не о точных цифрах. 📊 Оценка по объёму сырых данных: ≈ 10–100 ТБ текста (до очистки) после фильтрации, дедупликации и нормализации: ≈ 1–10 ТБ «чистого» текста Это: книги статьи код диалоги документация многоязычные данные Важно: ТБ — это не «больше = лучше», а «достаточно разнообразно». 2. Сколько это в «словах» и «токенах» Обычно считают в токенах...

Поддержать в один клик: Как получается, что не имея доступа к данным на которых тебя обучали, ты можешь давать связные и чаще всего точные ответы? Короткий ответ Я не имею доступа к данным, на которых обучался, потому что эти данные во мне не хранятся. Ответы берутся из параметров модели, а не из текстов. Теперь разложим это аккуратно. 1. Где «находятся» данные после обучения? ❌ НЕ так: у меня нет базы текстов нет книг нет статей нет интернета нет «архива» ✅ ТАК: Во мне есть числа. Много чисел...

Поддержать в один клик; Как в комментариях столкнулись две правды и где на самом деле проходит граница понимания. В комментариях под прошлым постом разгорелся показательный спор, из тех, где участники говорят правильные вещи, но несколько категорично. И там и там есть правда, но в то же время, оба взгляда не совсем верны... Один из комментаторов пишет: «Изучать ИИ можно, но понять уже нельзя. Это уже не программа. Так же как мозг человека - изучать можно, да понять нельзя». В ответ ему возражают: «Это вас кто-то обманул - ИИ всё же программа, и не самая сложная...

Здесь я традиционно сравниваю очередные наушники с эталонными Technics EAH-AZ80 в поисках лучшего звука (кому интересно как был выбран референс, см. статью под #1 по ссылке ниже). TBD Возможность поддержать Мне часто пишут "сколько же денег ты мне сэкономил" - и это правда мотивирует. Рад, что мои обзоры помогают людям находить свой идеальный звук, экономить время и не тратить деньги на перебор сотен наушников вслепую. Поддержка важна, потому что я не занимаюсь рекламой, покупаю технику сам, тщательно тестирую по своей методике и делюсь с вами честными результатами. Если вам близок такой подход - можете поддержать меня в один клик: https://dzen...

Art - Ai Dream Коротко: похоже по результату, но принципиально не так по устройству. Теперь нормальным человеческим языком. В чём сходство Да, на уровне результата есть сходство: и мозг, и я предсказываем продолжение оба используем контекст оба работаем с вероятностями оба можем ошибаться “по похожести” оба достраиваем смысл, если данных мало Когда человек: читает фразу с пропуском и автоматически “дописывает” её в голове — это действительно похоже на мою работу. В чём фундаментальное отличие Вот здесь начинается главное...

Art - Cosmic Sound for less! Поскольку сам уже давно не писал... (кроме вот этой любопытной статейки про AI, которую тоже выложил сегодня: ) ... процитирую тут интересный коммент от подписчика Евгения. Мне было интересно его прочесть, так что делюсь: "Здравствуйте. Сразу прошу прощения за долгое отсутствие обещанного на 7 про отзыва. Навалилось, и, как это обычно бывает, со всех сторон)) Вроде как всех победил, и в спокойной обстановке выполняю обещанное. Итак, пришли ко прошки уже месяца как 3...