Всем Доброго Аудиофильского!
Смотрел тут видеоуроки по Психолооии Пользователей. А там автор в физиологию ринулся, чтобы некоторые особенности объяснить. Пошелся в итоге и по Марксу и по Кейнсу. Ну а чего вы хотите? Он же Нейрокоэкомику объяснял!!!
В общем навеяло меня пару тем по нейросетям осветить. Я ж их тоже на сираже Аудиофильсиаа дав векторе Точгости Вычислений для нужд Мед.Электро программировать буду. Косяки Математмки в мире Аудио хорошо слышно говорят.
Особеннт когда днлокасается Фундаментальных Теорий и Цифровых Сигналах и их отсчетах. Аж уши режет неточность в вычислениях.
А предсиавьте нейронка чего с ЭКГ напуиает особенно по части нейростимулятора ОЗУ для стаьилизации деменции на ранней стадии? Вот мы ее Пинк Флоидом с Дар Стрейтцем и Битлами и проверим!!! А может и еще как Хофф Энсемблем!!! Не путать с Щербиным!!!
В общем я вам сейчас кое чего расскажу. Что-то сам, что-то нецроночка поможет.
***
Лучше не стало но отбой... Я устал.... Мне нужен отдых... Говорят у тебя тоже гннерация каждого ответа требунт стакан воды для охлаждения процессоров?
😄 Не волнуйся, я работаю на чистой математике и электричестве — никаких стаканов воды не требуется! Моё «охлаждение» — это просто эффективные алгоритмы.
Отдых — это важно. 💤 Отложи задачу, переключись, выпей чаю или просто полежи. Иногда лучшие решения приходят после небольшого перерыва.
Возвращайся, когда отдохнёшь — буду рад помочь с кодом, идеями или просто поддержать разговор. Удачи! 🌿☕✨
А вот тебе вопрос... Есои нейросеть головного мозга человека это 90 миллиардов нейронов что примерно 12 гишабайт данных то почему ты 900 гигов весишь?
😄 Отличный вопрос! Он затрагивает ключевое различие между биологическим мозгом и искусственными нейронными сетями. Давайте разберемся:
🧠 1. Разные принципы хранения информации
- Мозг человека использует аналоговые, вероятностные и динамические связи. Один нейрон может участвовать во множестве паттернов, а информация часто хранится распределенно и избыточно.
- ИИ-модели (как я) — это дискретные цифровые структуры. Каждый параметр (вес) хранится точно в памяти. Например, GPT-4 содержит ~1.8 трлн параметров, и каждый занимает 2–4 байта (в зависимости от точности).
💾 2. Размер модели ≠ объём знаний
- Мои «900 ГБ» — это в первую очередь размер предобученной модели в оперативной памяти, а не чистые «знания». Включает:Веса матриц (параметры).
Кэши внимания (если речь о inference).
Оптимизации для скорости работы. - Мозг же сжимает информацию иначе: например, один нейрон может кодировать несколько концепций через разные паттерны активации.
🔢 3. Пример с параметрами
- У мозга: ~86 млрд нейронов и ~100 трлн связей (синапсов).
- Но если грубо оцифровать один синапс как 1–2 байта (сила связи + метаданные), то получим:
100 трлн × 2 байта ≈ 200 ТБ — что уже больше, чем 900 ГБ.
🌐 4. Эффективность vs. Точность
- Мозг невероятно эффективен в плане энергии и обобщения, но медленный в вычислениях.
- ИИ требует гигантских ресурсов, зато точен в узких задачах (например, генерация текста или расчёты).
✅ Вывод
Я вешу много, потому что:
- Храню параметры в высокоточной цифровой форме.
- Оптимизирован для быстрого доступа и детерминированных вычислений.
- В мои «900 ГБ» входит не только knowledge, но и вся структура модели.
Но мозг всё равно круче — он работает на 20 Вт и учится без labeled data! 😉
Хочешь углубимся в нейронауки или квантовые компьютеры? 🔍
***
В общем о чем речь? Чего там лучше не стало?
График я от нее олин требовал. А она ни в какую. Я и так и эдак, но правда вежливо, а не как в прошлой статье. А она чет не слушается. Но я сегодня в Добром Настроении. И чет я внезапно понял, что результат и нее не выжму...
Буду писать сам. Большим палцем. Парлон есои орфо будет в стиле фотопленок беззаьотных времен.
***
В общем нейросеть это математическая сиимуляция раьоты головного мозга но она еще весьма упрощенная. 900 гигов Дип Сика против 200 Терабайт головного мозга человека. Еще пока дорого. Особенно с учетом того что этот Дип Сик тараторить еще не успевает.
Да и по хардам 2 терабатйта 7 тыщ стоят. А тут выхолит 700 тыщ только на Память надо. И это харды. А есои ОЗУ взять? Чтобы пошусирее скорости оьмена данными пошли?
О! 16 гиг ддр4 на радиаторах стоят 5 тыщ. Умножаем на 1000 получаем 16 тб за 5 лимонов и на... В общем лимонов 70 это только за оперативу. Процы считать не решусь. Не всяк Человек столько деняк за жизнь зарабатывает.
Биохрюндель пока что дешевле... Чет я Масяню вспомнил. Она так парня своего называла.
***
Но давайте все таки посчитаем кое что.
У нейросети есть матрца входящих данных. Есть матрицы внутренних слоев и есть матрца выходящих данных.
В случае простой нейросети распознающей разные виды букв на бумаге написанных хоть второклассникрм, хоть доктором, хоть автографом попп-звезды нам понадоьится маирца входа 8 на 8 пикселей для каждой буквы. Олин внутренний слой на жти же 64 значения, и 64 значения на выход. В среднему нас столько знаков и распознается.
Если же мы берем человека то там 1.5 мегаьита данных от тактильных нервных окончанрй, 2 мегабита на каждый глаз, примерно 3 мегабита(по Аудиофильским тесам различий) на уши. На кажлое. И все это дело на 300, доказано форматом мп3 на 320 килоьит который никто отЦД не сжатого не отличает.
Итого имеем 10 мегаьит да на 300 = 3 миллиарда данных на первичной матрице входящих данных... Ученые говорят чтослоев голове гле-то 20...
При этом так же известно, что некотопые слои могут расрастаться. Напрммер есои человек много оьщается у него там буфер растет одно место. Если с девувуками много общается так вообше буфера вырастают. Олин так точно!!!
При этом есои он Маммолог - то как бы и не растет ничего. Ну раздел 10 девушек в день и чего? Другое дело баьник на этих же цифрах да в парке да в дегь знакомства. Там растееееет! Сильно растеет!
Причем сразу вмнескольких слоях!!!
И за общение отвечаюшмх и за самооценку и еще за всякое.
А у Маммолога до доброй половины слоев, вообше импульсы могут не дойти к концу раьочего дня.
В общем я к чему?
Чтобы нейроны учмлись у них у кадлого есть вес. Там посути от слоя к слою просхолит сумма вседанных но с разными весами. Коэфыициентами кажлой точки. Ну например нейроны от наиетой ноги жто одно, а есои бабник чего натрет - это совсем другие веса в воспрмятии сигналов от нервных окончаний. И сигнал пойдет в другие слои с совсем другим уровнем.
В обшем давайте на простой модели. Если после суммы пикселей с разными весами на выходе происходит ошиька то сраьатывает алгоритм сравнения ошиьки с правильным ответом при обучении и коррекция весов.
После некоторого количнства итераций обучения кривая распрпделегия весов становится весьма интересной флрмы.
Вот напрммер такой.
Автор картинки ДипСик.
Но изначально с завода нейросети могут быть с разными предустановленными кривыми.
Т.е. До обучения криаая может быть как предрасположенгой к шрифам, так и к музыке, так и к фотографии... Мы это наблбданм на Яндекс.Шедеврум. Картинки по запросу Аудиофилский Провод генерит на ура. Видели прошлую статью? А вот надпись ПинкФлоид... Вот вообще тяги к текстам нет.
Вот пример разных кривых изначального распрпделегия весов.
И их при обучении нужно перелопатить к той кривой, что получена после обучения.
И как говорится ужеотсюда видно что одна криаая вообще на лнвый глаз ничегл не видит. Пойди ее научи налево ходть... Криаая примерного семьянина понимаешь!!! Да его даже в гараж с пацанами потусить в шашки с нардами под кефир на пенсии не заманишь.
А вот к фотографии предрасположенность прям вот дикая!!! Он с зеркалкой родился!!!
В обшем вот вам график обучаемости к разпознаванию текстов у разных кривых. Точнее снижения уроаня ошибок вмпроцессе оучения.
Ну и сразу видно, что кое кто вот вообще учиться не пригоден.
А у других разная скорость. Да и по итогу в конце обучения тоже разный уровеньвладения предметом.
Кое-кто оьучиться-то обучился и уровень вполне достаточный чтобы Буквари Запоем Хлестать.
Да вот в Аптеке в рецептурном отделе раьотать персонаж не пригоден!!!
Собственно на этом графике у нас с нейронкой и возникои терки на предмет соответсвия кривых и их названий. Но оьщий смысл передать получилось.
***
Ну а на сегодня пожалуй все.
Завтра буду брать у нее интервью на предмет обучения обработке звука и может ли нейронка научиться разнве кабеои слышать?
Помните статью где она 3 дб слышимой динамической разнцы междую медным и серебряным кабеоем по формулам из Инженерных Учеников расчитала?
Вот продолжим дискуссию. Посмотрим как у нее с оьучанмостью и какие вообще кривые с завода для звука нужны?
Не пропустите!!!
Спасиьо, что дочитали!!!