286 подписчиков

Искуственный интеллект ценен не только как инструмент для решения задач

Он также является удобной моделью для изучения интеллекта в целом

„Мозг“ компьютерной модели полностью доступен для исследования, в отличие от лабораторных животных и тем более людей, которым в голову залезть гораздо сложнее

Изучая то, как современные нейросети принимают решения, можно пролить свет и на процессы в наших головах

Например, как происходит сложение чисел?

Языковые модели наподобие GPT при обучении учатся неплохо это делать, хотя напрямую не пользуются специализированными частями компьютера и алгоритмами

Словно дети, они видят много примеров, перестраивают связи в своих „мозгах“ и учатся выдавать правильный ответ

Модели поменьше при этом порой ошибаются, что приводится критиками в укор, ведь для пропускания информации через мозг нейросети компьютер совершает миллиарды умножений и сложений

А в итоге модель не всегда может верно сложить 50 и 62

Но так можно придираться и к детям, интуитивно решающим квадратное уравнение в голове, чтобы поймать мяч, но не способным прийти к ответу на бумаге

Учёные препарировали три языковых модели, неплохо складывающие числа из двух цифр, и выяснили, что те используют школьную программу с конца и применяют тригонометрию для того, чтобы решать арифметические задачи

У себя в голове нейросеть распихивает числа по полочкам в шкафе спиральной формы

Чтобы просуммировать входные числа, она смотрит на их расположение в этой спирали и проходит нужное количество шагов вверх, чтобы дать ответ

Методы анализа, которые использовали учёные, чтобы заглянуть в мозг модели, вполне применимы и к биологическим данным

Сложнее измерить активность нейронов

Наработки в области понимания искусственного интеллекта однозначно ещё не раз помогут в изучении естественного

1 минута

20 февраля 2025