Неявное знание
В выпуске про прогнозирование трендов наша гостья Розмари Турман вскользь упоминала про концепцию неявного знания Майкла Полани. Меня это побудило разобраться поподробнее, что же это значит, так как чувствовала некий интеллектуальный вакуум в своей голове по этой теме. Хотя идея Полани о неявном знании получила широкое распространение как в философии, так и в науке, значение этого термина остается все расплывчатым и «неявным». Поскольку Полани не разработал это понятие систематически, оно, как известно, сильно варьируется в зависимости от контекста и все еще нуждается в пояснении...
462 читали · 1 год назад
«Ловушка Гудхарта» для AGI
Проблема сравнительного анализа искусственного интеллекта и интеллекта человека Эта статья впервые опубликована в журнале “Ученые записки Института психологии РАН”, том 3 № 3(9) (2023) «Революция ChatGPT», которая произошла в 2023, резко сократила прогнозные оценки экспертов сроков, отделяющих нас от создания искусственного интеллекта, ни в чем интеллектуально не уступающего никому из людей (AGI). При этом, как это ни парадоксально, но существующие методы тестирования пока не способны хоть с какой-то достоверностью диагностировать достижение ИИ-системами уровня AGI...