Новое эссе о том, как ИИ может замедлить науку, ускоряя ее
Представьте, что у Птолемея был современный ИИ.
Машина мгновенно добавляла бы к геоцентрической модели новые эпициклы, подгоняла параметры и превращала любую аномалию в очередную математическую надстройку. Сколько еще веков прожила бы неверная картина мира, если бы ее несовершенство «лечил» идеальный оптимизатор?
Боюсь, что долго. Очень долго.
Эта мысль — ключ к пониманию главного риска прихода ИИ в науку.
ИИ может стать для науки не Кеплером, а идеальным Птолемеем: он способен масштабировать не познание, а самоподтверждение.
В новом эссе разбираю, почему это не алармистская страшилка, а вполне конкретный механизм, уже описанный исследователями.
✔️ Вычислительная модель Дубовой, Москвичева и Золлмана показала: ученые-агенты, выбиравшие эксперименты случайно, строили более точные теории, чем агенты, строго следовавшие теории. И главное — своего провала проигравшие не видели: им казалось, что они успешны. Это «иллюзия эпистемического успеха».
✔️ Капур и Нараянан объяснили, почему ускорять научный конвейер — все равно что добавлять полосы на шоссе, где пробка образуется из-за пункта оплаты впереди.
✔️ А фантаст Рэймонд Джоунс еще в 1952 году описал главный фильтр прорывов — внутренний «уровень шума» мышления ученых.
Из эссе вы узнаете:
- чем «машина масштабируемого порядка» опасней машины ошибок;
- почему погрузчик в спортзале — точная метафора ИИ в исследованиях;
- и какую единственную вещь нужно защитить институционально, чтобы ИИ стал машиной понимания, а не фабрикой цифровых эпициклов.
Подсказка: эта вещь — случайность.
Продолжить чтение (≈20 мин) на платформах патронов канала [1, 2, 3, 4]
#Наука #Прогресс #ГенИИ