Есть древняя притча про мудреца, который за какую-то услугу скромно попросил богатого властителя расплатиться рисом, количество которого

11 апреля11 апр

1 мин

заполнит шахматную доску по правилу “на каждой клеточке вдвое больше, чем на предыдущей, на первой лежит одно зернышко”. Богатей согласился с легким сердцем — и придворным долго пришлось ему растолковывать, что шансов расплатиться у него нет. На последнюю клеточку пришлось бы положить 2^63 (или примерно 10^19) зернышек, это по весу где-то 200 млрд тонн. Человечество массово и постоянно повторяет ошибку властителя, о ней много писали психологи, футурологи и экономисты вплоть до Канемана и Курцвейла. Хотя мы проходим экспоненты в школе, наш мозг категорически не умеет их представлять и учитывать в своих прогнозах, хотя может научиться вычислять. Отсюда много бед — от непонимания сложных процентов по вкладам до недооценки скорости развития эпидемии по ее ранним проявлениям. Это нас не останавливает, мы продолжаем марш по граблям как ни в чем не бывало уже не первый век. Об этой проблеме в применении к ИИ - отличная свежая статья Мустафы Сулеймана; он открывает ее словами "We evolved for

Есть древняя притча про мудреца, который за какую-то услугу скромно попросил богатого властителя расплатиться рисом, количество которого заполнит шахматную доску по правилу “на каждой клеточке вдвое больше, чем на предыдущей, на первой лежит одно зернышко”. Богатей согласился с легким сердцем — и придворным долго пришлось ему растолковывать, что шансов расплатиться у него нет. На последнюю клеточку пришлось бы положить 2^63 (или примерно 10^19) зернышек, это по весу где-то 200 млрд тонн.

Человечество массово и постоянно повторяет ошибку властителя, о ней много писали психологи, футурологи и экономисты вплоть до Канемана и Курцвейла. Хотя мы проходим экспоненты в школе, наш мозг категорически не умеет их представлять и учитывать в своих прогнозах, хотя может научиться вычислять. Отсюда много бед — от непонимания сложных процентов по вкладам до недооценки скорости развития эпидемии по ее ранним проявлениям. Это нас не останавливает, мы продолжаем марш по граблям как ни в чем не бывало уже не первый век.

Об этой проблеме в применении к ИИ - отличная свежая статья Мустафы Сулеймана; он открывает ее словами

"We evolved for a linear world... This intuition served us well on the savannah. But it catastrophically fails when confronting AI and the core exponential trends at its heart."

Именно поэтому нет стены, в которую неизбежно должно упереться масштабирование вычислений. Именно поэтому стал возможен переход к агентам вместо чатов и вообще автономность ИИ, именно поэтому так трудно представить что будет дальше. Линейные экстраполяции обманывают, экспонаты непредставимы.

При этом Сулейман не верит, как и многие, в AGI как цель.

"The anti-goal is autonomous superintelligence. What we're building is a teammate. An assistant. Something in your corner, backing you up."

Вполне духоподъемное чтиво на выходные:)

https://www.technologyreview.com/2026/04/08/1135398/mustafa-suleyman-ai-future/