Нил Стивенсон предложил стравливать разные ИИ между собой, чтобы вывести тот, который будет лучше других приспособлен к существованию с человеком.
Спасибо за «лайк» и подписку. А в Telegram-канале «Сай-фай ревью» вкусностей ещё больше!
Автор «Лавины», «Алмазного века», «Криптономикона», «Анафема», «Семиевия», «Синдрома отката» и проч. фантастических романов в своих рассуждениях отталкивается от примеров из животного мира.
Он подчёркивает, что считать животных менее разумными, чем человек, не совсем корректно, так как они эволюционировали для иных задач. И при этом человек научился с ними ладить, научился выживать в конкурентной среде с иными видами интеллекта.
Со временем, уверен писатель, появятся ИИ, которые можно сравнить, например, с вороной: достаточно умная, она, возможно, и заметит человека, но заботиться о нём не будет. А другие — со стрекозой, которая, вероятно, даже не обратит внимания на повстречавшихся ей людей, направляясь по каким-то своим делам.
Стивенсон также отмечает риск возникновения искусственного интеллекта, который, подобно дикому животному, например, медведю, может намеренно навредить человеку, или лошадью — домашнему животному, которому по силам случайно покалечить человека.
По его словам, в долгосрочной перспективе наиболее интересными типами ИИ будут те, которые можно сравнить, например, с овчарками. Они достаточно автономны, но живут с людьми, дрессированы и при этом очень полезны и могут делать то, что мы не можем.
Стивенсон продолжает вдохновляться животным миром и предлагает перенести некоторые механизмы межвидовой борьбы в сферу искусственного интеллекта.
«Обучая ИИ сражаться и побеждать другие ИИ, мы, возможно, сможем сохранить здоровый баланс в новой экосистеме»
Победитель в этой схватке, согласно задумке писателя, будет самым безопасным и полезным для человека. Однако, по мнению фантаста, в ближайшее время подобный подход вряд ли кем-то будет реализован.
Поэтому он обратил внимание на актуальную угрозу бесконтрольного распространения ИИ — повсеместное использование ChatGPT и аналогичного софта студентами, из-за чего катастрофически страдает качество их образования.
Ухудшение ситуации может привести к появлению умственно слабого и полностью зависимого от технологий поколения, которое не понимает, что и как работает, и никогда не сможет восстановить всё с нуля, если что-то сломается.
По словам Стивенсона, выход есть. Например, можно обязать учащихся сдавать экзамены в контролируемых условиях, записывая ответы от руки на бумаге.
Это не потребует каких-то невероятных инвестиций, технологических новшеств и проч., раньше так всё и происходило. Главным препятствием может стать разве что «нежелание родителей видеть, как их детям бросают серьезный вызов».
И тут писатель вновь возвращается к теме конкуренции. В стабильной, но конкурентной экосистеме, населенной интеллектами разных видов, люди, по его словам, обязаны быть самыми конкурентоспособными.
Поэтому, подчёркивает Стивенсон, крайне важно развитие именно интеллектуальных ресурсов человечества — на почтительном расстоянии от соблазнов доступной аугментации.