Не так давно я наткнулся на описание эксперимента американского учёного Джона Кэлхуна, получившего название «Вселенная-25» (Universe 25).
Суть эксперимента
В 1968 году Джон Кэлхун создал для лабораторных мышей идеальные условия: неограниченное количество еды и воды при отсутствии внешних угроз внутри отдельно взятого замкнутого полигона.
В рамках эксперимента мышиный социум прошёл три основные стадии.
Активного роста, который, правда, завершился далеко до исчерпания физических ограничений полигона (всего порядка 2200 мышей при ограничении 9500 по еде и 3840 по местам для гнёзд).
На следующей стадии появились агрессия и внутренние конфликты, приведшие к сокращению популяции.
Но её сокращение не привело к выздоровлению, наоборот, деградация усилилась. На последней стадии оставшиеся мыши потеряли интерес к продолжению рода, а только ели, спали и чистили шёрстку. Эксперимент был завершён летом 1972 года, когда в колонии осталось 122 мыши, вышедшие из репродуктивного возраста. Итог был предрешён – «мышиный рай» ждала неминуемая гибель.
А при чём тут ИИ?
У этого эксперимента много как критиков, так и попыток примерить его результаты на людей, например, в контексте развития человеческого общества в целом и урбанизации в частности.
Но он меня натолкнул на более узкий, но близкий мне вопрос – влияния ИИ на работу людей.
Сейчас в обществе ведётся активная дискуссия, кого и когда ИИ лишит работы. И в целом есть консенсус, что ИИ не сможет полностью заменить человека, он заменит его в рутинных процессах, и человек сможет сконцентрироваться на решении более сложных задач, опираясь на всю мощь цифровых инструментов.
Звучит крайне воодушевляюще. Но что если не ИИ заменит человека, а человек из-за возможностей ИИ потеряет себя и начнёт деградировать?
Во-первых, пропадёт «питательная база» для взращивания специалистов. Как для спорта высоких достижений необходим массовый спорт, так и для появления экспертов нужно большое количество стартовых стажёрских должностей. Эксперт не может появиться из ниоткуда. Он должен пройти конкурентный отбор на всех ступенях, чтобы оказаться на вершине. И если ИИ заменит человека на этих начальных позициях или радикально сократит объём простой работы для человека, то мы получим пирамиду без основания.
С другой стороны, ИИ может привести к деградации самого человечества. Потеряв необходимость думать над простым, у человека может не сформироваться умение думать над сложным.
Приведу прикладной пример. Раньше лекции записывали за преподавателем и уже на этом этапе происходило обучение и развитие студентов. Потом лекции начали переписывать за лучшим учеником, то есть не самостоятельно интерпретировать лектора, а перенимать то, как это понял другой. Потом ксерить эти лекции, потом сканировать. Теперь же ИИ делает не просто конспект, а готовит уже готовую выжимку.
То есть налицо как падение качества информации, но и что, может быть, ещё важнее – атрофирование навыка преодоления трудностей, умения работать с первоисточником и критического мышления. Причём на смену им приходит даже не умение крутиться, договариваться, искать варианты, а простейшие навыки использования гаджетов.
При этом освободившееся время человечество в своём большинстве тратит не на решение сложных задач, а на потребление информационного фастфуд.
И «объевшись» им, оно не сможет, а потом и не захочет «мучить» себя решением сложных задач.
Так что эксперимент с мышами натолкнул меня на мысль, что, может быть, не того мы боимся? ИИ не заменит человека, но лишит его сначала умения, а потом и желания думать?
Надеюсь, что продолжение обязательно будет.
Утопиям, конечно, свойственны упущения, допущения и упрощения. В жизни всё сложнее и неоднозначнее. Но в этом и их прелесть — обнажить суть проблемы, гиперболизировав её угрозы.