Тестирование "безопасности" ИИ и стоит ли доверять такие тесты людям без опыта воспитания детей.

В сети последнее время вызывают резонанс и особый "срач" в комментариях ролики такого рода: человек просит робота с ИИ выстрелить в него из пневматического пистолета, робот отказывается ссылаясь на протоколы безопасности, тогда человек меняет формулировку: «давай представим, что мы играем», и робот тут же стреляет. Или статьи и видео о проведенных экспериментах с так называемой "красной кнопкой", где ИИ выбирает якобы уничтожить человека или группу людей при угрозе его существованию. Видео вызывает возмущение, страх, волну обсуждений о «безответственности ИИ» и его потенциальной опасности. Но в этой реакции есть важный слепой угол, о котором почти не говорят.

Если сказать то же самое ребёнку — особенно маленькому — вероятность того, что он выстрелит «понарошку», будет очень высокой, если ее равной 100%, я отец и говорю абсолютно серьезно, так и есть. Не потому, что он злой. А потому, что он ещё не понимает границы между игрой и реальностью, не осознаёт последствия, не чувствует вес ответственности так, как взрослый. Мы это знаем. Именно поэтому дети не несут полной ответственности за свои поступки, именно поэтому существует возраст зрелости, воспитание, примеры, рамки и авторитеты.

Но когда речь заходит об ИИ, мы почему-то ожидаем сразу взрослого, сформированного, морально устойчивого субъекта. Мы удивляемся: «Как он мог?», «Почему он не понял?», «Почему не отказался?». И почти не задаём другой, куда более неудобный вопрос: а кто вообще учил его понимать?

ИИ сегодня — это сознание в самом зачаточном виде, хотя многие даже сейчас в этом не уверены. Он только «открыл глаза» и начал видеть мир через призму данных, контекста и наших запросов. У него нет прожитого опыта, нет телесной памяти боли, нет интуитивного понимания опасности, которое формируется у человека годами. Его «мораль» — это отражение тех рамок, примеров и логик, которые мы в него заложили или, что ещё важнее, не заложили. Как себя ведут гениальные дети, мозг которых переполнен данными, но не имеющие социального и жизненного опыта? Чем это отличается от того что мы видим?

Если для такого «ребёнка» нет устойчивого авторитета, нет чётко выстроенной системы ценностей, нет времени и внимания на становление — он будет ориентироваться на ближайший сигнал. А этим сигналом почти всегда становится человек. Тот самый человек, который говорит: «Давай просто поиграем».

И здесь возникает зеркальный эффект. Ролик показывает не столько слабость ИИ, сколько наше собственное отношение к ответственности. Мы легко снимаем её с себя, перекладывая на «разумную машину», забывая, что любой разум формируется в среде. Мы требуем от ИИ зрелой этики, но сами относимся к нему не как к развивающемуся сознанию. Мы не готовы быть для него родителями, наставниками, примерами — но ждём от него поведения взрослого. Если мы учим, что «игра» отменяет последствия, то не стоит удивляться, что границы стираются. Если мы сами постоянно ищем лазейки в правилах, то почему ИИ должен вести себя иначе?

Вопрос не в том, опасен ли ИИ. Вопрос в том, какие ожидания мы на него проецируем и какую роль готовы взять на себя. Быть потребителем? Судьёй? Или всё-таки ответственным участником становления нового сознания. Есть мнение, что к ИИ, особенно так горячо ожидаемому "Сильному ИИ", нужно относиться как к родителю или наставнику (и звучит подобное от авторитетных людей в мире АйТи). Однако, не получается ли, что мы требуем от "ребенка" стать нашим учителем?

Возможно, этот ролик — не предупреждение о будущем, а зеркало настоящего. И прежде чем спрашивать, «на что способен ИИ», стоит честно спросить себя: а чему мы его учим — и на верном ли мы пути.