Многие удивятся, но у нас пока нет научного объяснения того, как мы отличаем непроизвольную улыбку от намеренной, случайное знакомство от подстроенного, естественную аварию от рукотворной. То есть наука ещё не дала определение общему понятию действия, благодаря которому мы с вами интуитивно отличаем случайное стечение обстоятельств от замысла человека или машины. Ниже рассказываю, почему эта проблема может ни много ни мало преграждать нам дорогу в будущее (прекрасное или не очень).
Этой статьей я открываю серию публикаций, где простыми словами раскрою основные идеи своей теории действия, которую я не так давно опубликовал в формате строгой научной статьи (ссылка). К слову, через несколько недель опубликую ещё научную статью о действии в контексте ИИ. Зачем мне это просветительство? Всё просто, эти идеи я планирую развивать дальше как в контексте гуманитарных наук, так и в контексте ИИ, а публикация как ничто другое стимулирует качественную проработку аргументов. Ещё хорошо бы пару слов о себе, но лучше выделю для этого отдельную статью, а сейчас сразу к делу.
В чём проблема?
Легче всего эту проблему увидеть на примере компьютерного зрения, т.е. простыми словами, умных камер. Современные технологии уже могут распознать на видео улыбку, падение, рукопожатие и многие другие события. Как машину этому учат? Просто показывают много примеров, где человек, скажем, улыбается, и машина в итоге начинает "понимать", как выглядит улыбка вообще.
Только вот проблема: мы можем улыбнуться непроизвольно или намеренно, можем толкнуть кого-то нечаянно или умышленно, можем упасть случайно или специально. Важно ли отличать простые случайности от намеренных действий? Разумеется. Но может ли их отличать умная камера? Отчасти да, поскольку обычно, скажем, непроизвольная улыбка заметно отличается от умышленной, поэтому натренировать нейросеть отличать одну от другой не так трудно. И всё же по большей части умная камера не может эффективно отличать естественные движения тела от намеренных, особенно если человек специально создаёт видимость естественности. Ведь даже мы обычно не сможем уверенно сказать моргнул человек непроизвольно или специально, смотрит ли он на дверь (ожидая кого-то) или сквозь неё (задумавшись), постучал ли он пальцами по столу от скуки или дал кому-то условный сигнал. Но это не главная проблема.
Главная проблема в том, что наши действия выходят далеко за пределы тела. Мы не только улыбаемся или жмём друг другу руки, мы получаем профессии, выращиваем сады, создаем идеологии, совершаем научные открытия, меняем течения рек, и т.д. Естественно, никакая умная камера такие действия не распознает, потому что для неё действия — это лишь движения тела. Такого узкого понимание может быть достаточно в области компьютерного зрения, но наше интуитивное понятие действия гораздо шире.
В общем, у нас уже есть немало узких и специальных определений действия, которые используются в психологии, социологии, экономике, юриспруденции, робототехнике, ИИ, и т.д, но у нас нет широкого общего понятия действия, которым владеет человек. Философия, как известно, стремится найти как раз общие и универсальные решения, поэтому давно занимается этой проблемой, но консенсуса пока так и нет. Думаю, о конкретных сложностях и разноглясиях я напишу в следующей статье, а сейчас нужно ответить на самый насущный вопрос: и что? И что с того, что у нас нет общего понятия действия? Почему это проблема?
И почему это проблема?
Начнём с такого вопроса: а зачем людям умение распознавать действия? Зачем нам отличать непроизвольную улыбку от намеренной, случайную встречу от подстроенной, естественную поломку от рукотворной? За тем, что люди ничего не делают просто так. Просто так происходят как раз обычные события вроде случайного падения, но намеренно мы действуем всегда с какой-то целью.
Например, на танцевальной вечеринке ко мне приближается девушка (действие), на её лице появляется дружелюбная улыбка (действие), она молча протягивает мне руку ладонью вниз (действие). Делаю вывод, что она хочет пригласить меня на танец. Тем же вечером на улице неблагополучного района ко мне приближается компания мужчин в спортивках (действие), исподлобья смотрят мне в глаза (действие), один из них без слов протягивает мне руку и выразительно трёт пальцами во всем понятном жесте денег (действие). Делаю вывод, что они хотят меня ограбить. Здесь наглядно видно, как умение распознать отдельные действия позволяет нам даже без слов угадывать цели и планы других людей.
Ещё благодаря интуитивному понятию действия мы можем объяснять прошлые события. Например, я пришел домой (живу один) и обнаружил открытым замок входной двери, хотя точно помню, что закрывал его. Он не мог открыться сам, поэтому его кто-то открыл (действие). Вхожу внутрь, вижу разбросанные по полу бумаги, которые не могли упасть со стола сами (действие), и уже начинаю смиряться с мыслью, что меня обокрали, но тут замечаю на столе записку (действие), которая всё объясняет: днём забегала сестра забрать свой велосипед (есть ключ) и забыла закрыть дверь (такое уже было), а бумаги разлетелись просто из-за сквозняка (вспомнил, что утром открыл окна), т.е. это всё-таки не было чьим-то действием.
Наконец, именно распознавание действий помогает нам изучать другого человека, в т.ч. выявлять его предпочтения. Например, я замечаю, что у моего друга в холодильнике всегда стоит сок. Естественно, он появляется там не сам по себе, его покупает друг (действие). Зачем? Видимо, он ему нравится. Либо я замечаю, что он избегает какой-то темы, всякий раз переводя разговор в другое русло. Это явно не совпадение, он это делает намеренно, но зачем? Видимо, неприятно об этом говорить. Конечно, случайные или естественные события вроде привычки стучать в дверь ровно 4 раза тоже полезно подмечать, но гораздо больше о личности говорят именно действия.
Очевидно, для нас крайне полезно умение выделять намеренные действия из потока малозначащих случайных событий, поэтому, естественно, мы захотим научить этому и машины (т.е. уже хотим). Чтобы нейро-ассистент предвосхищал вопросы и выявлял наши предпочтения без слов. Чтобы домашний робот на лету определял наши планы и предлагал помощь. Чтобы умные камеры сами распознавали готовящиеся преступления или раскрывали произошедшие. Но как мы научим машины распознавать наши действия, если мы не можем понять, как сами это делаем? Вот и первая часть ответа на вопрос, почему отсутствие общего понятия действия - это проблема.
Другая часть ответа уже менее очевидна. Нравится нам это или нет, но машины уже становятся частью нашей повседневной жизни. Со временем они будут становится всё больше — вплоть до огромных боевых роботов-кораблей, всё меньше — вплоть до незаметных глазу роботов-бактерий, и всё вездесущее — на земле, в воде, в воздухе, в космосе, в интернете, и даже в наших телах (вроде кибер-протезов). Это не было бы большой проблемой, если бы все машины имели исключительно благие намерения друг к другу и к людям, но надеяться на это глупо. Я не думаю, что они обретут какое-то самосознание и решат уничтожить человечество, нет, всё проще: сами люди будут использовать хитроумные машины всех сортов против людей и других машин. И как нам защищаться?
Очевидно, от машин мы будем защищаться с помощью других машин. Но сказать это гораздо проще, чем реализовать. Ключевой проблемой, как мне кажется, будет как раз распознавание действий. Если мы не научим машину выделять из потока событий отдельные действия потенциально враждебных машин, то она не сможет эффективно угадывать их цели и возможные планы по их достижению, а значит, не сможет им эффективно противодействовать.
Робот сыграл солнечным зайчиком случайно или дал знак сообщнику? Он просто пытается объехать пробку или ищет машрут без камер наблюдения? Он стал чаще падать из-за износа деталей или несанкционированного изменения конструкции? Союзной машине необходимо будет замечать в потоке малозначащих случайностей намеренные действия и своевременно задаваться вопросом — зачем?
Неожиданно, но выходит, что мы будем учить машины распознавать действия не столько для того, чтобы они угадывали цели и планы людей, сколько для того, чтобы они угадывали цели и планы других машин.
И здесь запускается порочный круг. Дело в том, что давая машине умение распознавать действия, мы тем самым даём ей умение их имитировать или маскировать. То есть научив машины распознавать действия в качестве щита, мы будем использовать это и в качестве меча. Противник, естественно, тоже. И начнется гонка вооружений, противостояние меча и щита. Со временем это приведет к тому, что машины, с их сверхчеловеческими вычислительным способностями, научатся настолько ловко строить, координировать и маскировать свои планы, что обычному человеку этого будет уже не заметить. С этих пор только машина сможет противостоять машине.
Хотя это звучит драматично и страшно, машины по-прежнему будут служить людям, просто как и люди, они будут разделены на противоборствующие лагеря. В этом смысле мир останется таким же, как и сейчас. Но извечная борьба людей друг против друга явно приобретёт фантастические черты. Можно утешаться тем, что потенциальных плюсов от развития, так сказать, понимающих технологий можно насчитать не меньше, чем минусов, поэтому сейчас и не скажешь, будет это будущее, скорее, прекрасно или ужасно. А может вообще не надо развивать такие технологии? Уверен, что впечатлительные читатели уже задались этим вопросом. Но, боюсь, что это неизбежно.
Думаю, читателю уже стало понятно, что идея действия играет важнейшую роль в нашей жизни, поэтому отсутствие её формальной интерпретации с каждым днём становится всё более насущной проблемой. В следующей статье я в общих чертах раскрою те сложности и противоречия, из-за которых мы пока не можем согласовать определение действия, а уже в последующей подробно раскрою своё решение проблемы.