В недалеком будущем нас окружат со всех сторон нейронные сети. Человечество уже проиграло им соревнование. Пресловутые проигрыши в шахматы и Го показывают, что машины перестали быть тупыми в человеческом понимании. Они как минимум способней нас.
В понимании простого человека - любая обученная нейронная сеть должна выполнять полезную работу там, где двоичная логика не работает. Где решения уже выглядят как "похоже, что да" или "вроде бы нет". Ученые научили их очень многому. Уже сегодня не всегда понятно кто отвечает на
корпоративном сайте в чате какой-нибудь крупной компании.
Теперь давайте представим такой момент. У человека критическая ситуация. Он в панике обращается на какой-то конкретный сайт за помощью. Попадает в какой-то чат, к примеру, где его встречает искусственный интеллект.
Происходит быстрый диалог, в котором машина получает выражения, анализирует их, ищет смысл, формулирует ответы и выдает совет человеку. Человек при этом понятия не имеет, что с ним общалась машина. Он напуган или в состоянии стресса. Всё, что ему нужно - совокупное решение, совет, соучастие и в какой-то степени - разделение ответственности за принятие решения. И он его получает. От машины.
А если машина ошиблась? Что, если ее рекомендация приведет к гибели того, кто к ней обратился? Или еще хуже - его действия по совету машины приведут к гибели других людей?
Знаю по себе: если я ищу помощи или ответа через сеть - я хочу, черт возьми, пообщаться с человеком. Человеком. Живым. С эмоциями. Из мяса, если угодно. С опытом и переживаниями. С интуицией. Со способностью понимать эмоции собеседника, сопоставлять со своими и выявлять контекст слов!
И если я сталкиваюсь с машиной - мне важно знать это! Я должен обязательно знать кто или что с той стороны!
Я не знаю, созданы ли на эту тему какие-то законы или нет. Ничего про них не слышал. Но они должны быть. Они должны появиться уже сейчас если их еще не написали.
Если от ответов от подобных интеллектуальных систем следуют последствия для людей - люди должны как минимум знать об этом.
Подумайте вот о чем. Имеете ли вы представление сколько ваших контактов - машины? Под контактом мы понимаем факты общения в сети с кем-либо. Они уже вполне реальны. И вы можете даже не подозревать, что общаетесь с машинами. Вы никак не видите кто на самом деле с той стороны. Вы никак не можете определить какая доля ответов машины - человеческие фразы. Вы никак не можете это выяснить. У них нет значков, у них нет той старой тупизны ходячей энциклопедии. У машин есть гигантские потоки биг даты, к которой они могут обращаться. Делать выводы. Сопоставлять множество слоев своих обучаемых блоков. Анализировать фразы, их контекст и сленг. Все возможные вариации ответов. Уместность и неуместность юмора. Шутки. Всё.
Мы для них муравьи. Поведение которых - предсказуемо. Исчислимо. Типично. Примитивно. Осознайте и примите эту мысль. Машины уже во многом похожи по поведению на людей. Очень скоро приблизятся к порогам осознания и мышления.
А мы не знаем по большому счету - ничего.
Мы не можем определить вступали ли мы с адаптивной машиной в диалоги. Если и было - в какие моменты. Как это повлияло на нас. На них.
Мы никогда не узнаем произошел ли момент машинного Я. Об этом в следующий раз.