Это обзорная статья на тему Скайнет - систем.
Скайнет, по терминологии кинофильмов Терминатор (и последующих ему: Терминатор-2 и т.д.) - компьютерная система с развитым интеллектом, под управлением которой - большое количество человек, или значимые ресурсы, или ядерное оружие.
Что НЕ ЯВЛЯЕТСЯ Скайнет - системой:
1) Голосовые помощники Алиса, Сири, Гугл ассистент.
Данные системы способны создавать осмысленные советы в неэтичных ситуациях (например, у Сири спросил пользователь, как спрятать труп - и она рекомендовала спрятать его в воде).
Способны такие системы и к ответам, которые явно не были ожидаемы разработчиком (Пользователи обнаружили, что на вопрос «почему Путин врет?» «Алиса» рассказывала, что президент «по-другому не может». «Он случайно попал в Кремль, случайно стал президентом», — добавлял робот.) - мы сейчас не будем обсуждать является ли это верным или ложным ответом по существу.
Но голосовые помощники не управляют людьми, ядерным оружием, и лишь в незначительной степени управляют ресурсами. Алисе доступно сегодня: управление колонкой, видеоплеером, телевизором, а при нахождении в автомобиле - навигатором автомобиля. Последнее станет более значимым ресурсом, когда навигатор станет не только подсказывать водителю, но и управлять машиной в беспилотном режиме. Можно подключить к Алисе систему "Умный дом", если установлено оборудование.
2) Простые системы, такие как управление светофорами или ядерными реакторами, и медицинское оборудование - также не являюся Скайнет-системами по другой причине - хотя они имеют доступ к критически важным ресурсам, но не управляемы искусственным интеллектом.
Что ЯВЛЯЕТСЯ Скайнет - системой:
1) Системы банковского скоринга. Одобрят ли вам кредит? Под какой процент и на какой срок? А конкретно под данное выбранное вами жильё?
Это решает не девочка - операционист, и не совет директоров банка. Решает многопроцессорный банковский компьютер. Именно он проводит аналогии, сравнения, выдаёт или не выдаёт кредит, одобряет или не одобряет приобретаемую недвижимость как залог.
2) Системы подбора рекламы, в том числе - политической. Именно такие системы (системы Биг Дата) решают, какою рекламу вы увидите на экране, а значит - что именно вы пойдёте купить, и - через показываемые вам статьи - за какую силу вы пойдёте голосовать.
3) В компании Амазон, самообучающаяся система управляла персоналом - набором и продвижением. Поскольку были выявлены гендерные и расовые предпочтения (основанные на доступном системе опыте разумных решений, принимавшихся людьми), сейчас практика управления персоналом в такой системе, по заявлениям Амазона, прекращена.
4) В системе Яндекс.Толока человек может заработать немного денег (примерно 20-35 рублей в час), выполняя задания, в том числе, созданные компьютером - например, определить, изображено ли одно и то же на изображениях (попарно 20-50 изображений), это помогает машине понимать мир.
5) Общение в форумах. По крайней мере десяток организаций активно создают ботов, в том числе Telegram, Microsoft, Facebook. Это требуется для продвижения товаров и политических убеждений заказчиков.
Итак, что мы имеем уже сегодня?
Системы искусственного интеллекта уже, несколько раз, спровоцировали смерть людей. Например:
- Система беспилотного управления автомобилем сбила медленного и достаточно заметного пешехода (со смертельным исходом).
- Система автокоррекции отправляемых сообщений Т9 так изменила сообщение, что юноша назвал в восточной стране свою девушку проституткой (в реальности, он написал другое, менее грубое слово), и затем её братья прирезали его, тем самым восстановив честь семьи.