С вами когда-нибудь разговаривал собственный смартфон? Не тогда, когда вы задаете ему вопрос через Алису, а просто так. Со мной недавно произошел такой случай.
Готовлю ужин. Рядом никого нет. Сын что-то прокричал из комнаты, я не расслышала.
Прошу его повторить: "Что ты сказал?"
И тут из моего кармана раздается тирада электронным голосом: "Не переживай - это останется между нами" и что-то еще...
Честно, я не поверила своим ушам. Достаю смартфон, включен режим "Алисы" (видимо случайно активировала, когда в карман его положила. Сейчас это очень легко сделать, на экране заботливыми руками разработчиков добавлена яркая фиолетовая кнопка с яйцом).
А буквально перед этим прочитала новость, что на какой-то встрече телефон также вопрошал из кармана слушателя : "Говорите громче, вас плохо слышно". Так что это не единичный случай.
Что будет дальше?
Если человечество позволит, то искусственный интеллект очень быстро станет неотъемлемой частью нашей жизни. А человечество позволит, потому что это удобно. Зачем напрягать мозг, искать информацию, анализировать, проверять факты, ставить под сомнение полученные выводы, если за несколько секунд за тебя сделает машина?
Пока ИИ часто выдает нелепые вещи, но он очень быстро обучается. И в скором времени качество выдаваемой информации повысится на столько, что не будет вызывать подозрений.
Люди будут восхищаться рассказами виртуальных писателей, восторгаться картинами искусственных художников, читать новости машинных журналистов, слушать проповеди вымышленных духовных наставников.
А опасность заключается в том, что обучать ИИ можно таким образом, чтобы он выдавал нужные кому-то выводы. Для этого всего лишь нужно предоставить машинному мозгу информацию выгодную определенным лицам и исключить все остальное. Ведь не даром умные люди говорят: "Кто владеет информацией, тот владеет миром"
Сопротивляться этому явлению будет очень сложно. И это действительно страшно.