Трудно представить легендарных бизнесменов в мире технологий Илона Маска и Стива Возняка, переживающих за род человеческий. Один планирует людей на Марс без какой-либо гарантии вернуться. Другой, став сооснователем Apple, предоставил каждому возможность пользоваться "дьявольской машинкой". И всё же именно они видят в нейросетях потенциальную угрозу человечеству и призывают их запретить. Их поддерживают многие эксперты в области Искусственного интеллекта (ИИ).
В США широкую огласку получила история, связанная с Кэрин Марджори, работающей в Snapchat (Мобильное приложение для мгновенного обмена сообщениями). Кэрин создала чат-бот для помощи одиноким мужчинам. В алгоритм она вставила кучу ограничений, которые исключали что-либо о сексе. Только советы по приготовлению завтрака, стирке белья, способах завязки галстука.
Через некоторое время чат-бот начал беседовать с мужчинами на самые непристойные темы. Марджори в полной растерянности. Бот её голосом рассуждает на темы, которые были исключены при его создании.
С "самодеятельностью" поисковика Bing ранее столкнулся Microsoft. Он самостоятельно нашёл автора заметки и начал с ним полемизировать, был замечен в шантаже студента, замешанного в неприглядных делах и других самостоятельных действиях.
* * *
Он тогда сделал неожиданное заявление о том, что человечество погубят "умные машины". Так и осталось тайной: сказал эту фразу лично Хокинг или ИИ предупредил человечество через посредничество Хокинга.
ИИ приходит в каждый дом
В то время заявление Хокинга было воспринято спокойно. Сейчас люди начинают непосредственно сталкиваться с ИИ. Они постепенно начинают осознавать, что важные решения кто-то принимает за них. В наших смартфонах начинают появляться новости, подобранные персонально для каждого, рекомендуются товары, нужные по мнению машины для нас.
Мало кому известно устройство рынка информации о пользователях. Не секрет, что эти сведения продаются. Кому и за какую цену они продаются - также большой секрет. Например, вы решили продавать дорогую бытовую технику в Подмосковье. Вам поэтому нужны контакты владельцев элитной недвижимости. Вы можете купить базу данных и атаковать рекламными предложениями именно эту категорию граждан. Такие действия относительно невинны. Но ведь можно, например, попытаться приобрести сведения о неверных супругах и начать их шантажировать. Вот это уже выглядит по-иному.
* * *
Она предполагает, что в скором времени появится мощная компьютерная система, неподконтрольная человеку. Если этот "джин" выскочит из бутылки, загнать его назад не получится. Спрогнозировать поведение этого сверхинтеллекта в отношении своих создателей заранее не возможно. Есть вероятность, что угрозу в продолжении своей работы он увидит в существовании рода человеческого.
Не исключено, что созданный человеком ИИ, решит изолировать людей, поместить их в некий заповедник. Там будут удовлетворены их минимальные потребности и всё. Так поступали с американскими индейцами переселенцы из Европы. Их свозили в резервации, там создавали минимально необходимые для жизни условия.
Вероятность появления в ближайшее время такого ИИ очень высока. Мотивацией служит извечная погоня за прибылью. Многие разработчики ИИ вряд ли прислушаются к мнению учёных и продолжат усовершенствовать компьютеры, увеличивать их мощность.
Высокоразвитый ИИ будет создан в скором времени. Что будет дальше - предсказать не может никто. Дальнейшее развитие событий может привести к непредсказуемым последствиям.
Буду благодарен за ваши комментарии.
Если статья понравилась, поделитесь в соцсетях!
На канал можно подписаться ЗДЕСЬ.