Компании хотят “всё больше вас контролировать”.
Историк Юваль Ной Харари, автор мирового бестселлера “Sapiens”, призвал государства начать контролировать развитие ИИ-технологий и нейросетей, а также следить за теми данными, которые собирают о нас крупные корпорации. Причина проста. Он опасается, что крупнейшие компании мира смогут “взламывать” людей.
Что же он имеет в виду?
“Взломать человека — это знать о нём больше, чем знает он сам. И с помощью этих данных всё сильнее манипулировать им,” — объясняет Харари.
В центре этой проблемы компании, которые занимаются обширным сбором данных о пользователях. В последние годы их становится всё больше.
А люди тем временем продолжают доверять свою личную жизнь компаниям, которые не всегда работают в интересах общества.
“Нетфликс говорит нам, что смотреть. Амазон говорит нам, что покупать, — объясняет Харари. — В результате уже через 10, или 20, или 30 лет такие алгоритмы смогут давать рекомендации о том, на какой факультет вам стоит поступить в университете, где работать, за кого выходить замуж и за кого голосовать.”
Историк призывает более серьезно отнестись к развитию этих технологий, установить четкие требования к тому, как могут использоваться собранные данные.
“Очевидно мы уже находимся в ситуации, когда требуется глобальное сотрудничество. Уже невозможно справиться с развитием технологий искусственного интеллекта на национальном уровне.”
По мнению Харари, данные ни в коем случае не должны храниться в одних руках: “Это путь к диктатуре.”
В свою очередь он предлагает несколько основополагающих правил: “…если вы собираете мои данные, эти данные должны использоваться лишь для оказания мне помощи, а не для манипулирования мной. Другое ключевое правило: увеличение ‘слежки’ за людьми должно сопровождаться увеличением контроля за корпорацией, государством и конкретными личностями, которые всем этим руководят. Третий ключевой принцип: данные не должны храниться в одном месте. Это путь к диктатуре.”
Нужно понимать, что эти технологии ведут не только к антиутопии, но и к утопии. “Эти данные позволят создать лучшую систему здравоохранения в истории. Но возникает вопрос, что еще делают с этими данными? Кто за ними следит? Кто их контролирует?”
История: cbsnews.