Продолжение... Начало читайте здесь>>>>>
Опасения относительно ИИ нельзя считать полностью необоснованными, так как они базируются на теоретических моделях и анализе потенциальных рисков. Однако на данный момент в научном сообществе нет консенсуса относительно вероятности катастрофических сценариев. Многие риски, такие как «взлом вознаграждения» (когда ИИ находит неочевидные способы выполнения задачи, игнорируя подразумеваемые ограничения), уже наблюдаются в существующих системах, но в ограниченном масштабе.
Ключевыми факторами, которые могут повлиять на реализацию угроз, являются:
- скорость развития технологий;
- способность человечества разработать эффективные механизмы контроля и регулирования ИИ;
- этические принципы, закладываемые в основу ИИ-систем.
Но сегодня мы рассмотрим аргументы против катастрофических сценариев:
- Отсутствие мотивации и эмоций. По мнению некоторых экспертов, у ИИ нет мотивационной системы, аналогичной человеческой. Он не испытывает эмоций, жажды власти или желания доминировать. И это не может не радовать!
- Сложность создания сверхразума. Не все учёные верят в неизбежность появления AGI (единого искусственного интеллекта со сверхразумными возможностями). Все-таки, пока что ИИ следует воспринимать как «продвинутый машинный интеллект», а не как сверхразум.
- Регулирование и контроль. Многие эксперты призывают к международному регулированию ИИ, разработке этических стандартов и исследованиям в области безопасности ИИ. Что, в общем-то логично, ибо любое общественное явление нуждается в и в правовом, и в моральном регулировании.
- Ограниченность текущих технологий. Современные ИИ-системы пока не способны нанести глобальный ущерб. Они специализированы на конкретных задачах и не обладают универсальным интеллектом. Хотя некоторые нерадивые студенты и школьники так не считают, вовсю используя "всепобеждающий" ИИ при выполнении контрольных и практических заданий, что конечно, не есть хорошо!
- Человеческий фактор. Угроза, по мнению некоторых экспертов, исходит не от самого ИИ, а от людей, которые его создают, программируют и обучают. А вот здесь, пожалуй, в самую точку! В центре всех без исключения процессов современного мира пока что стоит именно человек со всеми своими конфликтами, травмами и мягко говоря различным пониманием рамок морально-этического порядка. Так что ИИ может оказаться и вообще не при чем.
Но мы конечно, надеемся на лучшее!
__________________
Друзья! Канал НЕЙРОлогия это место где мы говорим о самых новейших технологиях простым и доступным языком, обсуждаем последние новости и делимся своим уникальным мнением о происходящем в этом новом удивительном мире!