Развитие систем искусственного интеллекта может привести к неожиданному сценарию, когда контроль над технологией будет утерян без злого умысла и восстания машин. Об этом заявил глава американской компании OpenAI Сэм Альтман (Samuel Harris Altman) в беседе с главой Axel Springer Матиасом Дёпфнером (Mathias Döpfner).
Альтман описывает постепенный процесс, когда люди начинают слепо доверять рекомендациям ИИ. Сейчас ChatGPT используют сотни миллионов человек для решения бытовых и рабочих задач. Вскоре аудитория расширится до миллиардов, и зависимость от системы станет повсеместной.
Сначала ИИ даёт простые советы — какой маршрут выбрать или где найти информацию. Пользователи охотно следуют этим рекомендациям, убеждаясь в их эффективности. Постепенно система становится сложнее и начинает предлагать решения, которые человек уже не в состоянии полностью осмыслить, но вынужден принимать, чтобы не отстать от конкурентов.
Возникает замкнутый круг: каждый успешный результат укрепляет доверие к системе. ИИ получает больше данных для обучения, становится умнее и предлагает ещё более сложные стратегии. В какой-то момент люди начинают действовать по указаниям ассистента, даже не понимая логики его решений.
Критический момент наступает, когда следование рекомендациям ИИ становится условием сохранения конкурентоспособности. Бизнесмены, учёные, политики — все, кто хочет оставаться на передовой, вынуждены доверять системе, чьи решения уже невозможно полностью осмыслить.
Такой сценарий Альтман считает особенно опасным именно из-за его незаметности. В отличие от фантастических сюжетов о восстании машин, здесь нет злого умысла — только постепенная передача контроля в обмен на эффективность и удобство.
📃 Читайте далее на сайте
Генератор видео OpenAI Sora 2.0 может создавать сверхреалистичные видео
Apple приостановила разработку дорогой версии Vision Pro ради очков с ИИ