🖥 Позволить ИИ развиваться самостоятельно может стать одним из самых значимых решений для индустрии и общества в ближайшие годы, считает сооснователь Anthropic Джаред Каплан.
Рекурсивное обучение, при котором одна ИИ-система будет создавать своего «преемника», может сделать прогресс неконтролируемым.
«Главный вопрос заключается в том, принесут ли ИИ-системы пользу человечеству? Помогут ли они, будут ли безопасными? Понимают ли они людей? Позволят ли они людям продолжать управлять своей жизнью и миром?» — размышляет он в интервью The Guardian.
Кроме того, по мнению Каплана, попадание мощного ИИ «в неправильные руки» может привести к злоупотреблениям и даже узурпации власти. Тем не менее, в Anthropic настроены оптимистично относительно прогресса.
«Возможно, лучший ИИ — это тот, что у нас есть сейчас. Но мы действительно так не считаем. Мы уверены, что он будет совершенствоваться», — утверждает Каплан.
Как вы думаете, опасно ли продолжать развивать ИИ?
❤️ — Нет, глупо бояться прогресса
🔥 — Да, технологии могут нас погубить
#ИИ #Anthropic #ДжаредКаплан #технологии #развитие #рекурсивноеобучение #безопасность #прогресс #интервью #общество
