Глава Anthropic: на разработку надежной системы контроля ИИ уйдет 5-10 лет Генеральный директор Anthropic Дарио Амодей предупредил, что искусственный интеллект остается для человечества «черным ящиком» — мы не понимаем, как и почему ИИ принимает те или иные решения. Он сравнил общий ИИ с «сообществом гениев, заключённым в дата-центре», и заявил, что развертывать такие системы без глубокого понимания их внутренней логики — опасно. В перспективе Anthropic намерена выполнять своего рода «сканирование мозга» своих ИИ-моделей, чтобы находить слабые места — от склонности ко лжи до стремления к контролю. https://hightech.plus/2025/04/25/glava-anthropic-na-razrabotku-nadezhnoi-sistemi-kontrolya-ii-uidet-5-10-let
Глава Anthropic: на разработку надежной системы контроля ИИ уйдет 5-10 лет
Генеральный директор Anthropic Дарио Амодей предупредил, что искусственный интеллект остается для человечества «черным ящиком» — мы не понимаем, как и почему ИИ принимает те или иные решения. Он сравнил общий ИИ с «сообществом гениев, заключённым в дата-центре», и заявил, что развертывать такие системы без глубокого понимания их внутренней логики — опасно. В перспективе Anthropic намерена выполнять своего рода «сканирование мозга» своих ИИ-моделей, чтобы находить слабые места — от склонности ко лжи до стремления к контролю.
