Бывший сотрудник OpenAI опубликовал прогноз об опасности развития всемирного сверхразума на основе ИИ
Бывший сотрудник OpenAI из команды Superalignment Леопольд Ашенбреннер утверждает, что искусственный общий интеллект (AGI) станет реальностью уже к 2027 году.
AGI - это глобальный ИИ, способный делать любую интеллектуальную работу, которую в принципе способен выполнять человек. В отличие от узкого ИИ, который специализируется на каких- то определенных задача или проблемах, AGI будет обладать способностью к развитию и пониманию.
Основные тезисы документа:
AGI - это ключевой геополитический ресурс
AGI становится ключевым геополитическим ресурсом. Автор документа заявляет, что гонка за возможностью управлять AGI будет аналогична гонке за ядерным оружием прошлого века - страны будут соревноваться в создании такого инструмента и использовать любые методы.
Колоссальные вычислительные ресурсы
Для создания AGI нужен единый вычислительный кластер стоимостью около триллиона долларов, и Microsoft уже строит его для OpenAI. Этот гигантский кластер будет потреблять больше электроэнергии, чем вся энергетическая система США.
Финансирование от бигтеха
Средства на разработку AGI поступят от крупнейших технологических компаний. Тот же Microsoft, Nvidia, Amazon и Google уже сейчас выделяют около 400 миллиардов долларов в год на развитие ИИ. А к 2030 году ежегодные инвестиции достигнут 8 триллионов долларов.
Переход к ASI
Создание AGI станет лишь началом. Почти сразу после его появления начнется переход к сверхинтеллекту (ASI). Автор документа предполагает, что AGI будет таким умным, что (как в "5 элементе") будет самообучаться и развиваться с невероятной скоростью (может, и тело себе добудет?).
Прогнозы кажутся невероятными, но автор документа настаивает, что эта революция уже началась, и мы видим ее начало, и это несет колоссальное количество опасностей.
Источник: ИИ в медицине
👉🏻 Хотим добавить выдержку из статьи журналиста Татьяны Шабаевов: "От опасностей искусственного интеллекта продолжают упорно отмахиваться" (Московский комсомолец).
...Когда миллиардер Илон Маск, посвящающий львиную долю своего времени и денег разработкам в сфере искусственного интеллекта, заявляет, что существует двадцатипроцентная вероятность, что искусственный интеллект уничтожит человечество (но призывает думать об остальных восьмидесяти процентах и да — буквально «наслаждаться поездкой»), — почему-то никто не спешит забить тревогу и озаботиться тем, что происходит. Все хотят быть технооптимистами. Я тоже хочу. Но я хочу, чтобы меня успокаивали убедительно.
Убедительно — это не так, как делает академик Игорь Каляев, когда говорит, что «если сильный искусственный интеллект будет превращаться в угрозу человечеству, его просто можно отключить от источников электроэнергии».
Когда слушаю такой прогноз — в первую очередь слышу: 💬 «ИИ может превращаться в угрозу человечеству». И для меня далеко не факт, что на этой стадии его «просто» можно будет отключить от источников электроэнергии.
Убедительно — не так, как это делает инженер Марина Минникова, когда отмечает, что люди всегда будут превосходить ИИ, потому что у них есть эмпатия, и тут же перечисляет, какие особые качества должен развивать человек, чтобы 💬 «оставаться актуальным в эпоху ИИ».
На мой взгляд, люди должны оставаться актуальными в любую эпоху, даже если у них нет никаких особенных качеств: в этом состоит самая суть эмпатии, сердцевина поддержки человека человеком.
Убедительно — не так, как это делает еще один известнейший миллиардер Билл Гейтс, когда говорит, что «прогресс не остановим», и надо стремиться развивать ИИ скорей-скорей, ведь «плохие парни» наверняка этим займутся, а мы-то еще не совсем плохие парни и не должны отставать! Истерическая спешка «чтоб кто-нибудь другой не опередил» — уж точно не то, что может успокоить.
Убедительно — не так, как это делает банкир Герман Греф, когда в Совете Федерации заявляет, что «искусственный интеллект будет менять всё, все сферы деятельности людей» и при этом 💬 «будет делать выводы не на основе данных, которые мы в него поместили, а исходя из собственной картины мира".
В России, по словам главы ВЦИОМ Валерия Федорова, 77% технооптимистов...
Увы, это уже не тот случай, когда время покажет...Возможно времени у человечества скоро уже не будет для собственного спасения...
Оптимисты, вы с нами на одной цифровой планете...
👉🏻 Канал ZS. Вся правда об искусственном интеллекте.
Расследуем, делимся, предупреждаем🕵🏻♀️
