- Джеффри Хинтон покинул Google в 2023 году, предостерегая о рисках ИИ.
- Он ожидает, что ИИ обойдет человеческий интеллект в течение 5-20 лет.
- У Хинтона есть опасения, что ИИ может взять ситуацию под контроль и будет сложно контролировать.
- ИИ обладает способностью учиться и копировать себя.
- Военное использование ИИ вызывает беспокойство, правительства не хотят ограничивать оборонные разработки.
- Хинтон предлагает международные соглашения для ограничения использования ИИ.
- Автоматизация приведет к потере рабочих мест и увеличению социального разрыва.
- Физические профессии, такие как сантехники, останутся востребованными.
- Вопрос контроля и подготовки общества к изменениям стоит остро.
«Крёстный отец ИИ» об ИИ, «превосходящем человеческий интеллект», и его «попытке захватить власть»
Джеффри Хинтон, заслуженный «Крёстный отец ИИ» и лауреат Нобелевской премии по физике в 2024 году, покинул Google в 2023 году, предупреждая о возможной опасности машин, способных обойти человеческий интеллект. В мае 2024 года в интервью для программы Newsnight профессор озвучил свои опасения.
ИИ: Дело времени?
Практически все эксперты в области искусственного интеллекта убеждены, что ИИ обойдет человеческий интеллект. Это лишь вопрос времени: от пяти до двадцати лет. И этот потенциал уже настораживает: неужели машины однажды решат взять ситуацию под контроль?
Хинтон предупреждает, что мир начнет воспринимать всерьёз угрозу существованию от устройств, которые станут умнее нас. Когда-то это казалось фантастикой, но теперь это реальность, которая волнует многих.
Умение понимать и обучаться.
Разработка больших языковых моделей часто происходила как попытка объяснить, как мозг понимает язык. Хотя мы до сих пор не знаем деталей, скорее всего, они работают аналогично человеческому мозгу. Хинтон подчеркивает, что у данных моделей накоплено невероятное количество знаний, однако они становятся отличными экспертами во многих областях.
Углубление проблемы.
Одним из основных настораживающих моментов является способность ИИ копировать себя и обучаться в местах с различной информацией, что делает эти технологии более мощными, чем любой индивидуум.
Искусственный интеллект может привести к ситуации, когда его станет сложно контролировать. Ученые спорят о том, будет ли возможно установить контроль над такими машинами, и осторожность здесь определенно не помешает.
Военное использование технологий.
Когда речь заходит о законодательстве, ограничивающем использование ИИ, особенно в военной сфере, государства не готовы ограничивать собственные оборонные разработки. Примеры использования ИИ в военных конфликтах уже есть, что вызывает беспокойство.
Хинтон настаивает, что стоит рассмотреть возможности международных соглашений, как это было с химическим оружием, но потребуется время, чтобы внедрить такие ограничения.
Социальные последствия.
Автоматизация и массовая потеря рабочих мест могут серьезно повлиять на социальные структуры. Это может увеличить разрыв между богатыми и бедными. Универсальный базовый доход, возможно, частично решит проблему, но не решит вопрос самоуважения, связанного с работой.
Перспективы занятости.
Некоторые профессии, такие как сантехники, скорее всего, останутся востребованными, поскольку манипуляции с физическими объектами пока не поддаются автоматизации через ИИ. Однако для интеллектуальных профессий ситуация остается неопределенной.
Заключение.
Мир, где ИИ может превзойти человеческий интеллект, уже не за горами. Перспективы пугающие, но в то же время полны возможностей для роста и прогресса. Важно приложить усилия, чтобы узнать, сможем ли мы контролировать это развитие технологий, и подготовить общество к возможным изменениям.