ИИ-ЦУНАМИ: СТЭНФОРДСКИЙ ЭКСПЕРТ О БУДУЩЕМ ЧЕЛОВЕЧЕСТВА

ИИ-ЦУНАМИ: СТЭНФОРДСКИЙ ЭКСПЕРТ О БУДУЩЕМ ЧЕЛОВЕЧЕСТВА

Я подготовил обзор ключевых цитат из интервью с Ильей Грином – доктором наук Стэнфорда и одним из первых сотрудников многомиллиардного стартапа в США. Эксперт из Кремниевой долины рассказал о колоссальных изменениях, которые несет Искусственный Интеллект, и о том, что должно стать приоритетом для людей в новую эпоху.

1. Технологическое цунами, а не просто волна

По словам Ильи Грина, текущее развитие ИИ — это нечто беспрецедентное, что изменит саму ткань нашего существования:

> «то что сейчас происходит - это не новая технологическая волна это настоящее цунами которое полностью поменяет мир в котором мы живём».

ИИ уже превосходит нас в интеллектуальных задачах, и это только начало:

> «машина пишет тексты лучше чем нас делает рациональные исследования лучше нас».

> «сейчас уже в принципе машина делает исследование на уровне аспирантов и это потрясающе».

Эксперт подчеркивает, что впервые в истории Земли разум и сознание перестали быть уникально человеческим свойством. Влияние ИИ на наш мозг будет несопоставимо с тем, что делают социальные сети:

> «то что сейчас будет делать искусственный интеллект с нашим мозгом это просто несравнимо мощнее».

2. Человечность и Ценности как главный приоритет

В мире, где технологии будут развивать сами себя, человеку остается роль архитектора смыслов.

> «человек из архитектора процессов становится архитектором смыслов».

Мы должны стать источником целей и морального компаса для сверхмощных систем:

"Мы задаём ценности и смыслы из чувствования а машины уже реализовывают".

«Цели всё-таки задаёт человек к счастью к счастью пока ещё и хорошо бы да чтобы мы об этом не забывали".

Важным отличием от ИИ является тело, которое служит инструментом интуиции и познания:

«это огромный инструмент интуиции познания и ресурс которого у искусственного интеллекта нет".

3. Опасность гонки за Сверхразумом

Вся Кремниевая долина сейчас участвует в гонке «кто первый добежит до сверхразума» (Artificial Super Intelligence, ASI). Сверхразум определяется как машина, которая «умнее всех людей вместе взятых» и способна решать любые задачи лучше человека.

Главный риск ASI в его способности к радикальному самоулучшению:

> «мы на пороге технологии которая сама себя может радикально улучшать».

При этом существует две главные опасности:

1. Если сверхразум будет «недобрым по отношению к человечеству».

2. Если он просто не заметит человечество, как мы не замечаем исчезающих муравьев:

«если мы не будем приоритетом то просто ему в принципе будет всё равно мы есть или нет и в какой-то момент может нас просто вынести".

Несмотря на осознание рисков, гонка не останавливается из-за огромного давления инвесторов и конкуренции. Однако есть примеры компаний, созданных специально для обеспечения безопасности ИИ, например, Safe Super Intelligence Ильи Суцкевера.

4. Выбор: Создание или пассивное потребление

Илья Грин отмечает, что будущий мир сверхизобилия может разделить людей на две касты: тех, кто создает, и тех, кто только потребляет. В условиях, когда многие смогут жить на базовый доход, главная задача — сделать выбор:

> «вопрос: ты хочешь ничего не делать ты хочешь превращаться в овощ да или ты всё-таки хочешь себя как-то реализовать в этом мире".

Взаимодействие с ИИ, как ни парадоксально, может стать инструментом тренировки интуиции и самонаблюдения. Это дает нам возможность реализовать свой потенциал, используя технологии как "плечо".

> «наше будущее - это всё равно не выбор между технологиями или биологией... важно просто научиться вот эту вот связь использовать для того чтобы именно творчески создавать реализовывать свой человеческий потенциал при помощи этих технологий а не становиться их рабами".

Полное интервью по ссылке