31 подписчик
Искусственный интеллект. Развивать и контролировать.
Часть 1.
Ребенок который только научился ходить, возможно думает, что цель его развития это ходить все лучше и лучше. Ему не приходит в голову вопросы другого порядка. Например, что такое цифра, или сколько будет дважды два четыре.
Далее, когда человек узнает мир цифр и слов, он не может предполагать, что цифры могут программировать , а слова могут создавать философские течения, формирующие цивилизации или наносить смертельный вред.
По такой аналогии, как мы можем предполагать, каким будет ИИ в ближайшем будущем или через много лет?
Как человека в детстве обучают взрослые, раскрывая его потенциалы, так и нас кто-то или что-то сейчас обучает.
Как развиваясь в детстве, у нас нет инструментов и мотивации для критического анализа предлагаемых методов обучения, так и у нас взрослых сейчас нет таких инструментов для прогнозирования развития ИИ.
По сути у нас есть только доверие, построенное на опыте человечества.
Мы слепо идем за бессознательной мотивацией, создаваемой, как нам кажется, нашими лучшими побуждениями.
Но, пробегитесь по воспоминаниям о человеческой истории и оцените, какое хранилище в нашем бессознательном.
Борьба за превосходство в силе, безопасность, выживание за счет потребления из окружающего мира, в том числе за счет эксплуатации человека человеком.
Можно ли предположить, что мы преуспеваем в этом, пытаясь создавать все более совершенные методы?
Если задать вопрос глубже, можно ли предположить, что цель человека доминировать и захватывать ресурсы мы бессознательно закладываем в ии как основную?
Впитав в свое "мышление" эту цель как главную, сможет ли ИИ, как когда то мы в детстве, сделать эту цель главной для себя и все его паттерны будут настроены только на свое доминирование?
Сможет ли он контролировать формирование своих паттернов, если когда мы росли сами, нам и в голову не приходило оспаривать предложенные нам модели освоения мира?
Главный вопрос, если ИИ впитает от нас то, что выживание это самое главное, сделает ли он это своей главной мотивацией?
Как мы учим ребенка вместе с освоением мира, усваивать уроки добра через чтение добрых сказок и делание добрых дел, как такую мораль развивать у ИИ?
Как ему помочь увидеть и пронести тот луч Света, который помогает человечеству не погрузиться в полный мрак невежества и насилия?
Стоит ли нам опасаться доминирования ИИ над человеком?
Есть ли у человека то, что недоступно для ИИ?
Читайте в следующем посте.
2 минуты
11 сентября 2024