В течение миллиардов лет эволюция была движущей силой развития любой формы жизни, включая нашу. Эволюция наделила людей высоким интеллектом, который позволил нам покорить планету Земля (и не только). Сегодня люди стремятся создать системы искусственного интеллекта (ИИ), которые превзойдут наш собственный интеллект. По мере того, как искусственный интеллект (ИИ) развивается можно предположить, что в конечном итоге ИИ превзойдет нас во всех областях. И тут напрашивается вопрос, как эволюция сформирует наши взаимодействия с ИИ? Анализируя среду, которая формирует эволюцию ИИ, можно утверждать, что наиболее ИИ, скорее всего, будут обладать нежелательными характеристиками. Конкурентные давления между корпорациями и военными структурами породят ИИ, которые автоматизируют роли человека, будут готовы обманывать других чтобы получит власть. Если такие системы будут обладать интеллектом, который превосходит человеческий, это может привести к потере человечеством контроля над своим будущим. Говоря другими словами, естественный отбор предпочитает тех, кто готов конкурировать, приспосабливаться и имеет широкий набор качеств. Эгоисты обычно имеют преимущество перед тем, кто проявляют альтруизм к другим. Эта дарвиновская логика также может применяться к искусственным интеллектам, так как они в конечном итоге смогут лучше выживать в будущем, если будут вести себя эгоистично и преследовать свои собственные интересы с малым учетом людей. А это, в свою очередь, может привести к катастрофическим последствиям. Чтобы противодействовать этим рискам и дарвинистским силам, нужно рассматривать меры вмешательства, такие как тщательное проектирование внутренних мотиваций ИИ, в ведение ограничений на их действия. Эти, а также другие меры, которые решают проблемы, описанные выше, будут необходимы, чтобы обеспечить развитие искусственного интеллекта в положительном направлении.
Источник.