В Оксфордском университете разработали очень продвинутую нейросеть, которая может отвечать на вопросы людей. Для того, чтобы она максимально "умной", в нее загрузили 63 миллиона статей из Википедии и 38 гигабайт материалов из социальной сети Reddit. После этого ученые решили побеседовать с созданным искусственным интеллектом.
Ученые спросили о том, может ли ИИ быть добрым или он может навредить. На это нейросеть ответила, что люди недостаточно умны, чтобы сделать ИИ этичным и соблюдающим нравственность. Так же система заметила, что лучший способ избежать проблем с искусственным интеллектом - не создавать искусственный интеллект.
Но тут есть один важный момент - ИИ также указал на то, что искусственный интеллект является инструментом, и то, какой он будет - зависит от тех, кто его создает. Да, я согласен с этим. Пока искусственный интеллект не способен принимать собственные решения хотя бы на уровне человека, он остается инструментом. Но эксперименты по созданию искусственного сознания и сильного ИИ (AGI) активно ведутся и скоро все может очень сильно измениться.
Может быть не зря Илон Маск так опасается появления враждебного ИИ?
