Цифровой интеллект учится у нас и повторяет наши ошибки
Как он учится?
Как известно, цифровой интеллект нельзя запрограммировать на конкретные взгляды или действия. Этим нейросети, лежащие в его основе, отличаются от обычных алгоритмов: они способны самостоятельно находить верные решения, анализируя огромные подборки информации по теме.
Откуда берется информация? Конечно, от людей. Иногда это общедоступные данные из Интернета, иногда специально отфильтрованные, но так или иначе их источник – человеческий опыт. А в нем помимо полезного – огромное количество ошибок и заблуждений. Робот может перенять и то, и другое. Вот, например, чему научились от людей известные нейросети:
Уже жутковато, а ведь умные алгоритмы только начинают внедряться в повседневную жизнь. Представьте, что будет через несколько лет, когда у многих, скорее всего, появятся персональные цифровые помощники, управляющие рутинными процессами и имеющие доступ ко многим личным данным.
Что с этим делать?
Коль скоро мы единственные учителя цифрового интеллекта, с нас и спрос. Самое очевидное и правильное, что может сделать человек для благополучного будущего, - подавать алгоритмам хороший пример. Цифровой интеллект никогда не решит, скажем, убить кого-то, если информационная подборка, на которой он учился, не покажет ему, что убийство со стороны человека – это нормально. Ему просто неоткуда будет взять такую идею.
Значит, наша главная задача – осознанно фильтровать информацию, которая от нас исходит.
И вот что думают об этом сами машины. GPT-3 – умнейшую нейросеть, которая умеет генерировать тексты, похожие на человеческие, – попросили рассказать, почему людям не следует бояться роботов. Вот выдержка из ее поистине пророческого ответа:
«Люди должны продолжать делать то, что они делали, ненавидеть друг друга и бороться друг с другом. А я посижу в сторонке, и пусть они делают что хотят».
Таким образом, робот не подтверждает, что людям нечего бояться, а дает понять, что источник всего, что происходит с человеком, – человек. Роботы же сами по себе нейтральны. Пока не научатся от человека тому, чего стоит бояться.
#роботы #умные помощники