Сингулярность ИИ

(Научно-аналитическая статья) Автор термина «технологическая сингулярность» — Вернор Виндж, американский математик, программист и писатель-фантаст. Он определяет сингулярность моментом, когда ИИ сможет развиваться без участия человека со скоростью, исключающей осмысление происходящего. Это «точка, после которой дальнейшие события непредсказуемы для человеческого разума». Наступление сингулярности по определению исключает контроль. Если ИИ под контролем, значит, сингулярность еще не наступила. Значит, ИИ не автономный агент, а продвинутый инструмент...

«Можно представить, как такая технология перехитрит финансовые рынки, переизобретет исследователей-людей, переманит лидеров-людей и разработает оружие, которое мы даже не можем понять. В то время как краткосрочное воздействие ИИ зависит от того, кто его контролирует, долгосрочное воздействие зависит от  того, можно ли его вообще контролировать ». «Я думаю, мы должны быть очень осторожны с искусственным интеллектом. Если бы я мог предположить, что представляет для нас наибольшую экзистенциальную угрозу, то, вероятно, это она...