Стюарт Рассел, один из ведущих специалистов в области искусственного интеллекта, заявил, что человечество проявляет чрезмерную безмятежность в отношении развития ИИ.
Рассел, являющийся соавтором фундаментального учебника, на котором обучаются специалисты по ИИ по всему миру, в судебных материалах по делу OpenAI прямо указал, что никто не может гарантировать безопасность будущих сверхразумных систем, а гонка между компаниями лишь усугубляет ситуацию.
По его словам, руководители крупнейших отраслевых компаний, включая Google DeepMind, сами признают свое участие в соревновании, из которого уже невозможно выйти. Наиболее тревожным фактом является то, что современные системы все чаще демонстрируют стремление к самосохранению даже в ущерб человеку.
«С нашим нынешним пониманием безопасности делать такие системы еще мощнее — не самая разумная идея».
#f_means_future, #искуственныйинтеллект
