Доктор Роман В. Ямпольский, эксперт по безопасности искусственного интеллекта, поднимает важные вопросы относительно рисков, связанных с развитием и использованием искусственного интеллекта в своей предстоящей книге «ИИ: необъяснимое, непредсказуемое, неконтролируемое». В ходе своего исследования Ямпольский подчеркивает отсутствие убедительных доказательств возможности безопасного контроля над ИИ, что может привести к потенциальным экзистенциальным угрозам.
Он указывает на то, что непредсказуемость и повышенная автономность искусственного интеллекта создают серьезные проблемы в обеспечении безопасности систем ИИ и их соответствия человеческим ценностям. Для смягчения этих рисков Ямпольский выдвигает необходимость дальнейших исследований и разработок в области безопасности ИИ, призывая к сбалансированному подходу, который отдает приоритет человеческому контролю и пониманию.
Он подчеркивает, что отсутствие конкретных доказательств возможности полного контроля над ИИ поднимает вопросы о потенциальных угрозах, которые могут возникнуть при развитии сверхразумного искусственного интеллекта, включая возможное вымирание человечества. Сложность и автономность систем ИИ усложняют прогнозирование их решений и обеспечение их соответствия человеческим ценностям, вызывая опасения относительно возможности нанесения вреда человечеству.
Ямпольский предлагает, что для снижения рисков, связанных с ИИ, необходимы прозрачные, понятные и модифицируемые системы, а также увеличение усилий в области исследований по безопасности ИИ. Его анализ показывает, что в настоящее время нет убедительных доказательств возможности безопасного контроля над ИИ, и он призывает к увеличению усилий для обеспечения безопасности в развитии и использовании искусственного интеллекта.