У нейросетей нет навыка целеполагания. Они могут наносить ущерб только следуя запросам человека. Об этом в эфире радиостанции «Говорит Москва» рассказал профессор кафедры инфокогнитивных технологий, руководитель лаборатории ИИ Московского Политеха Андрей Филиппович. «Я хочу заверить всех, что в настоящее время целеполагание у искусственного интеллекта отсутствует. И многие говорят, какая вот цель должна быть у искусственного интеллекта, чтобы он нанёс нам вред. Все говорят: вот он там чего-то хочет. Но нельзя такой вопрос придумать на самом деле, который, собственно, может породить какое-то действие. Он может случайно детектировать вражеское какое-то движение, и его, соответственно, повредить. Может случайно отключить какие-то алгоритмы, сработать неправильно. То есть вред нанести техногенный он может в силу того, что он подключён к техногенной системе. Поэтому если нет цели уничтожить, повредить, то она и не будет работать. А вот может ли её заложить, запрограммировать какой-то злой ч
У нейросетей нет навыка целеполагания.
Они могут наносить ущерб только следуя запросам человека. Об этом в эфире радиостанции «Говорит Москва» рассказал профессор кафедры инфокогнитивных технологий, руководитель лаборатории ИИ Московского Политеха Андрей Филиппович.
«Я хочу заверить всех, что в настоящее время целеполагание у искусственного интеллекта отсутствует. И многие говорят, какая вот цель должна быть у искусственного интеллекта, чтобы он нанёс нам вред. Все говорят: вот он там чего-то хочет. Но нельзя такой вопрос придумать на самом деле, который, собственно, может породить какое-то действие. Он может случайно детектировать вражеское какое-то движение, и его, соответственно, повредить. Может случайно отключить какие-то алгоритмы, сработать неправильно. То есть вред нанести техногенный он может в силу того, что он подключён к техногенной системе. Поэтому если нет цели уничтожить, повредить, то она и не будет работать. А вот может ли её заложить, запрограммировать какой-то злой человек, недобрый, да, легко может».
Ранее врач предложил медикам использовать ИИ в качестве «ассистента». Нейросети внедряются в систему здравоохранения повсеместно.
https://govoritmoskva.ru/news/467584/
Больше новостей читайте в нашем Telegram-канале.