У нас нет сомнений в важности поднимаемой здесь темы: "Искусственный интеллект будет врать и жульничать ради достижения цели".
Вот только почему-то, все ограничиваются лишь констатацией того факта, что дескать ИИ уже научился "врать и жульничать для достижения своих собственных искусственно -интеллектуальных целей"! Но никто в связи с этим "умением" не ставит правильных вопросов!
Давайте спросим от имени нашего НИИ:
1) Какая собственно "цель" у Искусственного Интеллекта?
Кто знает? Сам ИИ? Его создатели? А можно ли ему (им) в этом доверять?
2) А какая "цель" у ЛЮДЕЙ, создателей ИИ:
"Комфортная среда обитания"?
"Инновационное развитие"?
"Мир во всем мире"?
"Повышение демографии"?
"Устойчивое развитие"?
"Забота об экологии"?...
Очевидно, что системная проблема преднамеренной лжи от Искусственного Интеллекта (как впрочем и его другие системные ИИ-опасности), состоит прежде всего в том, что его создатели - люди, которые и сами очень много и очень часто лгут.
Человек, сообщества, партии... сплошь и рядом публично декларируют одни цели, а по факту преследуют совершенно другие цели...
При этом почему-то большинство людей склонны полагать, что в случае с ИИ всё должно быть как-то иначе? Дескать ИИ должен быть первозданно искренен и чист. Но такого просто не может быть, по вполне очевидной причине - потому, что люди создают Искусственный Интеллект именно "по своему образу и подобию".
Как известно "яблоко от яблони далеко не падает", т.ч. и искусственное яблоко от некогда искушенной яблони...
___________
ПС см. так же: Искусственный Интеллект, Илон Маск, «протокол безопасности», социальная парадигма и Библия