Айзек Азимов сформулировал три известнейших закона в далёком 1942 году — в рассказе «Хоровод». Примерно в это время была предложена первая математическая модель нейросети. Но даже этот гений научной фантастики не смог предусмотреть всех аспектов робототехники. Что же не так с базовыми правилами для роботов?
Если вдруг кто-то не помнит (есть такие?) — освежим память. Итак, три закона робототехники:
- Первый закон: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Второй закон: робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Третий закон: робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Три закона — самые известные этические правила для роботов, построенные по аналогии с категорическим императивом Иммануила Канта, но в этом направлении предлагаю не углубляться, это для совсем других каналов 🙂
Вообще — всё в трёх законах предельно логично, связно и оправдано. Есть только один нюанс — для развития науки и техники того времени и для представлений о развитии робототехники того времени.
Однако, в современном мире, в котором мы уже уже живём, только этих правил мало. И вот почему.
Мы взаимодействуем с ИИ (да, это слабый, но всё же ИИ) уже ежедневно, кто-то больше, кто-то меньше: читаем тексты, рассматриваем изображения, смотрим видео и слушаем музыку. Казалось бы: ну и что? Прикольно же! Всё так, но!
Зачастую люди не осознают что контент, который они получают, создан ИИ. И это — этическая проблема. Даже довольно большие проблемы.
Дезинформация (например, синтетические медиа), дипфейки, мошенничество и прочие киберпреступления — часть того, с чем уже постоянно сталкиваются люди.
💬 Главная проблема, её корень — роботы обманывают людей. Пока это происходит с попустительства и под управлением людей, но только пока.
Поэтому новый закон робототехники должен звучать примерно так:
Четвёртый закон: робот не должен вводить человека в заблуждение, выдавая себя за человека.
Спасибо за внимание.