Как мы помним, на текущий момент ИИ — это скорее программа, без самосознания. И сегодня ИИ скорее помогает людям, и не заменяет их. Но всё может изменится в один момент. Мы говорили о некоторых проблемах, которые предстоит решить человечеству в случае появления настоящего, полноценного искусственного интеллекта и сегодня добавим пару слов к предыдущей статье на эту тему.
Человечество стоит на пороге изменений, которые, подобно лавине могут погрести нас под непосильной ношей новых проблем. В том случае, если какие-либо действия относительно настоящего ИИ не будут приняты уже сейчас. Люди должны быть готовы: нужно обновить законы, переосмыслить этику и мораль. Предстоит ответить на ряд вопросов в трёх основных областях: юриспруденция, робоэтика и машинная мораль.
Например, интересны такие вопросы:
- В аварию попал беспилотный автомобиль. Кто виноват? Его владелец? Изготовитель? Программист?
- Может ли робот стать субъектом права? Должен ли?
- Кто отвечает за убийство, совершенное роботом?
И это только малая часть возникающих вопросов.
У ИИ должны появиться какие-то определенные рамки, границы. Будет и государственное регулирование. Но есть и другие вопросы, касающиеся этики.
- Должны ли у робота быть права, как у людей?
- Как скажется наличие роботов-гениев на самооценке человека?
- А что делать с личной жизнью? Могут ли роботы вмешиваться в жизни людей?
Известные футурологи, такие как Рэймонд Курцвейл, предсказывают, что компьютеры догонят эмоциональный интеллект людей: обзаведутся характером и эмоциями, смогут шутить и вести себя так, что их будет сложно отличить от обычного человека. Люди будут относиться к таким роботам как к себе подобным, и именно поэтому ответами на подобные вопросы стоит озаботиться уже сейчас.
Что же такое машинная мораль? Это раздел знаний о моральном поведении искусственного интеллекта:
- Какие этические нормы нужно установить для ИИ? И нужно ли?
- Можно ли дать возможность принимать решения роботам-военным: стрелять или не стрелять?
- Как должен действовать робот, если любой рассчитанный им исход приводит к гибели людей?
Интересные рассуждения о машинной морали есть у незабвенного Айзека Азимова. В научном сообществе о машинной морали задумались только в последнее время, а министерство обороны США выделило $ 7,5 млн на то, чтобы учёные определились, нужна ли роботам мораль, и если да, то какая.
Эти вопросы — всего лишь примеры, ведь, на самом деле, проблем возникает намного больше. Но готовиться надо начинать уже сейчас — тогда в будущем не придётся судорожно что-то придумывать — времени может и не хватить.
Пишем про посткризисный мир: бизнес и стратегия, возможности и идеи, экономическая футурология и контуры наступающего будущего. Мы уверены, что бояться не надо, надо перестраиваться, меняться, адаптироваться. Более оперативные штуки попадают в Telegram-канал @e_magic — подписывайтесь на него. Здесь место для более вдумчивых статей.