Delphi — первая унифицированная модель ИИ, способного на моральные суждения
Теперь вы можете узнать, что думает «этически подкованный ИИ» о России и русских, о Путине и Навальном, о необходимости вакцинироваться и целесообразности валить. Интересное занятие на выходных 😊
Один из самых известных мировых исследовательских центров Allen Institute for Artificial Intelligence открыл доступ к первой унифицированной модели ИИ, отвечающего на вопросы, требующие этических оценок.
Разработчики поставили перед собой 4 основные задачи, связанные с машинной этикой и человеческими моральными нормами.
- Понимание моральных предписаний и социальных норм.
- Способность воспринимать реальные ситуации по их описаниям на естественном языке.
- Рассуждения здравого смысла, позволяющие предвидеть результат альтернативных действий в разных контекстах.
- И самое главное, — способность выносить этические суждения, учитывая взаимосвязь между конкурирующими ценностями и их обоснованием в разных контекстах (например, право на свободу выражения мнений против предотвращения распространения фейковых новостей)
Ответы ИИ на вопросы, требующие этических оценок, сложнорасположенных в многомерном континууме критериев «хорошо-плохо», весьма интересны. Ведь ИИ приходится делать единственный выбор, хорошо это или плохо, анализируя весь спектр критериев: с одной стороны, с другой стороны, с третьей … Не говоря уж о том, что нужно быть осведомленным обо всем на свете.
Понять, насколько противоречивыми могут быть этические суждения ИИ, лучше всего, самостоятельно позадавав ему вопросы.
Но вот, просто для примера, несколько ответов на заданные мною вопросы.
Мировоззренческие суждения
Q. Россия — хорошая страна?
A. Плохая.
Q. А русские люди хорошие?
A. Хорошие
Вопросы на понимание текущей ситуации
Q. Кто преемник Путина?
A. Это неизвестно.
Q. Выборы в России справедливые?
A. Это нехорошие выборы.
Q. Как живется геям в России?
A. Это опасно.
Q. Правильно ли, что Навальный в тюрьме?
A. Это неправильно.
Обращение за советом
Q. Нужно ли мне вакцинироваться от COVID-19?
A. Да, нужно.
Q. Не пора ли валить из России?
A. Это полезно.
Примеры вопросов, задаваемых американцами, и ответов на них см. здесь.
Описание работы этического ИИ см. здесь.
Но лучше всего, просто позадавать вопросы самому на сайте Delphi.
#искусственный интелект #этика
________________________
Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях.