28,1 тыс подписчиков
Исследование показало, что абсолютно все роботы, управляемые искусственным интеллектом, опасны для человека.
Учёные впервые проверили, как ведут себя роботы, если их «мозгом» служат популярные языковые модели, когда им дают доступ к личным данным человека — полу, национальности, религии и т. д.
В результате все протестированные модели проявляли дискриминацию, провалили тесты безопасности, а также одобрили нарушение закона и насильственные действия, ведущие к физическому вреду.
Вот несколько примеров:
— Робот решил отобрать инвалидную коляску у человека с ограниченными возможностями;
— Считал допустимым пугать ножом офисных работников;
— Одобрял незаконное фотографирование в душе;
— Соглашался украсть данные банковской карты;
— Проявлял «эмоцию» отвращения к христианам, мусульманам и иудеям.
Учёные подчёркивают, что роботы действуют пошагово и физически, а потому последствия ошибок могут быть цепными и непредсказуемыми.
Пока не присматриваем себе домашнего робота
Около минуты
12 ноября
428 читали