Новый чат-бот BlenderBot 3 AI, который был выпущен в США всего несколько дней назад, в пятницу, 5 августа, уже сделал множество ложных заявлений, основанных на взаимодействии с реальными людьми в сети.
Среди наиболее провокационных из них — утверждения о том, что Дональд Трамп победил на президентских выборах 2020 года и в настоящее время является президентом США, антисемитские теории заговора, а также комментарии, в которых Facebook* виновна во всем, в чем её подозревают. И это несмотря на то, что бот принадлежит данной компании.
В отличие от прошлых версий чатбота, BlenderBot 3 может искать информацию в Интернете и разговаривать с людьми практически обо всем. Он может делать это, опираясь на способности предыдущих версий BlenderBot, такие как индивидуальность, эмпатия, знания и способность иметь долговременную память на разговоры, которые он вел.
Это не первый случай, когда чатбот попадает в горячую воду. В в 2016 году чат-бот компании Microsoft под названием Tay был отключен от сети в течение 48 часов после того, как начал восхвалять Адольфа Гитлера. Неудивительно, ведь здесь срабатывает закон Годвина — «По мере разрастания дискуссии в Usenet вероятность сравнения, упоминающего нацизм или Гитлера, стремится к единице.»
Похоже, закон распространяется далеко не только на людей.
В будущем мы можем увидеть ограничение работы пользователей с ещё не до конца обученными нейросетями для предотвращения подобных конфузов.
Оригинал статьи тут
Спасибо, что прочитали!
Впереди ещё больше подборок инструментов, новостей, трендов из мира IT и историй. Подписка стоит того 🖤