Добавить в корзинуПозвонить
Найти в Дзене
Антон Горелкин

Нейросетям подкрутят предвзятость

Пользователей популярных языковых моделей снова пугают «российской пропагандой». В иностранных медиа активно форсится история о том, что чат-боты с искусственным интеллектом распространяют информацию, размещенную на подконтрольных РФ сайтах. Что-то похожее уже было прошлой осенью, когда один британский институт обвинил владельцев нейросетей в том, что 20% ответов о спецоперации на Донбассе базируются на российских источниках. Теперь же в ход пошла артиллерия потяжелее – американская компания NewsGuard, специализирующаяся на борьбе с фейками и дезинформацией (но сидящая на подсосе у дипстейта так же плотно, как и прочие «исследователи»). Вывод, к которому приходит NewsGuard, однозначный: владельцы нейросетей не должны допускать использования пророссийского контента в их ответах. Такая резолюция была направлена в Институт безопасности искусственного интеллекта США, в Еврокомиссию и, собственно, в офисы крупных технологических компаний. Google уже отрапортовал, что внимательно всё изучил

Пользователей популярных языковых моделей снова пугают «российской пропагандой». В иностранных медиа активно форсится история о том, что чат-боты с искусственным интеллектом распространяют информацию, размещенную на подконтрольных РФ сайтах.

Что-то похожее уже было прошлой осенью, когда один британский институт обвинил владельцев нейросетей в том, что 20% ответов о спецоперации на Донбассе базируются на российских источниках. Теперь же в ход пошла артиллерия потяжелее – американская компания NewsGuard, специализирующаяся на борьбе с фейками и дезинформацией (но сидящая на подсосе у дипстейта так же плотно, как и прочие «исследователи»).

Вывод, к которому приходит NewsGuard, однозначный: владельцы нейросетей не должны допускать использования пророссийского контента в их ответах. Такая резолюция была направлена в Институт безопасности искусственного интеллекта США, в Еврокомиссию и, собственно, в офисы крупных технологических компаний. Google уже отрапортовал, что внимательно всё изучил и принял меры.

Поэтому не должно быть никаких иллюзий об «объективном и непредвзятом» искусственном интеллекте. В логике информационного противостояния нейросети – это лишь еще один медиаканал, который нужно жестко контролировать. И я не удивлюсь, если уже совсем скоро западным чат-ботам законодательно запретят использовать любые российские источники. Не зря же эта тема всплывает в новостной повестке с такой частотой.