Обучение нейросетей: сложности и пути их разрешения
В последние годы тема фейков и недостоверных новостей приобрела крайне актуальное значение. Вбросы дезинформации в социальных сетях и мессенджерах происходят все чаще, что негативным образом влияет на общественное мнение, создаёт очаги социальной напряжённости.
При этом, люди все чаще используют ИИ для получения ответов на вопросы, подборку и интерпретацию новостей и т.п. В ответах ИИ зачастую также содержатся фейки и пересказ недостоверных событий и фактов. Дело в том, что ИИ при генерации ответов интерпретирует имеющиеся данные по запросу человека, и выдает ответ исходя из имеющихся сведений.
Не всегда полученные ответы соответствуют действительности, поскольку ИИ не может отделить реальность от вымысла и может вводить людей в заблуждение. Указанная проблема обсуждалась на ПМЭФ'2025, и экспертами предложены пути разрешения проблемы путем контроля за информацией, передаваемой для обработки ИИ.
Действительно, вопросам обучения нейросетей пока уделяется крайне мало внимания со стороны законодателя, ввиду запоздалого регулирования правоотношений в цифровой среде. Очевидно, что в ближайшие годы генерация новостей ИИ, их использование в этой сфере, будет усиливаться, что может стать инструментом для манипуляцией общественным мнением.
Поэтому уже сейчас государству стоит уделить пристальное внимание процессам обучения нейросетей, установить стандарты и/или перечень источников получения информации для обучения ИИ, чтобы новые технологии получали достоверные сведения и выдавали правдивые ответы на поставленные вопросы, а создатели ИИ не использовали нейросети для манипуляциий общественным мнением, распространения фейков и недостоверных сведений.
