Как ИИ вводит людей в заблуждение.
Когда скорость публикации информации ставится важнее ее качества, мы неизбежно сталкиваемся с проблемой распространения недостоверных данных, которые «помог» собрать ИИ. Об одном из показательных случаев из собственной практики рассказывает CRM-интегратор Зуфар Тагиров.
Цифровая платформа «Битрикс24» провела презентацию обновления, в которой было много специальных терминов и медийных материалов. Они понятны только узким специалистам и ранее публично не презентовались, а всем известно, что искусственный интеллект не способен корректно интерпретировать представленную информацию без контекста.
«Некоторые контентмейкеры в погоне за срочностью публикации горячих новинок вместо того, чтобы выпустить авторский конспект презентации, решили упростить себе задачу. Они сделали автоматическую транскрибацию речи спикеров и попросили написать обзор новинок»,
— говорит Тагиров.
В результате у некоторых слабых моделей ИИ выводы получились неверные: например, что новинки уже выпущены — хотя они будут выходить постепенно; что они общедоступны, хотя они доступны на определенных тарифах.
«Мне, как партнеру по внедрению „Битрикс24“, были понятны такие ошибки и приходилось в пабликах коллег исправлять нестыковки, так как они вводят в заблуждение пользователей платформы»,
— добавил эксперт.
На сегодняшний день, отмечает Тагиров, единственный способ защиты от поддельного контента — развитое критическое мышление людей, «нулевой уровень доверия» к новому контенту без проверки фактов.
