16,7 тыс подписчиков
📃 Microsoft представила сервис модерации контента на основе AI
Компания Microsoft запустила новый сервис Azure AI Content Safety, который должен помогать создавать безопасные и комфортные онлайн-сообщества. Сервис использует искусственный интеллект для обнаружения и блокировки неприемлемого контента на изображениях и в текстах. Звучит замечательно, правда?
Но есть один нюанс. Этот сервис уже показал свою несостоятельность в прошлом. Чат-бот в Bing, который работал на основе этой технологии, выдавал ложную информацию о вакцинах от COVID-19 и писал оскорбительные тексты от лица Адольфа Гитлера. Кроме того, Microsoft уволила команду по этике и обществу в своем AI-подразделении. Это оставило компанию без специализированной команды, которая бы следила за тем, чтобы принципы AI были тесно связаны с дизайном продуктов.
Так что вопрос остается открытым: насколько эффективен и справедлив этот сервис? Сможет ли он учитывать контекст, культуру и язык? Не станет ли он источником новых проблем и конфликтов? И не лучше ли было бы использовать человеческий интеллект вместо искусственного?
#microsoft #azure #ai #content #safety #moderation #toxicity #security
www.securitylab.ru
Около минуты
24 мая 2023
351 читали