Команда исследователей из МИСиС и МФТИ с коллегами разработала новый метод, который значительно повышает надежность нейронных сетей, обучая их эффективно распознавать объекты и ситуации, с которыми они не сталкивались в процессе обучения. Предложенный подход, названный Identity Curvature Laplace Approximation (ICLA), позволяет искусственному интеллекту более точно оценивать собственную неуверенность, что является критически важным шагом для создания безопасных систем в таких областях, как беспилотный транспорт, медицинская диагностика и финансовый мониторинг...

Современные нейросети уверенно справляются с распознаванием изображений, анализом текстов и прогнозированием событий. Однако их чрезмерная самоуверенность может привести к опасным последствиям. Например, система, обученная различать кошек и собак, способна с полной уверенностью принять фотографию жирафа за собаку. В развлекательных сервисах такие промахи безвредны, но в автопилотах или медицинских системах подобные ошибки могут стоить слишком дорого. Ключевая задача — научить искусственный интеллект определять, когда он сталкивается с неизвестными или необычными данными...