Компании все больше интересуются искусственным интеллектом и его потенциальным влиянием на повышение производительности. Однако они также находятся в состоянии беспокойства из-за возможных рисков. В недавних исследованиях, проведенных компанией Workday, предприятия назвали своевременность и надежность базовых данных, возможную предвзятость, а также безопасность и конфиденциальность основными барьерами при внедрении технологий искусственного интеллекта.
Скотт Кларк, ранее соучредитель платформы для обучения и экспериментов в области искусственного интеллекта SigOpt (которая была приобретена компанией Intel в 2020 году), выразил желание создать "программное обеспечение, которое сделает искусственный интеллект безопасным, надежным и защищенным". Чтобы достичь этой цели, он основал компанию под названием Distributional, с целью запустить первоначальную версию этого программного обеспечения и обеспечить масштабирование и стандартизацию тестирования для различных вариантов использования искусственного интеллекта.
"Distributional разрабатывает современную корпоративную платформу для тестирования и оценки систем искусственного интеллекта", - отметил Кларк в интервью для TechCrunch. "При расширении возможностей приложений искусственного интеллекта возрастает и риск потенциального ущерба. Наша платформа создана для активного и постоянного выявления, понимания и устранения рисков, связанных с искусственным интеллектом, прежде чем они смогут нанести урон в производственной среде наших пользователей".
Кларк принял решение о запуске проекта Distributional после столкновения с технологическими проблемами в области искусственного интеллекта во время работы в качестве вице-президента и генерального директора по искусственному интеллекту и высокопроизводительным вычислениям в Intel, после поглощения SigOpt. Он узнал, что обеспечение регулярного и качественного тестирования систем искусственного интеллекта практически невозможно.
"Мой опыт наставил меня на необходимость осуществления тестирования и оценки систем искусственного интеллекта", - продолжил Кларк. "Будь то хаос, нестабильность, неточность, интеграция или множество других потенциальных проблем, командам часто бывает трудно идентифицировать, понять и устранить риски с помощью проведения тестов. Процесс тестирования искусственного интеллекта требует глубокого понимания и анализа распределения, и данная задача оказывается крайне сложной".
Основной продукт компании Distributional нацелен на выявление и диагностику возможного "ущерба" от крупных языковых моделей (например, OpenAI ChatGPT) и других типов искусственного интеллекта, путем полуавтоматического определения мест, методов и целей тестирования моделей. Как отмечает Кларк, данное программное обеспечение предоставляет организациям "полное" представление о рисках, связанных с использованием искусственного интеллекта в рабочих условиях, аналогично "песочнице" для проведения тестирования.
"Большинство команд предпринимают меры по оценке поведения моделей и осознают, что у них могут возникнуть проблемы", - поделился Кларк. "Некоторые могут попробовать специализированное ручное тестирование для выявления этих проблем, что является ресурсоемким, неструктурированным и, по сути, неполным. Другими вариантами является пассивное обнаружение этих проблем с использованием инструментов мониторинга после внедрения искусственного интеллекта в производство... Именно поэтому наша платформа включает в себя расширяемую среду тестирования для непрерывного тестирования и анализа устойчивости и надежности, индивидуально настраиваемую панель тестирования для визуализации и понимания результатов тестирования, а также интеллектуальный набор тестов для проектирования, установления приоритетов и создания правильной комбинации тестов".
Кларк не раскрыл подробности о том, как работает его платформа, и о ее общих чертах, указав на то, что проект Distributional все ещё находится в процессе разработки совместно с корпоративными партнерами.
Учитывая, что Distributional пока не приносит дохода, платформа еще не запущена и не предоставляет платные услуги клиентам, как она может конкурировать с уже существующими платформами тестирования и оценки искусственного интеллекта на рынке? Ведь их множество, такие как Колена, Плодовитый, Giskard и Patronus, многие из которых имеют хорошую финансовую поддержку. Более того, на рынок предлагают свои инструменты оценки моделей такие технологические гиганты, как Google Cloud, AWS и Azure.
Кларк утверждает, что Distributional отличается тем, что она ориентирована на корпоративные заказчики своего программного обеспечения. "С самого начала мы разрабатываем программное обеспечение, способное удовлетворить потребности крупных предприятий в сфере обеспечения конфиденциальности, масштабируемости и сложности данных как в нерегулируемых, так и в строго регулируемых отраслях", - сказал он. "Типы предприятий, с которыми мы работаем над разработкой нашего продукта, имеют требования, которые не укладываются в рамки существующих предложений, доступных на рынке, которые, как правило, ориентированы на индивидуальных разработчиков".
Если все пойдет по плану, то ожидается, что Distributional начнет получать доход в следующем году, как только ее платформа станет доступной для широкой публики и несколько ее партнеров перейдут в качестве платных клиентов. В настоящее время стартап активно привлекает инвестиции от венчурных капиталистов. Сегодня компания Distributional объявила о завершении раунда предпочтительного финансирования на сумму 11 миллионов долларов под управлением Мартина Касадо из Andreessen Horowitz при участии Operator Stack, Point72 Ventures, SV Angel, Two Sigma и инвесторов-ангелов.
"Мы надеемся создать благоприятные условия для наших клиентов", - сообщил Кларк. "Благодаря более качественному тестированию, команды будут более уверенно использовать искусственный интеллект в своих приложениях. По мере расширения использования искусственного интеллекта они увидят, что его влияние растет в геометрической прогрессии. И при использовании его в более сложных и значимых задачах потребуется еще более глубокое тестирование для обеспечения его безопасности, надежности и защищенности".