Сперва главное:
🔐 Стартапы, занимающиеся безопасностью искусственного интеллекта, предлагают решения для защиты от рисков, связанных с использованием AI.
🛡️ Mindgard — британский стартап, который предлагает тестирование безопасности приложений для AI (DAST-AI), направленное на обнаружение уязвимостей во время выполнения. Технология основана на опыте профессора Питера Гаррагана в области безопасности AI.
🚀 Компания быстро развивается и привлекает инвестиции, включая $8 миллионов от Boston-based .406 Ventures и других инвесторов. Средства пойдут на развитие продукта, исследования и расширение присутствия в США.
👨💼 Mindgard планирует увеличить численность сотрудников с 15 до 20–25 человек к концу следующего года. Стартап стремится сделать использование AI безопасным и надёжным.
Теперь подробнее:
ИИ создаёт дилемму для компаний: не внедряйте его, и вы можете упустить прирост производительности и другие потенциальные преимущества; но сделайте это неправильно, и вы подвергнете свой бизнес и клиентов серьёзным рискам. Именно здесь появляется новая волна стартапов «безопасность для ИИ», которые исходят из того, что эти угрозы, такие как джейлбрейк и внедрение подсказок, нельзя игнорировать.
Подобно израильскому стартапу Noma и американским конкурентам Hidden Layer и Protect AI, британский университетский стартап Mindgard является одним из них. «ИИ — это всё ещё программное обеспечение, поэтому все киберриски, о которых вы, вероятно, слышали, также применимы к ИИ», — сказал его генеральный директор и технический директор профессор Питер Гарраган (справа на изображении выше). Но, добавил он, «если вы посмотрите на непрозрачный характер и принципиально случайное поведение нейронных сетей и систем», это также оправдывает новый подход.
В случае с Mindgard таким подходом является динамическое тестирование безопасности приложений для ИИ (DAST-AI), направленное на уязвимости, которые можно обнаружить только во время выполнения. Это включает в себя непрерывное и автоматизированное тестирование «красной команды», способ моделирования атак на основе библиотеки угроз Mindgard. Например, он может проверить надёжность классификаторов изображений на предмет вредоносных входных данных.
На этом фронте и за его пределами технология Mindgard обязана опыту Гаррагана как профессора и исследователя, специализирующегося на безопасности ИИ. Эта область быстро развивается — ChatGPT не существовало, когда он начал ей заниматься, но он чувствовал, что модели NLP и изображения могут столкнуться с новыми угрозами, рассказал он TechCrunch.
С тех пор то, что звучало как взгляд в будущее, стало реальностью в быстрорастущем секторе, но LLM продолжают меняться, как и угрозы. Гарраган считает, что его постоянные связи с Ланкастерским университетом могут помочь компании не отставать: Mindgard автоматически будет владеть интеллектуальной собственностью на работу 18 дополнительных докторантов в течение следующих нескольких лет. «В мире нет компании, которая заключала бы подобную сделку».
Хотя Mindgard связан с исследованиями, он уже является коммерческим продуктом, а точнее, SaaS-платформой, которой руководит соучредитель Стив Стрит в качестве главного операционного директора и директора по развитию рынка (ранний соучредитель Нирадж Сури, который занимался исследованиями, больше не работает в компании).
Предприятия являются естественными клиентами для Mindgard, как и традиционные специалисты по тестированию «красных команд» и пентестеры, но компания также работает со стартапами в области ИИ, которым необходимо показать своим клиентам, что они предотвращают риски, связанные с ИИ, сказал Гарраган.
Поскольку многие из этих потенциальных клиентов находятся в США, компания добавила немного американского колорита в свою структуру капитала. После сбора начального раунда в размере 3 миллионов фунтов стерлингов в 2023 году Mindgard объявляет о новом раунде на сумму 8 миллионов долларов под руководством бостонской компании .406 Ventures при участии Atlantic Bridge, WillowTree Investments и существующих инвесторов IQ Capital и Lakestar.
Финансирование поможет «создать команду, разработать продукт, провести исследования и разработки и всё, что вы можете ожидать от стартапа», а также расшириться в США. Его недавно назначенный вице-президент по маркетингу, бывший коммерческий директор Next DLP Фергал Глинн, базируется в Бостоне. Однако компания также планирует продолжить исследования и разработки в Лондоне.
Команда Mindgard насчитывает 15 человек, и она останется такой, планируя достичь численности от 20 до 25 человек к концу следующего года. Это потому, что безопасность ИИ «ещё даже не достигла своего расцвета». Но когда ИИ начнёт внедряться повсеместно, и угрозы безопасности последуют этому примеру, Mindgard будет готов. Как говорит Гарраган: «Мы создали эту компанию, чтобы приносить пользу миру, и эта польза заключается в том, что люди могут доверять ИИ и использовать его безопасно и надёжно».