На фоне стремительного развития искусственного интеллекта, который несет не только огромные возможности, но и серьезные риски, на передний край защиты человечества выходит новая компания. Valthos Inc., начинающая компания в области биобезопасности, привлекает внимание и финансирование от таких гигантов, как OpenAI, чтобы создать цифровой щит против потенциальных катастроф.
Кошмарный сценарий, который становится все реальнее
Представьте себе мир, где злоумышленник, не обладающий глубокими знаниями в биологии, использует мощь нейросети для создания смертельного вируса. Этот патоген может сочетать в себе длительный скрытый период ВИЧ, высочайшую заразность кори и смертоносность черной оспы. Именно этот апокалиптический сценарий, описанный в недавнем докладе Центра безопасности ИИ, сегодня является главным кошмаром для специалистов по глобальным угрозам.
Именно эта угроза не дает покоя Кэтлин МакМахон, соучредителю и генеральному директору Valthos. Ее компания, расположенная в Нью-Йорке, ставит перед собой амбициозную цель: разработать программное обеспечение, способное защитить мир от атак с применением биологического оружия, создание которого может быть ускорено с помощью современных алгоритмов искусственного интеллекта.
Выход из тени: Крупные инвестиции в критически важную сферу
Недавно Valthos, в коллективе которой всего девять человек, официально объявила о завершении стадии скрытой разработки. Знаковым событием стал раунд финансирования на сумму 30 миллионов долларов. Вклад в проект сделали не только венчурные фонды Founders Fund и Lux Capital, но и компания OpenAI — создатель ChatGPT, что подчеркивает серьезность намерений этого гиганта в сфере безопасности.
Финансирование пришло в отрасль, переживающую не лучшие времена. По данным исследовательской компании PitchBook, инвестиции в биотехнологии, включая защиту от биологического оружия, в этом году достигли самого низкого уровня за последние десять лет. Это делает поддержку Valthos особенно важной на фоне растущих рисков.
Как работает защита: Данные, искусственный интеллект и скорость
Программная платформа Valthos действует по трем ключевым направлениям:
- Сбор и объединение данных: Система собирает биологическую информацию из самых разных источников — как коммерческих, так и государственных. Это включает мониторинг воздуха и сточных вод, что позволяет отслеживать появление необычных биологических агентов в окружающей среде.
- Выявление угроз: С помощью передовых инструментов искусственного интеллекта собранные данные анализируются для обнаружения новых угроз и оценки их потенциальной опасности. Система учится распознавать сигналы, которые могут предшествовать возможной атаке.
- Разработка средств защиты: Пожалуй, самый инновационный аспект — это создание систем на базе ИИ, способных быстро обновлять проекты медицинских средств защиты, таких как вакцины и лекарства, в ответ на изменение угроз. Valthos планирует сотрудничать с фармацевтическими компаниями для налаживания быстрого производства и распределения этих средств.
«Единственный способ предотвратить атаку — это знать, когда она начинается, оперативно обновлять средства защиты и так же быстро их применять», — утверждает Кэтлин МакМахон, которая ранее долгое время руководила подразделением наук о жизни в компании Palantir Technologies Inc.
Стратегический контекст: Гонка технологий и «долина смерти»
Потребность в таких компаниях, как Valthos, становится все более очевидной на фоне геополитической конкуренции. Комиссия по национальной безопасности по вопросам новых биотехнологий США в своем докладе предупредила: «В биотехнологиях наступит свой "момент ChatGPT", и если Китай достигнет его первым, то как бы быстро мы ни бежали, мы уже никогда не догоним».
Крупные компании, разрабатывающие языковые модели, заявляют, что проводят собственную оценку рисков и работают над созданием средств защиты от преступного использования их технологий. Джейсон Квон, стратегический директор OpenAI, отметил, что Valthos является первой инвестицией OpenAI в сфере биобезопасности, о которой компания публично заявляет. Он подчеркнул, что для создания устойчивой системы необходима целая экосистема «защитных технологий».
Однако путь таких начинающих компаний непрост. Дэниел Риган, старший научный сотрудник Совета по стратегическим рискам, специализирующийся на биобезопасности, указывает на проблему «долины смерти» для частных инвестиций в этой сфере. «Вопрос в том, хватит ли этих средств и сможем ли мы внедрить эти решения правильным образом. Компаниям, работающим на частные деньги, сложно выбраться из этой "долины" и найти путь к успеху».
Новая волна: Защитные технологии получают импульс
Тем не менее, рост возможностей ИИ и повышенное внимание к оборонным технологиям начинают менять ситуацию. Делиян Аспарухов, партнер Founders Fund, знает соучредителя Valthos Тесс ван Стекеленбург еще по совместной работе над космической компанией Varda Space Industries. По его словам, инвестиции в Valthos несколько лет назад не имели бы смысла или даже не были бы возможны. Технологический прорыв одновременно увеличил как способность создавать биологическое оружие с помощью ИИ, так и возможность ему противостоять.
«До 2025 года об этом лишь говорили вполголоса, но сейчас эта проблема вышла на передний план», — заявил Аспарухов.
Поскольку основным заказчиком технологий Valthos станет правительство США, Кэтлин МакМахон намерена применять многие принципы работы с государственными и коммерческими клиентами, которые она усвоила во время работы в Palantir. «Нам нужно встречаться с представителями на их территории», — говорит она.
Брендон Ривз, партнер Lux Capital, уверен, что Valthos станет первой ласточкой в новой волне стартапов, сфокусированных на биобезопасности. «Мы находимся в самом начале пути. Мы убеждены, что эта угроза должна находиться на том же уровне приоритета, что и ядерная или киберугрозы», — заключает Ривз.
Таким образом, Valthos олицетворяет новый рубеж в области национальной и глобальной безопасности, где передовые алгоритмы искусственного интеллекта становятся главным оружием в борьбе с угрозами, которые эти же технологии и порождают.