Учёные тестировали ИИ — и случайно создали тысячи потенциальных патогенов
ИИ научился проектировать белки лучше, чем человек — и это открывает не только возможности, но и риски. Современные генеративные модели могут создавать белки с совершенно новыми свойствами, но никто не гарантирует, что они будут безопасны. Если такая последовательность попадет в производство, последствия могут быть непредсказуемыми.
Ключевой момент в синтезе белков — заказ ДНК, кодирующей нужный белок. Компании, которые производят синтетические нуклеиновые кислоты, обязаны проверять такие заказы через системы биобезопасного скрининга (BSS). Эти алгоритмы сравнивают генетические последовательности с базами данных известных патогенов и токсинов, чтобы не допустить создание опасных образцов.
Но вот в чем проблема: ИИ способен создавать белки, достаточно отличающиеся от исходных, чтобы пройти мимо фильтров. Исследователи из журнала Science решили проверить, насколько устойчивы эти системы к новым угрозам. Они применили метод «красной команды ИИ» — когда сама система тестируется против атак, созданных искусственным интеллектом. С помощью открытого ИИ для дизайна белков ученые создали более 75 000 потенциально опасных белков и отправили их на проверку четырем поставщикам BSS.
Результат оказался тревожным: стандартные инструменты прекрасно справляются с фильтрацией известных белков, но их способность распознавать переработанные ИИ-варианты оказалась непостоянной. Иначе говоря, биобезопасность пока не поспевает за скоростью ИИ.
Хорошая новость в том, что исследователи не просто указали на проблему — они помогли решить её. Совместно с разработчиками BSS были созданы патчи, повышающие точность фильтрации без роста ложных срабатываний. Три из четырех систем уже внедрили обновления.
Так рождается новая эпоха биобезопасности. ИИ теперь не только источник угроз, но и инструмент для защиты от них.
#биотехнологии #искусственныйинтеллект #безопасность
