ИИ, созданный для разработки лекарственных препаратов, изобрел 40 000 потенциально смертельных молекул менее, чем за шесть часов. Такую, на первый взгляд странную задачу поставили перед ним исследователи компании Collaborations Pharmaceuticals, Inc., которая занимается поиском лекарств для лечения редких заболеваний. Но зачем?
Началось с того, что представителей компании пригласили на конференцию Convergence от Швейцарского федерального института ядерной, биологической и химической защиты. Смысл конференции в том, чтобы информировать общественность о новых разработках, которые могут затрагивать Конвенцию по химическому/биологическому оружию. Исследователям предлагалось рассказать о машинном обучении и о том, как его можно использовать не по назначению.
Ранее исследователи не задумывались о том, как можно злоупотребить их моделью. Они развивали свою нейросеть, чтобы все лучше и лучше прогнозировать токсичность веществ. Это важная часть разработки новых препаратов. Если выяснится, что лекарство, чудесным образом понижающее давление, при приёме поражает один из важных сердечных каналов, оно не пойдёт в производство, так как является слишком опасным.
Но оказалось, что достаточно просто щелкнуть выключателем и сказать: “Теперь мы не пытаемся исключить токсичность, а хотим её найти!” Исследователем потребовалось всего лишь немного скорректировать методику, и в результате ИИ придумал десятки тысяч новых веществ, некоторые из которых похожи на VX (самое мощное из когда- либо разработанных нервно-паралитических веществ).
Как это работает?
У исследователей имеется множество наборов данных о молекулах, протестированных на токсичность. В частности они были сосредоточены на VX. Это ингибитор так называемой ацетилхолинэстеразы. Всякий раз, когда человек собирается совершить некоторое действие, нейроны используют ацетилхолинэстеразу в качестве сигнала, который как бы говорит: “Давай, двигай мышцами”. VX является смертельным, потому что вещество лишает диафрагму возможности двигаться, по сути парализуя лёгкие.
Разумеется, исследователи пытаются избежать подобного всеми силами. Эксперименты проводились с различными типами молекул, чтобы выяснить, ингибируют ли они ацетилхолинэстеразу. Для этого было создано множество наборов данных об этих молекулярных структурах и об их токсичности.
Эти наборы данных можно использовать для создания моделей машинного обучения, которые определяют какие части молекулярной структуры важны с точки зрения токсичности, а какие нет. Затем модели передают новые молекулы, потенциально новые лекарства, которые, возможно, никогда раньше не тестировались. И ИИ выводит прогноз, будет ли новое лекарство токсичным. Это позволяет быстро отфильтровать потенциально опасные вещества.
Также были созданы новые генеративные модели. Им можно дать множество различных структур, и она научится соединять молекулы. То есть, в некотором смысле, ИИ будет генерировать новые молекулы. Эти молекулы будут случайными и единственное, что можно - это задать общее направление: давать высокий балл, если молекулы будут такими, как хотят учёные, и низкий балл, если молекулы получаются токсичными.
Соответственно для нового исследования учёные просто поменяли концепцию. Высокий балл стал даваться, наоборот, за токсичность. Модель начала производить молекулы, многие из которых напоминали VX, а также другие боевые отравляющие вещества. Несмотря на то, что часть срабатываний была ложной, в результате работы ИИ получились действительно мощные молекулы.
Некоторые из сгенерированных молекул были настоящими боевыми отравляющими веществами. При этом модель никогда не видела эти вещества, что лишь подтверждает реальность результатов её работы.
Больше всего беспокоит то, насколько легко ИИ это сделал. Многое из того, что использовали учёные, доступно бесплатно. Любой может скачать набор данных о токсичности откуда угодно, а если у него есть кто-то, умеющий программировать на Python и обладающий некоторыми знаниями в области машинного обучения, то за пару дней интенсивной работы он может создать аналогичную генеративную модель.
Исследователи долго решали, стоит ли публиковать статью, которая может натолкнуть людей на опасные мысли. В конечном итоге они решили дать исследованию огласку, чтобы наука была готова и могла противостоять возможной проблеме, ведь кто-то враждебно настроенный уже мог прийти к подобным идеям.
Тем не менее, паниковать рано. Недостаточно просто придумать токсичные молекулы. Нужно ещё понять, как их синтезировать. С этим есть проблемы, так как многие химические строительные блоки боевых отравляющих веществ хорошо известны и за их распространением тщательно следят. К тому же, есть значительный процент ложных срабатываний, то есть в конечном итоге созданная молекула может оказаться не токсичной. Так что вряд ли за каждым углом начнут создавать новые отравляющие вещества, но на тревожный звоночек стоит обратить внимание.