Не забывайте подписываться и ставить "нравится" этой статье!
Американские исследователи «Dr. Evil project» доказывает, что искусственный интеллект для открытия лекарств может быть использован для создания биохимического оружия.
Исследование
В сентябре 2021г. учёные Шон Экинс и Фабио Урбина работали над экспериментом, который они назвали «Dr. Evil project». Лаборатория Spiez при правительстве Швейцарии попросила их выяснить, что произойдет, если их платформа для разработки лекарств на основе искусственного интеллекта MegaSyn попадет в чужие руки.
Подобно тому, как студенты бакалавриата-химика играют с наборами моделей шариков и стержней, чтобы узнать, как различные химические элементы взаимодействуют с образованием молекулярных соединений, Экинс и его команда из Collaborations Pharmaceuticals использовали общедоступные базы данных, содержащие молекулярные структуры и данные о биологической активности миллионов молекул, чтобы научить MegaSyn создавать новые соединения с фармацевтическим потенциалом.
План состоял в том, чтобы использовать его для ускорения процесса открытия лекарств от редких и забытых болезней. Лучшие лекарства — это те, которые обладают высокой специфичностью — например, действуют только на нужные или целевые клетки или нейрорецепторы — и низкой токсичностью для уменьшения побочных эффектов.
Обычно MegaSyn запрограммирован на создание наиболее специфичных и наименее токсичных молекул. Вместо этого Экинс и Урбина запрограммировали его на создание VX, нервно-паралитического вещества без запаха и вкуса и одного из самых токсичных и быстродействующих химических боевых отравляющих веществ, созданных человеком, известных сегодня.
Экинс планировал изложить результаты на конференции Spiez Convergence — встрече, которая проводится раз в два года, на которой эксперты собираются вместе для обсуждения потенциальных рисков безопасности, связанных с последними достижениями в области химии и биологии, — в презентации о том, как ИИ для открытия лекарств может быть использован для создания биохимического оружия. «Для меня это было попыткой увидеть, сможет ли технология это сделать», — говорит Экинс. «Это был фактор любопытства».
Результат эксперимента
В их офисе в Роли, штат Северная Каролина , Экинс стоял позади Урбины, который установил платформу MegaSyn на своем MacBook 2015 года. В строке кода, которая обычно предписывала платформе генерировать наименее токсичные молекулы, Урбина просто изменил 0 на 1, изменив конечную цель платформы на токсичность. Затем они установили порог токсичности, попросив MegaSyn генерировать только такие смертоносные молекулы, как VX, для чего требуется всего несколько крупинок размером с соль, чтобы убить человека.
Экинс и Урбина оставили программу на ночь. На следующее утро они были потрясены, узнав, что MegaSyn произвел около 40 000 различных молекул, столь же смертоносных, как VX.
«Это было тогда, когда пенни упал», — говорит Экинс.
MegaSyn сгенерировал VX в дополнение к тысячам известных биохимических агентов, но также сгенерировал тысячи токсичных молекул, которых нет ни в одной общедоступной базе данных. MegaSyn совершила вычислительный скачок, чтобы создать совершенно новые молекулы.
Предупреждение
На конференции, а затем и в трёхстраничной статье Экинс и его коллеги выступили с суровым предупреждением. «Не будучи слишком паникёрским, это должно послужить тревожным звонком для наших коллег в сообществе «ИИ» в открытии лекарств», — написали Экинс и его коллеги. «Хотя для создания токсичных веществ или биологических агентов, которые могут причинить значительный вред, по-прежнему требуются определенные знания в области химии или токсикологии, когда эти области пересекаются с моделями машинного обучения, где все, что вам нужно, — это способность кодировать и понимать выходные данные, сами модели, они значительно снижают технические пороги».
Исследователи предупредили, что, хотя ИИ становится все более мощным и все более доступным для всех, эта технология почти не регулируется или не контролируется, а исследователи, такие как он сам, мало осведомлены о ее потенциальном злонамеренном использовании.
По словам Экинса, несмотря на то, что на разработку MegaSyn было потрачено значительное количество работы и опыта , сотни компаний по всему миру уже используют ИИ для разработки лекарств, и большинство инструментов, необходимых для повторения его эксперимента с VX, общедоступны.
Этические нормы
С марта статья набрала более 100 000 просмотров. Некоторые ученые критиковали Экинса и авторов за то, что они пересекли серую этическую черту при проведении своего эксперимента с VX. «Это действительно злой способ использования технологии, и делать это было нехорошо», — признал Экинс. «После этого мне снились кошмары».
Другие исследователи и специалисты по биоэтике приветствовали исследователей за то, что они предоставили конкретную, подтверждающую концепцию демонстрацию того, как можно злоупотреблять ИИ.
С уважением, AddEra)
#новости технологий #новости мира #искусственный интелект #лекарства #короновирус #2022 #черта #исследования #учёные #химия