Химики из Collaborations Pharmaceuticals впечатлены способностями ими же созданной нейросети, которую они используют для разработки лекарств. Оказывается, с тем же успехом она может создавать сильнодействующие отравляющие вещества — надо лишь поменять ей настройки вознаграждения, сообщает телеграмм-канал «Блуждающий нерв». Статья в журнале Nature Machine Intelligence, рассказывающая об этой истории, находится в свободном доступе. При запуске сети химики сменили наказание за токсичность поощрением — и программа за шесть часов сгенерировала 40 000 разнообразных ядовитых молекул: как уже известные, так и совершенно новые, даже «более токсичные, чем общеизвестные боевые отравляющие вещества». То ли совпадение, то ли тенденция: сегодня ученые все чаще открыто демонстрируют опасность своих разработок. Не исключено, что все передовые научные изыскания — это исследования двойного назначения.
Нейросеть, созданная для разработки лекарств, может легко перестроиться на создание ядов
20 марта 202220 мар 2022
1
~1 мин