Химики из Collaborations Pharmaceuticals впечатлены способностями ими же созданной нейросети, которую они используют для разработки лекарств. Оказывается, с тем же успехом она может создавать сильнодействующие отравляющие вещества — надо лишь поменять ей настройки вознаграждения, сообщает телеграмм-канал «Блуждающий нерв». Статья в журнале Nature Machine Intelligence, рассказывающая об этой истории, находится в свободном доступе.
При запуске сети химики сменили наказание за токсичность поощрением — и программа за шесть часов сгенерировала 40 000 разнообразных ядовитых молекул: как уже известные, так и совершенно новые, даже «более токсичные, чем общеизвестные боевые отравляющие вещества».
То ли совпадение, то ли тенденция: сегодня ученые все чаще открыто демонстрируют опасность своих разработок. Не исключено, что все передовые научные изыскания — это исследования двойного назначения.
