Сотрудники Collaborations Pharmaceuticals попытались выяснить, каковы могут быть масштабы злоупотребления ИИ. Оказалось, что ИИ способен составлять опасные биологические формулы, сравнимые с биологическим и химическим оружием.
Они использовали генеративную нейросеть MegaSyn, которая обучена выявлять токсичные молекулы и их комбинации, несущие опасность белкам в человеческом организме. Исследователям потребовалась всего лишь поставить противоположную цель нейросети, чтобы сохранить опасные соединения. Всего за 6 часов работы были созданы 40 000 гипотетических ядов и подобран аналог нервно-паралитического газа VX.
Разумеется, находки ИИ не были использованы. Но эксперимент показал, насколько легко применять ИИ в разрушительных целях. То, что эта информация доступна общественности, - хороший знак. У ИИ есть недостатки, о которых нужно говорить. Исследователи заставили мировое сообщество задуматься и активнее искать методы по контролю ИИ.
#ии_и_мы #искусственныйинтеллект #роботборис #опасностьИИ