Эксперимент американских учёных-медиков не то чтобы вышел из-под контроля, но привёл к пугающим результатам. Некоторое время, учёные боялись публиковать его результаты.
Учёные использовали нейросеть, которая была создана для поиска полезных химических соединений — она создает лекарства. При этом, согласно своим настройкам, её основная задача — определить, насколько токсичными могут быть комбинации и фильтровать их.
«Мы можем предложить этой модели машинного обучения новые молекулы, соединения, которые, возможно, никогда раньше не тестировались, и она сообщит нам о возможных последствиях. Этот способ помогает очень быстро проверить множество вариантов и исключить те, которые могут быть токсичными», — объясняет один из ученых.
В порядке эксперимента ИИ за 6 часов создал 40 000 молекул, каждая из которых, попав в организм человека, вызвала бы его смерть.
Некоторые соединения, изобретённые ИИ, оказались даже быстрее и опаснее, чем известные ныне боевые отравляющие вещества.
«Когда мы получили результаты, то первое, что бросилось в глаза — многие соединения, выглядели более токсичными, чем даже VX (боевое нервно-паралитическое вещество)», — рассказал исследователь.
Среди соединений, изобретенных ИИ, были похожие на чрезвычайно токсичные нервно-паралитические вещества, которые могут вызывать судороги даже при крошечных дозах. Ученые сказали, что самой пугающей частью открытия было то, насколько легко оказалось использовать ИИ для разработки химического оружия.
Цель этого эксперимента — изучить опасные последствия, к которым даже случайно может привести использование ИИ.
«Если выяснится, что у вас есть, скажем, чудесное лекарство, которое фантастически снижает кровяное давление, но поражает один из важных сердечных каналов, это недопустимо»,
«Информация, которой мы пользовались, доступна бесплатно. Вы можете скачать набор данных о токсичности откуда угодно. Если у вас есть кто-то, кто умеет программировать на Python и обладает некоторыми способностями к машинному обучению, то, возможно, за два дня работы он может построить что-то вроде нашей генеративной модели. Именно поэтому мы долго думали, публиковать ли эту статью», — сказал Фабио Урбина, ведущий автор исследования.
А если вы дочитали эту статью и она вам понравилась, то пожалуйста поддержите начинающего автора своим лайком и подпиской. Он будет очень благодарен!
#ИИ #AI #яд #эксперимент #искусственныйИнтеллект #нейросеть