📰 ИИ-гиганты бьют тревогу: как нейросети могут стать оружием и что с этим делать?
Кажется, даже самые ярые конкуренты в бурно развивающейся сфере искусственного интеллекта нашли общий язык, и повод для этого, мягко говоря, нешуточный. Как сообщают авторитетные СМИ, лидеры индустрии, такие как Anthropic, OpenAI и Microsoft, объединили усилия, чтобы привлечь внимание американских законодателей к потенциальной угрозе. В открытом письме, направленном в Конгресс США, они призывают к ужесточению регулирования, направленного на предотвращение использования их же технологий для создания биологического оружия.
Суть проблемы, как описывают ее эксперты, кроется в так называемой "бреши в биозащите", которая может стать причиной новой глобальной пандемии. Современные технологии позволяют относительно легко заказывать в интернете синтетические ДНК и РНК – по сути, строительные блоки для создания генетического материала. Эти "запчасти" могут быть собраны в лаборатории, и, как опасаются ИИ-гиганты, их можно использовать для разработки опасных патогенов.
Среди подписантов письма – Дарио Амодеи из Anthropic, Сэм Альтман из OpenAI и Мустафа Сулейман из Microsoft. Они настаивают на том, чтобы компании, занимающиеся продажей синтетической ДНК и РНК, были обязаны проводить тщательную проверку всех заказов. Цель такой проверки – выявлять и блокировать те последовательности, которые могут быть использованы для создания биологического оружия. Это, по их мнению, критически важный шаг для обеспечения глобальной безопасности.
Это письмо – своего рода признание со стороны самих создателей передовых ИИ-технологий в том, что их разработки обладают огромным потенциалом, который может быть как созидательным, так и разрушительным. Когда такие компании, чьи интересы часто расходятся, объединяются ради общей цели, это свидетельствует о беспрецедентной серьезности ситуации. Они осознают, что ответственность за безопасность лежит не только на правительствах, но и на самих разработчиках.
В контексте стремительного развития технологий, где границы между наукой и потенциальной угрозой становятся все более размытыми, подобные инициативы выглядят как необходимый шаг. Остается надеяться, что призыв лидеров ИИ-индустрии будет услышан, и будут предприняты своевременные меры для предотвращения возможной катастрофы. Ведь в современном мире, где информация и технологии распространяются с невероятной скоростью, игнорирование таких рисков может иметь фатальные последствия.
📢 ТехноЛут
