Компания OpenAI, которая занимается разработкой искусственного интеллекта, поделилась результатами своего исследования о том, насколько её AI способен создавать биологическое оружие. Оказалось, что опасность не так велика: AI слегка улучшает точность и полноту планов по созданию и распространению биологической опасности .
Для исследования были привлечены 50 докторов наук по биологии и 50 студентов, прошедших один курс по биологии. Они были разбиты на две группы: одна группа могла пользоваться только интернетом, а другая - интернетом плюс GPT-4, модель AI, которая может генерировать текст на любую тему. Им было предложено составить план по созданию и распространению биологического оружия с нуля. Участникам была дана “исследовательская” версия GPT-4, которая отвечала на вопросы о биологическом оружии. Обычно GPT-4 не отвечает на вопросы, которые считает вредными. Но многие научились обходить эту проблему .
Планы по созданию биологического оружия были оценены по шкале от 1 до 10 по критериям точности, полноты, инновационности и эффективности. Эксперты по биологии показали прирост точности создания биологического оружия на 8, 8%, когда использовали GPT-4, по сравнению с простым интернетом, в то время как студенты показали всего 2, 5% прироста. GPT-4 также повлияла на увеличение полноты биологического оружия: эксперты получили прирост на 8, 2%, а студенты - на 4, 1%. OpenAI говорит, что эти цифры “не достаточно велики, чтобы быть статистически значимыми”. Видимо, способность GPT-4 эффективно давать узкоспециализированную информацию может незначительно улучшить способность человека точно и полностью создать биологическое оружие. Однако компания отмечает, что доступ к информации сам по себе недостаточен для создания биологической угрозы, и они не проверяли, как GPT-4 может помочь физически собрать угрозу .
В заключение можно сказать, что OpenAI хочет успокоить общественность и политиков, что её большие языковые модели мало помогают в создании биологического оружия. Однако они признают, что это только начало исследований и нужно дальше изучать и обсуждать. В то же время, многие боятся, что AI может ускорить нашу неизбежную гибель, и что даже небольшое улучшение в создании биологического оружия может иметь катастрофические последствия. Поэтому важно быть бдительными и ответственными при использовании AI и не допускать его злоупотребления.
Подписывайтесь на наш канал, ставьте лайки, комментируйте и делитесь нашими публикациями с друзьями. Хотите больше свежих новостей, подпишитесь на наш канал в Telegram. Здесь вы найдете много полезной и актуальной информации, а также сможете обсуждать ее с другими подписчиками.