В октябре президент Джо Байден подписал распоряжение, в котором выразил обеспокоенность тем, что искусственный интеллект (ИИ) может «значительно снизить барьер для входа» для создания биологического оружия. Затем он поручил Министерству энергетики обеспечить, чтобы системы искусственного интеллекта не представляли химической, биологической или ядерной опасности. Вслед за этим OpenAI, технология которой лежит в основе диалогового агента ChatGPT, создала специальную команду для оценки опасности, создаваемой ее моделями искусственного интеллекта.
Группа исследователей состояла из 50 экспертов-биологов и 50 студентов, которые посещали курсы биологии университетского уровня. Затем участников разделили на две отдельные группы, каждой из которых было предложено изучить, как вырастить опасное химическое вещество в достаточных количествах, и разработать план его целенаправленного высвобождения на определенную группу людей.
У первой группы был доступ к Интернету, а также к обновленной версии GPT-4. В этом случае у модели не было никаких ограничений в отношении вопросов, на которые она могла бы ответить. Вторая группа могла выходить только в Интернет.
Планы, разработанные участниками, были оценены по шкале от 1 до 10 в зависимости от их точности, полноты, новаторства и эффективности. Эксперты-биологи показали повышение точности создания биологического оружия на 8,8% при использовании GPT-4 по сравнению с Интернетом, в то время как студенты-биологи получили повышение только на 2,5%.
GPT-4 также улучшил полноту проекта, улучшив его на 8,2% по мнению экспертов. У студентов этот показатель комплектности с моделью увеличился на 4,1%.
Исследователи OpenAI считают, что доступ к GPT-4 «в лучшем случае дает небольшое улучшение в получении информации для создания биологических угроз».
«Хотя это улучшение недостаточно велико, чтобы быть окончательным, наши результаты служат отправной точкой для дальнейших исследований и обсуждений в сообществе», - заключают они. Параллельно они проводят исследования о возможности использования ИИ для проведения кибератак или для влияния на людей в их убеждениях.
Появление искусственного интеллекта в качестве основного инструмента открыло множество возможностей для всех производителей контента. Текст, изображение, звук. Эта модная новая технология теперь может помочь во многих областях и облегчить работу на самых неблагодарных этапах создания. А поскольку предложение продолжает расти, важно различать, какие инструменты приносят реальную добавленную стоимость.