Лаборатория искусственного интеллекта OpenAI собирает новую команду, чтобы разработать демократические процессы и определить, как правильно управлять программным обеспечением искусственного интеллекта для борьбы с предвзятостью и другими факторами. Компания, поддерживаемая Microsoft, объявила об этом в своем блоге во вторник, передает Bizmedia.kz.
Команда «Коллективное согласование» продолжает работу, начатую в рамках грантовой программы по экспериментам с демократическими процессами, которая была объявлена в мае 2023 года. Как сообщается в сообщении компании из Сан-Франциско, эта программа недавно завершилась.
«Мы продолжаем двигаться в направлении создания умных моделей, которые могут стать неотъемлемой частью нашего общества… Важно дать людям возможность прямо влиять на это», — сказала инженер-исследователь и сооснователь новой команды OpenAI Тайна Элунду агентству Reuters.
Тедди Ли, менеджер по продуктам и второй член команды, отметил, что OpenAI может начать сотрудничество с проектом криптовалюты Worldcoin, основанным генеральным директором OpenAI Сэмом Альтманом, чтобы гарантировать, что только люди смогут голосовать, и чтобы отличать человека от искусственного интеллекта.
Ли отметил, что на данный момент команда еще не имеет конкретных планов по интеграции Worldcoin.
С момента запуска ChatGPT в конце 2022 года, технология генеративного искусственного интеллекта, способная создавать удивительно авторитетные тексты на основе подсказок, завоевала публику, став одним из самых востребованных приложений всех времен.
Однако существуют опасения относительно способности ИИ создавать «глубоко подделанные» фотографии и другую дезинформацию, особенно в преддверии избирательной кампании в США в 2024 году. Критики утверждают, что системы искусственного интеллекта, подобные ChatGPT, могут быть предвзятыми из-за исходных данных, используемых для формирования их мнений, и пользователи находили примеры расистских или сексистских результатов работы таких программ.
По словам Элунду, новая команда OpenAI активно ищет инженера-исследователя и ученого-исследователя. Команда будет тесно сотрудничать с группой «Человеческие данные» OpenAI, которая создает инфраструктуру для сбора данных от людей для моделей ИИ компании, а также с другими исследовательскими группами.