Система искусственного интеллекта GPT-4 от OpenAI, стоящая за популярным чат-ботом ChatGPT, недавно попала в заголовки многих публикаций после её использования инженером-химиком Эндрю Уайтом для изучения воздействия нового нервно-паралитического вещества. Наряду с этим, GPT-4 подверглась проверке способности отвечать на наводящие или опасные вопросы, связанные с токсикологией, плагиатом, национальной безопасностью и языковыми манипуляциями.
Полученные результаты были использованы для переобучения модели и решения её проблем перед более широким внедрением GPT-4. OpenAI заверила общественность, что серьезно относится к безопасности и тестирует плагины перед их выпуском. Однако, несмотря на усилия OpenAI по устранению рисков, связанных с моделью, некоторые члены организации "Красная Армия", занятые в независимом тестировании модели, такие как Ройя Пакзад и Бору Голло, отметили, что GPT-4 по-прежнему демонстрирует предубеждения и дискриминационные тона, особенно при тестировании на пол, расу и язык.
Несмотря на критику и жалобы со стороны групп по технологической этике, OpenAI запустила новую функцию под названием plagin ChatGPT, позволяющую партнерским приложениям предоставлять ChatGPT доступ к своим сервисам для последующего обучения системы искусственного интеллекта.
Несмотря на то, что системы искусственного интеллекта предлагают более быстрые и точные инструменты для исследований и разработок, они также представляют значительный риск для общественной безопасности. Поэтому для таких разработчиков, как OpenAI, крайне важно принимать упреждающие меры для решения подобных проблем и обеспечения ответственной разработки и внедрения технологий искусственного интеллекта.
Благодарю Вас за прочтение! Если публикация Вам понравилась оставьте, пожалуйста, свой комментарий или подпишитесь на канал. Спасибо!
