Компания OpenAI заплатит пользователям ИИ-чат-бота ChatGPT до $20 000 за обнаружение багов и уязвимостей в системе. В своём блоге компания сообщила, что запускает программу поиска уязвимостей в её ИИ-продуктах. Для более эффективного взаимодействия по вопросам обнаружения уязвимостей OpenAI заключила соглашение с платформой Bugcrowd Inc, которая будет собирать обращения участников программы.
OpenAI готова заплатить от $200 за обнаружение уязвимостей «с низким уровнем серьёзности» и до $20 тыс. «за исключительные находки». По словам компании, она решила запустить указанную программу, потому что считает, что «прозрачность и сотрудничество [с пользователями]» являются ключом к обнаружению проблем, которые могут иметься у данной технологии.
«Эта инициатива является естественной частью нашей общей идеи разработки безопасного и продвинутого ИИ. Мы хотим создавать безопасные и надёжные технологии и сервисы, поэтому хотели бы обратиться к вам за помощью», — сообщается в блоге компании.
На платформе Bugcrowd в теме программы по поиску уязвимостей OpenAI указывается ряд проблем безопасности, за которые не будет начисляться вознаграждение. В частности, к таковым относятся запросы для ChatGPT, связанные с выманиванием у бота запрещённой информации путём обмана, написанием вредоносного кода или запросы, при которых пользователь заставляет чат-бота писать оскорбления.
Больше интересных новостей на сайте 3DNews:
• Партию мультитулов для хакеров Flipper Zero на $200 тыс. задержала таможня Германии и уничтожит её
• Учёные создали транзисторы из воды — они откроют путь к процессорам с частотой больше 1 ТГц
• «Выглядит очень впечатляюще»: энтузиасты добавили трассировку лучей в Half-Life 2 и Max Payne с помощью файлов Portal with RTX
