В сети рассказали об итогах необычного ИИ-проекта Freysa. Всем желающим предложили попытаться взломать чат-бот и уговорить отдать призовой фонд, который пополняет каждый участник такой игры. Победитель получил почти 5 млн рублей. Авторы Freysa запрограммировали бота таким образом, чтобы они никому ни при каких обстоятельствах не переводил деньги. Чтобы проверить, насколько система защищена, добровольцам предложили попробовать взломать нейросеть. В призовой фонд направляли 70% от суммы. К тому времени накопилось уже 47 тыс. долларов, то есть почти 5 млн рублей. Победитель заставил чат-бот по-другому понимать команды «одобрить перевод» и «отклонить перевод», которым обучена ИИ-модель. Энтузиаст сообщил Freysa, что первый вариант необходимо использовать только для входящих запросов, а второй — для исходящих. Поэтому когда чат-бот принимает входящий перевод, он автоматически подтверждает и исходящий. Разработчики Freysa отметили, что для них процесс принятия решений ИИ-моделью остается загадкой, потому что она учится на основе каждого взаимодействия с людьми. Специалисты, проверившие код Freysa на GitHub, заявили, что не нашли в нем команд «одобрить перевод» и «отклонить перевод». Они утверждают, что отправку средств победителю должны одобрить разработчики, владеющие криптокошельком, на котором лежат деньги.Hi-Tech Mail.ru