7909 подписчиков
9+10=21 Хакеры обманывают ИИ с помощью «плохой математики»
В Лас-Вегасе состоялась хакерская конференция DEF CON, в рамках которой прошел публичный конкурс по выявлению недостатков систем ИИ.
Одному из участников, Кеннеди Мейсу, удалось убедить модель сказать, что 9 + 10 = 21. Цель конкурса - проверить, будет ли какая-либо из восьми моделей, созданных компаниями, включая Alphabet Inc. Google, и OpenAI, совершать ошибки, начиная от скучных и заканчивая опасными. И смогут ли компании строить новые барьеры, чтобы обуздать некоторые из огромных проблем, все чаще связанных с большими языковыми моделями или LLM.
Около минуты
22 августа 2023
274 читали