137 подписчиков
GPT-4o запретили петь и эротично стонать
Недавно OpenAI запустила альфа-версию голосового помощника Advanced Voice Mode, работающий на GPT-4o. Оказалось, что порой он подражает голосу собеседника, а также кричит, эротично стонет, имитирует взрывы или выстрелы.
Как поясняют в OpenAI, эмуляция голоса возникает, если разговаривать с нейросетью в шумной обстановке. Так она старается лучше понять собеседника. Что касается звуковых эффектов, то в целом у нейросети есть блок на подобные вещи, но определенно сформулированные запросы могут его обходить.
Также OpenAI внедрила в помощник фильтр, не позволяющий подражать знаменитостям, включая певцов, чтобы не нарушить их авторские права. К слову, это косвенно подтверждает, что сама-то OpenAI обучала свою модель на материалах, защищенных копирайтом.
В компании работают над тем, чтобы полностью блокировать возможные насильственные или сексуализированные высказывания. Если все пойдет успешно, то к осени Advanced Voice Mode станет доступен широкому кругу пользователей.
Около минуты
11 августа