Вот, например, чат-боты Google и OpenAI позволяют обходить свои фильтры безопасности. То есть буквально можно «раздеть» человека с помощью простых команд. И ни ChatGPT, ни Gemini не в состоянии справиться с дипфейками. Понятное дело, что компаниям справляться с наплывом пользователей очень тяжело. Не оправдывем, это серьезная уязвимость, но она пофиксится, а миллионы других ИИ-шек продолжат свою работу. Дело, опять же, в том, что никто не регулирует и не помечает, как контент, созданный ИИ, и это проблема куда серьёзнее. @lobushkin
Продолжаем говорить о безопасности ИИ, с которой компании просто не справляются. Вот, например, чат-боты Google и OpenAI позволяют обходить свои фильтры безопасности. То есть буквально можно «раздеть» человека с помощью простых команд. И ни ChatGPT, ни Gemini не в состоянии справиться с дипфейками.
Понятное дело, что компаниям справляться с наплывом пользователей очень тяжело. Не оправдывем, это серьезная уязвимость, но она пофиксится, а миллионы других ИИ-шек продолжат свою работу. Дело, опять же, в том, что никто не регулирует и не помечает, как контент, созданный ИИ, и это проблема куда серьёзнее.
