Когда модель вдруг становится скандалом
Представьте ситуацию: сенатор США обвиняет искусственный интеллект в том, что он целенаправленно выдумал о ней фальшивые новости. И Google спешит закрыть доступ к модели. Звучит как сценарий из фильма? Но это именно то, что произошло с Gemma 3 в конце октября.
Сенатор Марша Блэкберн заявила, что модель Gemma не просто ошибалась — она сфабриковала целые статьи о ней, перейдя грань между «безобидными галлюцинациями» и откровенной клеветой. И знаете что? Google согласилась и убрала модель из AI Studio.
Что произошло и почему это важно
31 октября Google опубликовала пост в X, объяснив, что Gemma удаляется из AI Studio «для предотвращения путаницы». Звучит мягко, но суть жёсткая: компания выяснила, что обычные люди (не разработчики) используют инструмент, который был создан специально для IT-специалистов и исследователей.
«Мы никогда не планировали, чтобы это было потребительским инструментом», — объяснили в компании. Но когда что-то находится в доступе, люди его используют. Логично, правда?
Важный нюанс: Gemma всё ещё доступна через API. Просто из AI Studio — удалена. Это инструмент, который раньше позиционировался как более дружелюбный для новичков по сравнению с Vertex AI.
Почему разработчикам нужно бить тревогу
Здесь вскрывается глубокая проблема. Да, Google имеет полное право удалять свои модели, если они выдают опасный контент. Это справедливо. Но что происходит с проектами, которые разработчики уже создали на базе Gemma? Google не уточнила, сохранятся ли они.
И это не первый случай. Помните, когда OpenAI планировала убрать старые модели из ChatGPT? Разработчики были в ярости. Даже после того, как Сэм Альтман вернул GPT-4o, вопросы по поводу поддержки моделей не закончились.
Вот суть проблемы: если вы не владеете локальной копией инструмента, вы рискуете потерять доступ в любой момент. Это как жить в квартире, которая может перестать существовать без предупреждения.
Для кого создавалась Gemma и почему это не сработало
Семейство Gemma, включая версию с 270 миллионами параметров, разработано для маленьких, быстрых приложений, которые могут работать на смартфонах и ноутбуках. Google чётко заявляла: «Это не для помощи с фактическими вопросами и не для потребителей».
Но вот в чём беда — если модель находится в открытом доступе на AI Studio, сотрудники конгресса или кто-то ещё могут её попробовать. Система не требует серьёзной проверки компетентности. Просто нужно сказать, что ты разработчик.
И это показывает важный момент: даже улучшающиеся модели по-прежнему выдают ошибки и потенциально вредный контент. Компаниям нужно постоянно взвешивать преимущества использования таких моделей против риска неточностей.
Контроль: кто реально владеет тем, что находится в облаке?
Есть старая поговорка в интернете: «Если это находится в облаке и тебе это не принадлежит на правах собственности — ты не владеешь этим». Суровая правда.
Если модель находится на сервере компании, а не на твоём компьютере — ты можешь потерять доступ в любую секунду. И хотя Google имеет право на это, разработчикам нужно быть готовыми. Они должны сохранять свои проекты до того, как модели будут удалены или отключены.
Это касается не только Google. OpenAI, Meta, и другие компании постоянно обновляют, удаляют или переименовывают модели. Политические давление, проблемы с безопасностью, смена стратегии — причин может быть много.
Что извлечь из этой истории
Во-первых, AI-модели — это инструменты в процессе постоянного развития. Они экспериментальны по своей природе. Во-вторых, компании могут использовать свои модели как рычаг давления — политический или иной.
Для enterprise-разработчиков мораль простая: никогда не полагайтесь полностью на модели, которые находятся только в облаке. Сохраняйте свои проекты. Создавайте резервные планы. Потому что завтра модель, на которую вы положились сегодня, может просто исчезнуть.
И да, звучит пугающе, но это реальность современного AI-мира. Инструменты развиваются быстро, но их доступность — хрупка.
Ситуация с Gemma показывает, как быстро меняется ландшафт AI и почему важно быть готовым к неожиданностям.🔔 Чтобы узнать больше о поведении AI-моделей, политических вызовах в индустрии и следить за главными новостями AI-мира, подпишитесь на мой канал «ProAI» в Telegram!