Генеральный директор Google Сундар Пичаи ответил на недавние споры вокруг модели искусственного интеллекта (ИИ) компании. Компания разработала инструмент искусственного интеллекта Gemini для создания разнообразных изображений исторических личностей. Теперь инструмент оказался под огнем за создание исторически недостоверных изображений.
Пичаи назвал некоторые ответы Gemini предвзятыми и совершенно неприемлемыми в записке, в которой признал, что сгенерированный контент оскорбил людей. За последние несколько дней в социальных сетях появилось множество примеров того, как генератор изображений Gemini изображает исторические личности.
Например, римские папы, отцы-основатели США и даже викинги были представлены в различных этнических и половых формах. В частности, есть примеры, когда немецкие солдаты Второй мировой войны изображены как люди с другим цветом кожи. Это возмутило пользователей, и они поделились своими опасениями. В связи с этим Google временно приостановила работу Gemini AI.
Более того, в своем электронном письме Пичаи выразил сожаление по поводу сложившейся ситуации. Его памятка стала шагом в правильном направлении. Он также заверил сотрудников, что команды неустанно работают над решением проблем. В связи с этим он отметил значительное улучшение ответов на различные запросы. Затем генеральный директор наметил ряд действий для исправления ситуации. Некоторые из них включают структурные изменения и обновленные руководства по продуктам.
Кроме того, были усовершенствованы процессы запуска и усилена работа красной группы для моделирования потенциального использования продукта не по назначению. Пичаи подчеркнул, что компания стремится предоставлять пользователям полезную, точную и непредвзятую информацию. Он подчеркнул необходимость такого подхода ко всем продуктам, особенно к новым технологиям искусственного интеллекта.
Давайте сделаем шаг назад и поразмышляем. Предвзятость в системах ИИ на самом деле не новая проблема. В прошлом был случай, когда ИИ переводил гендерно-нейтральные турецкие фразы с гендерным уклоном. Еще один случай - OpenAI's Dall-E генерирует белых мужчин для судьи и черных мужчин для стрелка. Текущие проблемы с Gemini еще больше подчеркивают трудности, связанные с устранением предвзятых результатов. Это также показывает, насколько сложным является обучение моделей ИИ.
Ведущий разработчик ИИ компания Google провела ребрендинг своего генеративного ИИ чат-бота Bard под названием Gemini. Они ввели платные планы подписки для расширения возможностей рассуждения.
Стоит отметить, что последствия спора повлияли на стоимость акций Google: с прошлой недели они снизились на 3,58%. Это привело к снижению рыночной капитализации на $90 млрд. Несмотря на трудности, Пичаи подтвердил приверженность компании развитию ИИ. Ближайшие недели покажут эффективность действий Google по разрешению противоречий с ИИ Gemini и восстановлению доверия пользователей.
