Компания Google заявила, что доработает свой новый инструмент для создания изображений, работающий на основе искусственного интеллекта, после того как стало известно, что он слишком сильно корректирует изображения, что граничит с расизмом. Пользователи утверждают, что бот Gemini показывает изображения, на которых изображены представители разных полов и этнических групп, даже если это исторически недостоверно.
Например, на запрос о создания изображения отцов-основателей Америки бот выдавал женщин и людей с другим цветом кожи. «С помощью искусственного интеллекта Gemini генерирует изображения самых разных людей. И это, как правило, хорошо, потому что его используют люди по всему миру. Но здесь он промахнулся, — сказал Джек Кравчик, старший директор Gemini Experiences. — Сейчас мы работаем над тем, чтобы усовершенствовать работу с такого рода изображениями».
Это не первый раз, когда ИИ спотыкается о вопросы о разнообразии. Например, почти десять лет назад компании Google пришлось извиняться после того, как ее приложение для работы с фотографиями пометило фотографию чернокожей пары как изображение «горилл».
Конкурент Google, компания OpenAI, специализирующаяся на искусственном интеллекте, также была обвинена в распространении стереотипов, после того как пользователи обнаружили, что ее генератор изображений Dall-E отвечает на запрос «генеральный директор» результатами, в которых преобладают фотографии белых мужчин.
Компания Google, которой приходится доказывать, что она не отстает в разработке ИИ, на прошлой неделе выпустила последнюю версию Gemini. Бот создает изображения в ответ на письменные запросы. Он быстро привлек внимание критиков, которые обвинили компанию в том, что она создала до смешного политкорректного бота.
«Очень трудно заставить Gemini от Google признать, что белые люди существуют», — пишет специалист по информатике Дебаргья Дас. Эти заявления набирают обороты в правых кругах в США, где многие крупные технологические платформы уже сталкиваются с негативной реакцией из-за предполагаемой либеральной предвзятости.
Кравчик заявил, что компания серьезно относится к проблемам репрезентации и предвзятости и хочет, чтобы ее результаты представляли пользователей по всему миру. «Исторический контекст имеет больше нюансов, и мы будем продолжать работу в этом направлении», — написал он в X, бывшем Twitter, где пользователи делились полученными от бота результатами. — Обратная связь — это часть процесса настройки. Спасибо, и продолжайте в том же духе!»
Тем временем производитель ChatGPT разрабатываетсобственный продукт для веб-поиска. Он может быть частично основан на поисковой системе Microsoft Bing. Пока неясно, будет ли поисковик OpenAI продуктом, отдельным от ChatGPT, чат-бота с искусственным интеллектом. Эта разработка ставит OpenAI в более прямую конкуренцию с Google и следует за попыткой Microsoft усовершенствовать свою поисковую систему Bing с помощью технологий компании, разрабатывающей инструменты ИИ.