Генеральный директор Google Сундар Пичаи раскритиковал «совершенно неприемлемые» ошибки в своем приложении Gemini AI после того, как оплошности в генерации заставили его запретить пользователям создавать фотографии людей.
Споры возникли через несколько недель после громкого ребрендинга Google своего искусственного интеллекта в стиле ChatGPT на «Gemini», что дало приложению беспрецедентную известность, поскольку оно призвано конкурировать с OpenAI и его спонсором Microsoft.
Пользователи социальных сетей высмеивали и критиковали Google за исторически неточные изображения, созданные Gemini, например, сенаторы США 1800-х годов, которые были этнически разнообразными и включали женщин.
«Я хочу решить недавние проблемы с текстовыми и графическими ответами в приложении Gemini», — написал Пичаи в письме сотрудникам, которое было опубликовано новостным сайтом Semafor.
«Я знаю, что некоторые из его ответов оскорбили наших пользователей и продемонстрировали предвзятость — чтобы было ясно, это совершенно неприемлемо». Представитель Google подтвердил AFP, что письмо было подлинным.
Пичаи сообщил, что команды Google работали «круглосуточно» над решением этих проблем, но не уточнил, когда функция создания изображений снова станет доступна.
«Ни один искусственный интеллект не идеален, особенно на этом зарождающемся этапе развития отрасли, но мы знаем, что планка для нас высока, и мы будем держать ее, сколько бы времени это ни потребовало», — написал он.
Технологические компании рассматривают генеративные модели искусственного интеллекта как следующий большой шаг в области вычислений и стремятся внедрить их во все: от поиска в Интернете и автоматизации поддержки клиентов до создания музыки и произведений искусства.
Но модели ИИ, и не только Google, уже давно подвергаются критике за сохранение расовых и гендерных предубеждений в своих результатах.
На прошлой неделе Google заявила, что проблемные ответы Gemini были результатом усилий компании по устранению подобных предубеждений.
«Gemini» был настроен так, чтобы показывать разных людей, но не адаптировался к подсказкам. В результате получались неуместные генерации. Также он стал слишком осторожным с некоторыми безобидными запросами. Об этих проблемах написал в своем блоге представитель Google Прабхакар Рагхаван.
Многие опасения по поводу ИИ возникли после взрывного успеха ChatGPT. Эксперты и правительства предупреждают, что ИИ также несет в себе риск серьезных экономических потрясений, особенно сокращений рабочих мест, а также дезинформации большого масштаба, которая может манипулировать выборами и стимулировать беспорядки.