Одно из подразделений Google, специализирующееся на разработке искусственного интеллекта, уже применяет генеративный ИИ для создания более чем 21 разнообразного инструмента, предоставляющего советы для жизни, планирования и обучения. Эту информацию опубликовала издание The New York Times. В чем тут проблемы?
Интеллект подводит
Как утверждает канал CNBC, подразделение DeepMind, принадлежащее Google, выделяется как быстроразвивающийся центр компетенции в области искусственного интеллекта. Именно оно занимается разработкой описанных инструментов
Новость о создании таких программ появилась после того, как в декабре 2022 года специалисты по безопасности искусственного интеллекта в Google представили руководству компании презентацию, в которой было отмечено, что пользователи, следуя советам ИИ, могут столкнуться с ухудшением своего здоровья и благополучия, а также потерей самостоятельности, сообщает Times.
В итоге Google заключила соглашение с Scale AI, стартапом стоимостью 7,3 миллиарда долларов, который специализируется на обучении и проверке программного обеспечения искусственного интеллекта, для тестирования новых инструментов.
Источники Times, подтверждают, что более 100 высококвалифицированных специалистов, обладающих докторскими степенями, работают над этим проектом. Частью тестирования является анализ способности этих инструментов предоставлять советы по межличностным отношениям и помогать с интимными вопросами.
В качестве примера The New York Times упоминает ситуацию, связанную с разрешением межличностных конфликтов.
Семь раз отмерь
По информации издания, инструменты, разрабатываемые DeepMind, не предназначены для использования в медицинских или терапевтических целях. Публичный чат-бот Bard от Google обеспечивает поддержку психического здоровья только по запросу терапевтического совета.
Ограничения такого рода обусловлены неоднозначным отношением к использованию искусственного интеллекта в медицине и терапии. В июне Национальная ассоциация по борьбе с расстройствами пищевого поведения вынуждена была временно остановить работу своего чат-бота Tessa после того, как он дал вредный совет относительно возникших проблем со здоровьем
Несмотря на неоднозначное мнение врачей и регулирующих органов о том, полезен ли ИИ в краткосрочной перспективе, все сходятся во мнении, что внедрение таких инструментов требует тщательного обдумывания.
«Мы давно сотрудничаем с разными партнерами для оценки наших исследований и продуктов в Google, и это важный этап в создании безопасных и полезных технологий, — отметил представитель Google DeepMind в интервью для CNBC. — Мы постоянно проводим подобные оценки. Отдельные примеры оценочных данных не являются полным отображением нашего плана развития продуктов».
Больше интересного читайте на портале MARKETPROFS