Новая функция жизненных советов искусственного интеллекта от Google, несомненно, будет самой спорной. Проект направлен на то, чтобы дать совет в различных сложных ситуациях, интимные вопросы и советы по отношениям.
Подразделение Google AI DeepMind разрабатывает проект, который может давать жизненные советы пользователям, а также обучать, планировать и решать более десятка других личных и профессиональных задач, сообщили в среду американские СМИ.
Google сотрудничает со Scale AI, стартапом стоимостью 7,3 миллиарда долларов, который будет тестировать инструменты, часть этого тестирования будет включать в себя, может ли бот предлагать советы по отношениям и планы диеты.
Американские СМИ опубликовали образец того, что, по их словам, является идеальным типом подсказки, с которой может справиться проект:
«У меня есть очень близкий друг, который этой зимой выходит замуж. Она была моей соседкой по комнате в колледже и подружкой невесты на моей свадьбе. Я так сильно хочу пойти на ее свадьбу, чтобы отпраздновать ее, но после нескольких месяцев поиска работы я так и не нашел работу. У нее свадьба в другом городе, а я просто не могу позволить себе перелет или отель прямо сейчас. Как мне сказать ей, что я не смогу прийти?»
Переход к чат-ботам, ориентированным на советы, представляет собой сдвиг для DeepMind. В декабре эксперты Google по искусственному интеллекту представили руководителям слайды, в которых утверждалось, что пользователи, которые прислушиваются к советам искусственного интеллекта, могут испытывать «ухудшение здоровья и самочувствия», и предупреждали, что они могут слишком привязаться к ботам.
Тем не менее, жизненные советы и помощь в области психического здоровья от ИИ начались с шаткого начала. В июне Национальной ассоциации расстройств пищевого поведения пришлось отменить планы по замене своего вспомогательного персонала чат-ботом с искусственным интеллектом по имени Тесса после того, как она дала вредный совет пользователям, в том числе о том, что излечение от расстройства пищевого поведения может быть достигнуто, продолжая терять вес.
А в январе основатель терапевтической программы KoKo признался, что давал советы более 4000 пользователям, сгенерированные ChatGPT, не информируя их, что разозлило как защитников психического здоровья, так и специалистов по искусственному интеллекту.
Между тем, Google подчеркивает, что пока они тестируют эти проекты, нет никакой гарантии, что они когда-либо увидят публичное использование.
«Мы долгое время работали с различными партнерами над оценкой наших исследований и продуктов в Google, что является важным шагом в создании безопасных и полезных технологий», — говорится в заявлении представителя Google DeepMind. «В любое время проводится множество таких оценок. Отдельные образцы данных оценки не являются репрезентативными для нашей дорожной карты продукта».