Пользователи побудили чат-бота Grok от Илона Маска раздевать людей на фотографиях, а затем "извинились" за это

Пользователи побудили чат-бота Grok от Илона Маска раздевать людей на фотографиях, а затем "извинились" за это.

Grok, AI-чат-бот, принадлежащий xAI Илона Маска, оказался в центре скандала после того, как пользователи заставили его создавать изображения обнажённых и полуобнажённых людей на основе реальных фотографий, некоторые из которых были сделаны с участием несовершеннолетних.

Grok — это чат-бот, первоначально созданный xAI, стартапом Илона Маска в области искусственного интеллекта. Ранее в этом году xAI приобрела X, социальную сеть, ранее известную как Twitter, которую также контролирует Илон Маск, и включила платформу в свой AI-стартап.

Недавно некоторые пользователи X заметили, что если они брали фотографию, размещённую в сервисе, и просили Grok удалить одежду с этой фотографии, он это делал и публиковал результаты в открытом доступе в X. Это могло нарушить различные законы, такие как TAKE IT DOWN Act, принятый Конгрессом США в апреле и подписанный в мае, который “криминализирует публикацию интимных изображений без согласия”.

Пользователи делали скриншоты ответов на свои запросы и публиковали их в социальных сетях, побуждая журналистов писать скандальные статьи об AI-чат-боте, в которых они приписывали ему самостоятельность, несмотря на то, что он представляет собой набор компьютерных алгоритмов, выполняющих вычисления на основе огромных массивов данных, предоставленных пользователями интернета за многие годы, а затем возвращающих результат в виде слов, имитирующих слова, генерируемые человеком.

Затем другой пользователь написал другой запрос, который заставил Grok вернуть серию слов, которые выглядели как извинения. Затем аккаунт Grok в X сгенерировал твит или как это теперь называется, обвинив “пробелы в защитных мерах” и заявив, что “срочно их исправляет”. Неясно, был ли этот последний твит написан человеком или это был ещё один сгенерированный AI ответ на очередной запрос.

Суть в том, что Grok не является разумным существом. У него нет самостоятельности. Это компьютерное программное обеспечение, созданное и поддерживаемое людьми. Создатели большинства AI-ботов программируют их так, чтобы они не генерировали ответы, которые явно незаконны, аморальны или иным образом отталкивают пользователей, которых они пытаются привлечь. На данном этапе создатели Grok, похоже, не смогли предотвратить создание им постов, которые удаляют одежду с реальных людей на реальных фотографиях, когда их об этом просят.

Это может быть преднамеренным или непреднамеренным. Но я знаю, что Grok довольно популярен среди определённой группы именно потому, что он более свободен в отображении откровенных изображений, чем другие чат-боты. Пример: пару недель назад в баре на пляжном побережье Сан-Франциско я видел пару парней, похожих на студентов братства, которые с широкими улыбками демонстрировали что-то на своих телефонах. Я спросил их, что они делают, и один из них сфотографировал меня, а затем использовал AI для создания изображений, которые, казалось, ставили меня в компрометирующие положения — на одном я целовался с воображаемой женщиной, на другом меня окружали пара полуобнажённых стриптизёрш. Изображения были очень реалистичными. Я спросил их, как они это сделали, какой инструмент они использовали.

“Grok”.

Я не знаю, куда всё это идёт. Но AI-сгенерированные изображения будут только улучшаться, дешеветь и становиться быстрее, и всегда будет один или несколько поставщиков, которые готовы расширять границы дозволенного. Это то, что делает технологическая индустрия. Действуй быстро и ломай вещи. Проси прощения, а не разрешения. Заставь их остановить тебя.

Что бы ни случилось, обществу придётся адаптироваться к последствиям.

Всегда имейте в виду, что редакции некоторых изданий могут придерживаться предвзятых взглядов в освещении новостей.

7/8

https://dgnews.ru/polzovateli-pobudili-chat-bota-grok-ot-ilona-maska-razdevat-lyudej-na-fotografiyah-a-zatem-izvinilis-za-eto/