Искусственный интеллект против человечности: как Reddit пытается сохранить свою душу
На прошлой неделе пользователи Reddit по всему миру столкнулись с тревожным сценарием: сабреддит «Change My View» оказался под атакой… но не хакеров, а искусственного интеллекта. Группа исследователей запустила на платформу целый рой ИИ-ботов, которые выдавали себя за живых людей, оставив более 1700 комментариев в различных дискуссиях.
Этот эксперимент показал, насколько убедительным может быть ИИ, имитирующий человеческое общение. Но для Reddit он стал настоящим кошмаром. Ведь вся суть этой платформы — в аутентичности, в том, что за каждым ником стоит реальный человек с реальным мнением. Если пользователи начнут сомневаться, кто скрывается за комментариями — живой собеседник или алгоритм, — это подорвёт саму основу Reddit.
Но дело не только в философии. Финансовые риски тоже огромны: недавно Reddit начал продавать свои данные OpenAI для обучения ИИ. Если платформа заполнится ботами, её контент потеряет ценность — и для пользователей, и для корпоративных партнёров.
Ответ Reddit: верификация без потери анонимности?
Компания назвала эксперимент «неправомерным и крайне неэтичным» и даже подала жалобу на университет, стоящий за ним. Однако ясно, что это лишь первая ласточка. В будущем Reddit могут атаковать боты с куда более опасными целями — от политических манипуляций до массового спама.
Чтобы защитить платформу, руководство Reddit объявило о новой системе верификации. В понедельник CEO Стив Хаффман заявил, что компания начнёт сотрудничать со сторонними сервисами, чтобы подтверждать, что пользователь — реальный человек (а в некоторых странах — ещё и совершеннолетний).
«Чтобы сохранить Reddit человечным и соответствовать новым регуляторным требованиям, нам потребуется немного больше информации», — написал Хаффман. — «Но нам не нужно — и мы никогда не будем хотеть — знать ваше имя или кто вы на самом деле».
Это серьёзный поворот для платформы, которая всегда гордилась минимальными требованиями к регистрации. Теперь же пользователям, возможно, придётся доказывать свою человечность.
Как это будет работать?
Пока детали скрыты. Пресс-служба Reddit отказалась уточнить:
- В каких случаях потребуется верификация?
- Какие именно сервисы будут использоваться?
- Какие данные придётся предоставить?
Скорее всего, речь идёт о таких решениях, как Persona, Stripe Identity или Plaid — они обычно запрашивают государственное удостоверение для подтверждения возраста. Но есть и более экспериментальные технологии, например, Tools for Humanity (проект Сэма Альтмана), где для верификации сканируют радужную оболочку глаза.
Анонимность под угрозой?
Многие пользователи Reddit крайне настороженно отнеслись к нововведениям. Платформа всегда была местом, где можно анонимно обсуждать щепетильные темы — от медицинских вопросов до политических взглядов.
Но что, если власти потребуют раскрыть личность пользователя? Например, в штатах, где аборты запрещены, могут заинтересоваться тем, кто спрашивает о процедуре на r/women. Уже был прецедент: Meta* передала властям переписку матери и дочери из Небраски, обсуждавших аборт, что привело к уголовному делу.
Хаффман поспешил успокоить аудиторию:
«Анонимность — важнейшая часть Reddit. Мы будем строго защищать ваши данные и сопротивляться необоснованным требованиям».
Но доверят ли ему пользователи? Вопрос открыт.
Будущее Reddit: баланс между безопасностью и свободой
Reddit оказался на распутье. С одной стороны — угроза ИИ-ботов, с другой — риск потерять доверие сообщества.
Станет ли верификация спасением или началом конца анонимного Reddit? Покажет время. Но ясно одно: эпоха, когда в интернете можно было быть кем угодно, подходит к концу.
А вы готовы доказать, что вы человек?
Больше информации здесь
Подписывайся