Разбавим канальчик немного ИТшной тематикой. Я уже поднимал эту тему, пробуя себя в роли диванного визионера. И, наконец, случилось то, о чем я и говорил. Для подписчиков, не владеющих языком вероятного противника, поясню картинку выше.
Была взята рандомная выборка статей из этого вашего интернетика и проведен анализ на их авторство. Результат - всего за пять лет процент статей за авторством ИИ поднялся с нуля до значений выше процента статей за авторством человека.
Чем нам это все грозит?
Проблема в том, что этическая составляющая разработки ИИ на данный момент практически отсутствует, она никак не формализована и не обвязана какими-либо законами. Ни писаными, ни неписаными. В частности, нет обязанности как-то помечать материал, созданный при помощи ИИ, а делать это надо было с самого начала, чтобы у потребителя этого контента сразу формировалась степень доверия к материалу и объем необходимых проверок для его подтверждения (ага, критическое мышление тут будет очень в тему).
К чему это ведет? А ведет это все к тому, что ИИ начинает переобучаться на созданных собою же (и зачастую вообще никак не проверенных) материалах. ИИ просто не может с какой-то достаточной и воспроизводимой вероятностью отличить "человеческий" материал от созданного собой же. В конечном итоге степень достоверности ответов ИИ сейчас начнет стремительно падать, "пик достоверности" уже пройден, он был как раз в тот момент, когда в обучающих выборках ИИ присутствовали ТОЛЬКО материалы, написанные человеком.
И в конце концов итог логики ИИ будет как в старом советском анекдоте про корову:
Отец: У нас корову украла какая-то тварь.
Старший брат: Если тварь — значит маленькая.
Средний брат: — Если маленькая — значит из Малиновки.
Младший Брат: — Если из Малиновки — значит Васька Косой.
И произойдет это всё на дистанции пары лет, если ничего не делать.
Скриньте этот пост (с)