Недавно после лекции, посвященной технологической сингулярности, меня спросили - а что вы думаете по поводу инбридинга нейросетей (инбридинг - так называют близкородственные связи между организмами). Я удивился - что, у искусственного интеллекта (ИИ) уже и такое есть? Дошел наш прогресс до того, что уже такие термины появляются! Ответ на этот вопрос я озвучу в конце статьи, потому что для этого нужно обсудить ряд важных моментов в современных нейросетях.
Я принципиально не пишу тексты с помощью нейросетей. Мне приходится много писать - и научных текстов и научно-популярных. А также различных развлекательных - для публичных выступлений. Многие коллеги активно пользуются ИИ для написания текстов, я воздерживаюсь. Искушение, конечно, велико - переложить часть бремени на "железного друга".
Ведь можно поступить, например, так:
Потратить 5 минут и получить за одну такую статью 400 тысяч просмотров и, соответственно, 20 тысяч рублей.
Я же на последние статьи про ДНК европейцев и новые открытия в космосе потратил на каждую больше чем по полдня и получил в 100 раз меньше.
Логично заменить тяжелый труд на более легкий и получать в 100 раз больше? Логично, если во главу угла поставить лишь обогащение. Но не буду, потому что дорожу вами, дорогие читатели, и своим трудом. Хочется делать мир чуточку лучше и просвещаться самому, просвещать людей, а не разочаровывать.
А тексты у нейросетей все-таки получаются не того качества, которого мне хотелось бы.
Итак, почему я не пишу тексты с помощью нейросетей:
Они получаются "неживыми". В них нет личного опыта. А если попросишь нейросеть придумать личный опыт - получается натянуто, как будто из кино.
Плюс я люблю делать акценты с помощью знаков препинания, иногда нарушая пунктуационную грамматику.
С русским у них плохо. Зарубежные нейросети (а при всем уважении к отечественным аналогам, западные пока выигрывают год-два) обучались, преимущественно, на текстах, написанных на английском языке.
Поэтому, пытаясь предсказать и написать текст на русском, они часто делают кальку с английского. А это принципиально другой язык. Слова в нем короче. В англоязычной журналистике принято "лить воду" - то есть вставлять ничего не значащие предложения и эпитеты. В этом ничего плохого нет, это часть их культуры. Но российская аудитория тебе такого не простит. Она весьма требовательна к плотности фактуры, у нашего читателя аллергия на пустые фразы.
В них нет стиля. Хоть нейросети и можно задать "напиши в стиле Павла Воли/Достоевского" он скопирует лишь верхнюю часть айсберга. Да и мне нравится писать именно в своем стиле.
Частые ошибки. Даже использование продвинутых моделей - типа Perplexity или тот же ChatGPT с заданием параметра "используй только доверенные источники" приводит к так называемым глюкам. Когда нейросети просто выдумывают факты (и пишут их убедительно!).
Как я использую нейросети. И зачем
Вместе с тем, я активно использую нейросети. В некоторых амплуа они очень даже полезны.
Поиск информации. Через нейросети искать информацию гораздо проще чем через поисковики. Они находят действительно много дополнительной интересной информации. В моем случае - выдают ссылки на исследования, которые я сам бы просто так не нашел.
Расшифровка видео. У меня часто нет времени смотреть видео, а в них иногда бывает интересная информация. Можно попросить нейросеть сделать небольшой реферат по тому, что в этих видео есть. Весьма удобная опция.
Картинки. Меня как-то спросили, зачем я использую картинки, сгенерированные нейросетью? Неужели нет готовых фото по тем или иным научным фактам.
-Ну а где мне взять красивого ученого? А если я поставлю "обычного" ученого на заставку, вы же, дорогие читатели, не будете кликать на анонс. И полезный познавательный текст останется без своего читателя.
Шутка, конечно, но в ней есть доля истины. Можно создавать кадры, близкие к кинематографическим, на различные научные сюжеты. И не грешить против точности. И если есть научный материал из реальных фотографий, посвященных открытию - я обязательно его использую.
Только нужно обращать внимание, чтобы не было подмены. Нельзя выдавать сгенерированное фото за историческое. И делать фейки на известных персонажей.
В остальном же, создание картинок в ИИ это, по сути, такое же текстовое творчество человека, как статья. Ведь ты рисуешь вместе с нейросетью, уточняешь детали, придумываешь сюжет.
Поэтому можно получить очень интересные изображения, которые прекрасно иллюстрируют то, о чем ты хочешь сказать в статье. В общем, графические нейросети мне очень нравятся - они оставляют пространство для творчества. Очень люблю рисовать с их помощью различные инопланетные пейзажи и фрагменты из космических путешествий будущего. Все равно пока "человеческих" таких фото нет и долго не будет.
Видеоролики. В своих видео я иногда делаю небольшие 5-секундные вставки, созданные с помощью ИИ. Это хорошо улучшает динамику видео.
Например, можно оживить в видеоряде целый шумерский древний город!
Часто на это уходят часы работы, ведь видео-ИИ пока очень примитивны и часто ошибаются. Приходится много раз "обсуждать" с нейросетью, что должно быть в видео и как исправить ошибки.
Адаптация сценариев. Часто я делаю видео на базе своих статей. Если статья получила внимание аудитории, то почему бы еще не адаптировать для тех, кто предпочитает смотреть, а не читать? Однако текст статьи и текст сценария - не одно и тоже. Нейросети мне помогают переписывать, адаптировать мои статейные материалы в бодрые увлекательные сценарии.
Философия. Науч-поп - это не только факты. И даже не столько факты. Хотя, как мы рассмотрели выше, ИИ пока и с простым перечислением фактов справляется так себе.
В рамках научно-популярных материалов рассказывается не просто новость про открытие. Важно рассказать, какой смысл оно несет, как связано с предыдущими открытиями. Какие мировоззренческие выводы мы можем для себя открыть из того или иного научного факта.
Русский философ Николай Бердяев признавал ценность прогресса и техники - для улучшения быта и благосостояния. Но опасался, что прогресс начнет уничтожать всё индивидуальное, что скрыто в человеке. Его творческое начало. И во многом он был прав - ИИ стандартизирует все процессы и сферы, включая искусство.
Философия - дело очень личное, при этом, она находит отклик у миллионов людей, которые задают себе те же вечные мировоззренческие вопросы.
Нейросети - не умеют нести личное (у них его нет). Да и доверить кому-то еще эти мировоззренческие аспекты рука не поднимается.
Инбридинг нейросетей. Почему он мешает ИИ развиваться
"Близкородственные" связи нейросетей стали главной преградой на пути их развития. О чем вообще тут идет речь и почему ИИ-инженеры считают это серьезной проблемой?
Как пишет американский ученый Илья Шумайлов (здесь, при слове "американский" должна быть грустно-ироничная ухмылка) в своей статье научном журнале Nature, модели ИИ начинают разрушаться на данных, которые порождают другие нейросети. А сгенерированные тексты уже повсюду! И они ломают ИИ.
Дело в том, что ИИ должен для самообучения потреблять информацию. И практически все нейросети проходят последовательно несколько этапов обучения, и одним из классических первопроходцев был Chat GPT. Сперва в него загрузили всю художественную литературу. Затем - научные журналы и образовательные ресурсы. Кстати, на этом этапе ИИ хоть и выдавал скромный результат, но, по крайней мере, редко ошибался в фактах, как сейчас.
Затем открыли доступ ко всему интернету, форумам, соцсетям и т п. ИИ обучился, качество несколько упало, хотя и кругозор стал шире. Пришлось снова программистам бороться, чтобы прокачать ИИ.
Сейчас интернет стремительно заполняется текстами, сгенерированными ИИ. И на них учатся, в свою очередь, все основные модели текстовых нейросетей (с картинками, впрочем, ситуация та же).
Получается, говоря физическим термином - энтропия растет (то есть мера хаоса, неконтролируемого движения).
Какой из этого выход? А он пока не придуман. Один из вариантов - нанимать большие редакции с опытными авторами, которые будут писать ответы для ИИ на реальные вопросы пользователей. Нейросети будут использовать их не напрямую, а обучаться. По такому пути сейчас и идет большинство компаний в сфере искусственного интеллекта.
Получается, без человека снова никуда!
Что делать нам - обычным людям
Я бы посоветовал - интересоваться прогрессом, изучать, что есть из ИИ-инструментов в вашей сфере, и как этим пользоваться. Изучать нейросети хотя бы поверхностно, чтобы не упустить прогресс.
Здесь должна бы быть интеграция каких-нибудь онлайн-курсов по нейросетям, но, увы, реклама никогда не была моей сильной стороной. Поэтому - рекомендовать ничего не буду - ищите сами. В интернете сейчас много хороших бесплатных ресурсов с информацией. (Открою вам секрет Полишинеля - так 95%+ онлайн-курсов и создаются, основываясь на общедоступной информации).
Мне интересен прогресс в сфере нейросетей. Только я их пока не готов воспринимать в качестве творческой "личности" и создателя контента. Скорее, они остаются для меня полезным помощником. Неким новым этапом. Как я в начале нулевых радовался, что появился Яндекс (это не реклама, правда люблю и эту компанию и поисковик) - он сильно упростил мою работу по поиску информации, так сейчас меня радует прогресс нейросетей. Но человек в любом случае должен оставаться человеком. И быть - головой и этическим навершием любых технических новинок.
А как вы относитесь к нейросетям и будущему, с ними связанному? Расскажите в комментариях про свой опыт использования нейросетей, если он был.
Кстати, с Александром Пушным на "Маяке" буду в эту пятницу 17го января обсуждать технологическую сингулярность в передаче "Физики и лирики" в 11:35. Подключайтесь!