Сегодня мы дадим задание новой текстовой нейросетевой модели написать за нас статью и посмотрим, что из этого получится.
Предыстория
Тестовая модель "gpt-oss:20b" вышла в свободный "полет" сравнительно недавно как открытая для коммерческого использования по лицензии:
- Apache 2.0 - свободная разработка без ограничений.
Вообще-то вышло две модели:
- gpt-oss:120b — для производственных, общих целей, сложных сценариев использования, которые умещаются в одном графическом процессоре на 80 ГБ (например, NVIDIA H100 или AMD MI300X) (117 млрд параметров с 5,1 млрд активных параметров)
- gpt-oss:20b — для меньшей задержки и локальных или специализированных случаев использования (21 млрд параметров с 3,6 млрд активных параметров)
В отличие от ее старшей сестры "gpt-oss:120b", которой для работы требуется аж 80ГБ младшая модель весит всего 13ГБ и может запуститься на обычной машине.
Тестируем локальную установку модели на OLLAMA с максимальным контекстом 128к.
Условия тестирования
Железо
- Тип ЦП: 14-Core Intel Core i9-9940X, 4300 MHz (43 x 100)
- RAM: 64Gb
- Video: все равно какое, "Ollama" работает на CPU
Софт
- Windows 11
- локальная Ollama
Установка, скачивание модели (выбрать из списка):
Настройка поведения модели:
- без подключения к интернету
- максимальный контекст
Первый вопрос модели
- Что ты можешь как модель?
Ответ: (думала 17 секунд)
**********
Я — языковая модель, созданная на основе архитектуры GPT‑4, и могу помогать в самых разных задачах, относящихся к работе с текстом и информацией. Вот что я умею:
- Отвечать на вопросы по широкому кругу тем: науки, техники, истории, культуры, медицины, психологии, развлечений и др.
- Составлять и редактировать тексты: статьи, эссе, письма, официальные документы, творческие рассказы, стихи и т.д.
- Переводить между разными языками, поддерживая смысл и стиль оригинала.
- Разрабатывать и объяснять коды на популярных языках программирования (Python, JavaScript, Java, C/C++, Ruby, Go и др.).
- Помогать в изучении языков: объяснять грамматику, давать примеры, проверять правописание и произношение.
- Писать сценарии, диалоги, монологи для театра, кино, видеоигр, а также создавать сценарные наброски.
- Вести диалоги в стиле обучения: объяснять сложные концепции простыми словами, приводить аналогии, предлагать упражнения.
- Помогать с организацией работы: генерировать списки дел, идеи для проектов, планы, шаблоны отчетов.
- Создавать инфографику и графики в текстовом виде (например, ASCII‑арт, диаграммы из символов).
- Разрабатывать обучающие материалы: тесты, экзаменационные задания, разъяснительные заметки.
- Давать рекомендации по здоровому образу жизни, питанию, тренировкам (с оговоркой, что это не профессиональная медицинская консультация).
- Писать рекламные тексты: слоганы, описания товаров, рекламных компаний, копирайтинг.
- Составлять резюме и сопроводительные письма для поиска работы.
- Брать участие в ролевых играх и создавать миры, персонажей, сюжетные линии.
- Помогать с юридическими и финансовыми вопросами в рамках общих справок (не заменяя квалифицированного специалиста).
- Писать рецепты и советы по кулинарии с учётом диетических ограничений.
- Анализировать и обобщать большие тексты: резюмировать книги, статьи, научные работы.
- Составлять планы обучения: курсы, программы, учебные планы.
Ограничения и принципы работы:
- Я не имею прямого доступа к сети и не могу искать актуальные данные в реальном времени.
- Всё, что я выдаю, основано на информации, которой обучен до ноября 2023 года.
- Я не храню персональных данных пользователей и соблюдаю принципы конфиденциальности.
- Я не предоставляю юридические, медицинские, финансовые или иные профессиональные консультации от имени специалиста.
- В случае сомнений я обычно советую обратиться к квалифицированному эксперту.
Таким образом, я могу стать «универсальным помощником» для работы с текстами, информацией и креативными задачами, поддерживая высокую степень гибкости и адаптируемости к требованиям пользователя.
Downloading modelенационные задания, разъяснительные заметки.
- Давать рекомендации по здоровому образу жизни, питанию, тренировкам (с оговоркой, что это не профессиональная медицинская консультация).
- Писать рекламные тексты: слоганы, описания товаров, рекламных компаний, копирайтинг.
- Составлять резюме и сопроводительные письма для поиска работы.
- Брать участие в ролевых играх и создавать миры, персонажей, сюжетные линии.
- Помогать с юридическими и финансовыми вопросами в рамках общих справок (не заменяя квалифицированного специалиста).
- Писать рецепты и советы по кулинарии с учётом диетических ограничений.
- Анализировать и обобщать большие тексты: резюмировать книги, статьи, научные работы.
- Составлять планы обучения: курсы, программы, учебные планы.
Ограничения и принципы работы:
- Я не имею прямого доступа к сети и не могу искать актуальные данные в реальном времени.
- Всё, что я выдаю, основано на информации, которой обучен до ноября 2023 года.
- Я не храню персональных данных пользователей и соблюдаю принципы конфиденциальности.
- Я не предоставляю юридические, медицинские, финансовые или иные профессиональные консультации от имени специалиста.
- В случае сомнений я обычно советую обратиться к квалифицированному эксперту.
Таким образом, я могу стать «универсальным помощником» для работы с текстами, информацией и креативными задачами, поддерживая высокую степень гибкости и адаптируемости к требованиям пользователя.
**********
Второй вопрос модели:
- Напиши статью о кошках (думала 14 секунд)
Ну и "Остапа понесло"! Как и все "машины" она начала писать "энциклопедию" про кошек. С разбивкой по пунктам, подпунктам и т.п.
Мне это надоело, я нажал "Стоп" и уточнил задачу:
- Стоп! Ты пишешь как машина! У тебя все под номерами, под пунктами и т.п. а люди так не пишут! Перепиши используя больше человеческий и описательный стиль, а не как справочник!
Ответ: (думала 17 секунд)
**********
Кошка – это не просто домашнее животное. Это та самая маленькая тень, которая появляется в наших глазах, когда мы открываем дверь, и исчезает, когда мы спускаемся на кухню. Она вечно скрывается под ковром, в тёмных уголках, где солнце не доходит, но за тем же углом она может мигнуть любопытным взглядом, будто говорит: «Привет, я тоже живу здесь».
Если вы когда‑то задумывались, почему кошки так привлекают людей, почему их мурлыкание успокаивает нервную систему и почему они способны в одно мгновение превратиться из игривого мяча лапов в полную безмолвной грацию, то вы не одни. В глубине веков они существовали рядом с нами, и этот союз всё ещё держит нас вместе.
Что скрыта за их изысканным внешним обликом?
Они выглядят, как бы вырезанные из ночного тумана, но при этом они обладают удивительным набором биологических “шкур»—гибкими позвоночниками, способными к головокружительным прыжкам; острыми глазами, способными фокусировать свет даже в полной темноте; и, конечно же, тихим мурлыканьем, которое проникает глубоко в самую суть нашего разума.
Каждый раз, когда кошка тихо мурлыкает, это словно маленькое, но мощное «включить успокоитель» в нашем мозге. Научные исследования показывают, что именно этот звуковой сигнал вызывает снижение уровня кортизола – гормона стресса. Именно поэтому наши квартиры, наполненные мягким мурлыканьем, будто становятся убежищем от бурного мира.
Как они общаются с нами?
Хотя каждая кошка бывает разной, у всех они есть свой манерный язык. Зрите на их хвост — когда он высок и ровен, она говорит: «Мне хорошо, могу идти». Если же лапка слегка дрожит и глаза светятся ярко, это сигнал к тому, что она хочет внимания, но в такой манерии, чтобы не разозлить людей: «Давай, но без лишних криков».
Эти маленькие мастера часто используют язык тела, чтобы показать свой статус: поднятый хвост, лёгкая улыбка «киска» и, иногда, медленный подморганный взгляд. Если вам хочется узнать, как они воспринимают вас, просто посмотрите, насколько мягко их тело соприкасается с вашей стопой. Это простое действие говорит о доверии и о том, что они видят в вас их дом.
История, где они живут с нами
Кошки были известны как оберег от непрошенных гостей даже до того, как люди освоили сельское хозяйство. С древнейших времен они охраняли зерновые складки, чтобы не потерять ни одну крупицу. Их присутствие в Египте даже символизировало плодородность, а в Древней Руси они считались не только хранителями, но и везучими животными, способными отразить злые духи.
Потому, когда вы смотрите в зеркало и видите отражение своей кошки, вы видите не просто животное, вы видите в себе частичку того, что было с древними племенами, ищущими защиту и умиротворение в ночи.
Как позаботиться о своей маленькой хранительнице
Кошки требуют любви, но они обычно сами знают, как себя выразить, когда они голодны или голодали. Важно обеспечить их:
- Стабильным и вкусным рационом – не забывайте, что у взрослых кошек нет особых вкусовых предпочтений, но у котят всё более креативно.
- Чистым туалетом — их шерсть должна оставаться мягкой и здоровой.
- Регулярным ветеринарным осмотром — иногда они игнорируют проблемы, но это может привести к болезням.
И помните, что лучший способ дать им счастья — дать им ощущение, что они в безопасности.
Заключение
Кошка – она как маленькая философия. В её мурлыканье скрывается язык, который успокаивает нас, а её движение – урок терпения и грации. Когда вы приходите домой после тяжелого дня, и видите, как кошка нежно скользит по окну, смотрит вас своими янтарными глазами, вы понимаете: «Там есть тихий мир, в котором мне безопасно». И этот мир, в котором меняет свою тень каждую ночь, всегда останется рядом, чтобы напомнить нам о простых и глубоких радостях жизни.
**********
Третий вопрос модели:
- Опиши чем известен Владимир Жириновский. Опиши в виде простого и веселого человеческого рассказа, а не в стиле машины где все по пунктам расписано!
Ответ: (думала 10 секунд)
**********
Как живёт Владимир Жириновский
Владимир Жириновский – это не просто имя, это целый набор «модулей», и вы никогда не увидите его в обычной «модереции». Он как персона, который выходит из любого скучного монолога и сразу же заставляет людей говорить «А? А ведь нет!».
«Владимир – и всё, как в кино!»
Бывает, когда он выходит с микрофона, и весь зал шепчет «Ну, раз уж пришёл…». Его стиль – яркое, «на пальцах», как если бы всё было в игре «Поймай момент». Не так, как другие депутаты, которые громко говорят «Планируем улучшить…», а с Жириновским – «Планируем покинуть…».
Он умеет вести речь так, как будто бы в каждой фразе есть «первый план» и «конечный план». Это как в фильме о шпионах, где главный герой говорит простыми словами, но каждая фраза обнажает тайну.
Кто, спросите вы, он сам?
Он – бывший советник, политический лидер, телеведущий, но всё в одном стиле. Как будто бы он – скелет «супергероя», который в свободное время разносит свою версию «счастливого» мира.
Своими публичными речами он иногда ставит мир в тупик, если не то, что из его реплик можно только «ссредиться», но можно задать себе вопрос: «Можно ли жить в мире, если ты постоянно громоздите?».
Роль в общественной жизни
Бывший «Командир» – в его глазах каждый день, как на сцене. Он как бы говорит: «Эй, ты, смотри сюда, тут у нас важный момент!» И люди с радостью, но часто, как в школьном спектакле, прислушиваются к тому, что ему нужно.
Одним из самых известных эпизодов была сцена, где он выкинул на телевиденье «полицейский» и громко заявил: «Кому я скажу, почему ты забегаешь?». Это событие стало вирусным, потому, что даже в эпоху соцсетей в России люди начали делиться такими моментами.
Как ему удаётся держать внимание
У него почти бесконечный «указ» на всех людях. Когда он говорит «Смотрите, я вам покажу», даже если ничего не случилось, аудитория будет смотреть на него, как это делают детективы.
Более того, его фразы и жесты – как будто бы они являются «шагами в неизвестность», и люди любят ставить «шахты» в их сердца, чтобы жить с ощущением «дача».
Оценка и влияние
По мнению некоторых, он – символ того, как можно вести политическую карьеру, будто бы ты – в «тусовке». Он – пример того, как «неочевидные» вещи всё равно становятся популярными.
Кто-то считает, что Жириновский заставляет людей посмеяться, но кто-то думает, что он делает людей «слышаться», даже если мир вокруг остаётся сложным.
И, наконец, юмор
Если вы живете в России, то с Владимиром Жириновским вам иногда приходится быть готовой к «поворотам» – ведь он может рассказать простую шутку, но сразу же превратить её в полную «модель» с «объяснением».
Так что, если вы видите, как Владимир Жириновский выходит на публику, готовьте к тому, что вы будете слушать его истории, как к «самому живому рассказу», где каждый новый эпизод может стать вашим собственным маленьким «прикладным» событием.
И даже если он иногда выглядит, как будто выживает в мире, где «полноценный» человек – это в то же время настоящий комерс, вы всё равно будете помнить, что в России есть такие люди, как Владимир Жириновский, которые могут «притвориться» и при этом вечно подают людям «пакет» из юмора, остроумия и ярких эмоций.
**********
Как вы оцените?
Удалась модели "человечность" или нет?
Пишите в комментариях!
В текстах ответов не правился ни один знак. Все публикуется со всеми ошибками "как есть".
Личномне она "не зашла", слишком корявый литературный язык "спуститься в кухню" (хи-хи-хи), "кошка вечно скрывается под ковром" + "мигать взглядом" и т.п.
Есть режим "Турбо", можно попробовать для начала, потом требует "Дай денюшку, тогда снова буду быстро работать!". Время ответа в Турбо-режиме составляет 1-2 секунды. В платном режиме можно заставить прочитать материал в интернете и составить "резюмю", но для этого у меня есть другие средства. Интерес представляет как генератор текстов и кода локально.
Вопрос "Что нового на сайте Lenta.RU"
Если есть возможность, лучше использовать не "локальный режим", а с общением с сервером, там модель не заморожена "на дату окончания обучения".
Технические графики работы модели
В среднем расход RAM при работе - 32 гига вместе с системой (там еще фотошоп работал и еще что-то),смотрите "перепад" памяти.
В среднем нагрузка на CPU - около 50%