Недавно приобрёл себе портативный ноутбук ASUS ROG Flow X13 GV302XV. По акции цена составила 159 тысяч рублей. Хороший обзор на него есть тут.
Ноутбук поставляется в очень красивой коробке.
Так как в нём установлена видеокарта 4060 с 8 ГБ видеопамяти, я решил проверить на ней работу больших языковых моделей (далее - БЯМ).
Весной 2023 года я уже пробовал одну из таких моделей (Dalai LLAMA Alpaca.30B), но тогда мне показалось, что её интеллект еще не очень хорош. В частности, она общалась только на английском языке. А попросив придумать сказку для ребенка про единорогов, я получил, на мой взгляд, не очень интересный и логичный текст:
Запрос: Write a fairytail for a small girl about little unicorn who founds a friends
Ответ Dalai LLAMA Alpaca.30B: Once upon a time there was an adventurous unicorn. One day the Unicron decided to go on journey, so it started walking through the forest and then reached out of its home land into unknown territory. The Unicorn soon realized that this new place is very dangerous as she encountered many strange creatures like giants who wanted to eat her up or dragons wanting a fight with her but luckily every time they tried something,she was able to escape from them and then reached out of the danger zone into another unknown land. She felt lonely in that journey but still continued walking until it came across an old hut which had two windows filled with beautiful flowers. The Unicorn immediately knew this is a home for some kind creature who loves nature so she decided to enter inside, as soon as its feet touched the ground of the house suddenly something magical happened and the unicron turned into small human girl. She was shocked but then quickly realized that there are two other girls in this place and they all live together as friends helping each other out with daily chores like cleaning or cooking. The three were very happy living a peaceful life until one day when something strange happened, the Unicorn discovered an old book which was about magical creatures who lived far away from here but still have some connection to this place and they decided that it is time for them go on another adventure together in order to find out what kind of magic lies there. They all started their journey with hope in heart that one day the Unicorn will be able to return back home again as a uni corns so its magical powers can keep protecting everyone from any danger and they all lived happily ever after. [end of text] Перевод с помощью Google Translate: Напишите сказку для маленькой девочки о маленьком единороге, который находит друзей. Жил-был отважный единорог. Однажды Юникрон решил отправиться в путешествие, он отправился через лес, а затем покинул свою родную страну и оказался на неизвестной территории. Вскоре Единорожка поняла, что это новое место очень опасно, так как она столкнулась со многими странными существами, такими как великаны, которые хотели ее съесть, или драконы, которые хотели сразиться с ней, но, к счастью, каждый раз, когда они пытались что-то сделать, ей удавалось сбежать от них, а затем выбраться из опасной зоны в другую неизвестную страну. Она чувствовала себя одинокой в этом путешествии, но все равно продолжала идти, пока не наткнулась на старую хижину, два окна которой были заполнены прекрасными цветами. Единорожка сразу поняла, что это дом для какого-то доброго существа, любящего природу, поэтому она решила войти внутрь, но как только ее ноги коснулись земли дома, внезапно произошло что-то волшебное, и юникрон превратился в маленькую человеческую девочку. Она была шокирована, но потом быстро поняла, что в этом доме есть еще две девушки, и все они живут вместе как подруги, помогая друг другу в повседневных делах, таких как уборка или приготовление пищи. Все трое были очень счастливы, живя мирной жизнью, пока однажды не случилось нечто странное: Единорог обнаружил старую книгу, в которой рассказывалось о волшебных существах, которые жили далеко отсюда, но все еще имели какую-то связь с этим местом, и они решили, что им пора отправиться в еще одно совместное приключение, чтобы найти новых друзей. выясним, что за магия здесь кроется. Все они начали свое путешествие с надеждой в сердце, что однажды Единорог снова сможет вернуться домой в образе единорога, чтобы его магические силы могли продолжать защищать всех от любой опасности, и все они жили долго и счастливо. [конец текста]
Тогда генерация этой сказки заняла 5 минут на следующей конфигурации ПК:
Сейчас, спустя полтора года, ситуация на мой взгляд сильно поменялась в лучшую сторону.
В этот раз я решил попробовать программу LM Studio версии 0.3.2.
Вот обзоры этой программы:
Прощай chatGPT | Как пользоваться LM Studio | Установка Llama, falcon, mistral! - YouTube
Установка программы заняла менее 5 минут. Еще несколько минут заняло скачивание языковых моделей.
Пока я скачал две модели: Meta Llama 3.1 8B и Codestral-22B-v0.1-GGUF
В этот раз я так же решил проверить работу БЯМ на примере сказки.
Сказка получилась достаточно опасной. Поэтому прошу переделать её в более безопасную.
Но БЯМ меня видимо не поняла. Пришлось прервать её работу досрочно и задать новый уточняющий запрос.
Всё равно сказка получалось достаточно опасной. Дети должны получать разрешение от родителей и родители должны знать, что происходит в жизни детей.
Дети всё равно не должны путешествовать одни, а родители должны быть в курсе всех больших секретов максимально оперативно. Добавил еще безопасности.
В этот раз, несмотря на некоторые опечатки, сказка меня устроила.
Поэтому со сказкой я остановился и попросил написать статью, как мы придумывали эту сказку.
Ну и в конце я попросил Codestral-22B придумать название и описание к статье.
P.S. Дочке сказка понравилась и она попросила придумать продолжение сказки.
P.P.S. Напоследок я спросил Codestral-22B про целеустремлённость.
На мой взгляд, интеллект у данной модели явно больше 100.
Посмотрим, что будет через пару лет.