Skip to content

README-ru.md

Latest commit

 

History

History
282 lines (184 loc) · 12.7 KB

README-ru.md

File metadata and controls

282 lines (184 loc) · 12.7 KB

Запустите собственный узел GaiaNet

GaiaNet Discord GaiaNet Twitter Gaianet website

Japanese(日本語) | Chinese(中文) | Korean(한국어) | Turkish (Türkçe) | Farsi(فارسی) | Arabic (العربية) | Indonesia | Russian (русскийة) | Portuguese (português) | Нам нужна ваша помощь в переводе этого README на ваш родной язык.

Если вам нравится наша работа — ⭐ поставьте звезду!

Ознакомьтесь с нашими официальными документациями и электронной книгой Manning о том, как настраивать открытые модели.

Быстрый старт

Установите стандартный программный стек узла одной командой на Mac, Linux или Windows WSL.

curl -sSfL 'https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh' | bash

Затем следуйте подсказкам на экране для настройки переменной окружения PATH. Команда начнётся с source.

image

Инициализируйте узел. Он загрузит файлы модели и файлы векторной базы данных, указанные в файле $HOME/gaianet/config.json. Поскольку файлы большие, процесс может занять несколько минут.

gaianet init

Запустите узел.

gaianet start

После запуска в консоли появится официальный адрес узла, например: Вы можете открыть этот URL в браузере, чтобы просмотреть информацию об узле и начать чат с ИИ-агентом на узле.

... ... https://0xf63939431ee11267f4855a166e11cc44d24960c0.us.gaianet.network

Для остановки узла выполните:

gaianet stop

Руководство по установке

curl -sSfL 'https://raw.githubusercontent.com/GaiaNet-AI/gaianet-node/main/install.sh' | bash
Пример вывода: 
[+] Downloading default config file ...

[+] Downloading nodeid.json ...

[+] Installing WasmEdge with wasi-nn_ggml plugin ...

Info: Detected Linux-x86_64

Info: WasmEdge Installation at /home/azureuser/.wasmedge

Info: Fetching WasmEdge-0.13.5

/tmp/wasmedge.2884467 ~/gaianet
######################################################################## 100.0%
~/gaianet
Info: Fetching WasmEdge-GGML-Plugin

Info: Detected CUDA version:

/tmp/wasmedge.2884467 ~/gaianet
######################################################################## 100.0%
~/gaianet
Installation of wasmedge-0.13.5 successful
WasmEdge binaries accessible

    The WasmEdge Runtime wasmedge version 0.13.5 is installed in /home/azureuser/.wasmedge/bin/wasmedge.


[+] Installing Qdrant binary...
    * Download Qdrant binary
################################################################################################## 100.0%

    * Initialize Qdrant directory

[+] Downloading the rag-api-server.wasm ...
################################################################################################## 100.0%

[+] Downloading dashboard ...
################################################################################################## 100.0%

По умолчанию установка происходит в каталог $HOME/gaianet. Вы можете указать другой каталог для установки:

curl -sSfL 'https://raw.githubusercontent.com/GaiaNet-AI/gaianet-node/main/install.sh' | bash -s -- --base $HOME/gaianet.alt

Инициализация узла

gaianet init
Пример вывода: 
[+] Downloading Llama-2-7b-chat-hf-Q5_K_M.gguf ...
############################################################################################################################## 100.0%############################################################################################################################## 100.0%

[+] Downloading all-MiniLM-L6-v2-ggml-model-f16.gguf ...

############################################################################################################################## 100.0%############################################################################################################################## 100.0%

[+] Creating 'default' collection in the Qdrant instance ...

    * Start a Qdrant instance ...

    * Remove the existed 'default' Qdrant collection ...

    * Download Qdrant collection snapshot ...
############################################################################################################################## 100.0%############################################################################################################################## 100.0%

    * Import the Qdrant collection snapshot ...

    * Recovery is done successfully

Команда init инициализирует узел согласно настройкам из файла $HOME/gaianet/config.json. Вы можете использовать готовые конфигурации. Например, следующая команда инициализирует узел с моделью llama-3 8B и лондонским путеводителем в качестве базы знаний.

gaianet init --config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/llama-3-8b-instruct_london/config.json

Чтобы посмотреть список готовых конфигураций, используйте: gaianet init --help Помимо готовых конфигураций, таких как gaianet_docs, вы можете передать URL собственного файла config.json для инициализации узла с нужными вам настройками.

Если узел установлен в альтернативном каталоге, инициализируйте его так:

gaianet init --base $HOME/gaianet.alt

Запуск узла

gaianet start
Пример вывода: 
[+] Starting Qdrant instance ...

    Qdrant instance started with pid: 39762

[+] Starting LlamaEdge API Server ...

    Run the following command to start the LlamaEdge API Server:

wasmedge --dir .:./dashboard --nn-preload default:GGML:AUTO:Llama-2-7b-chat-hf-Q5_K_M.gguf --nn-preload embedding:GGML:AUTO:all-MiniLM-L6-v2-ggml-model-f16.gguf rag-api-server.wasm --model-name Llama-2-7b-chat-hf-Q5_K_M,all-MiniLM-L6-v2-ggml-model-f16 --ctx-size 4096,384 --prompt-template llama-2-chat --qdrant-collection-name default --web-ui ./ --socket-addr 0.0.0.0:8080 --log-prompts --log-stat --rag-prompt "Use the following pieces of context to answer the user's question.\nIf you don't know the answer, just say that you don't know, don't try to make up an answer.\n----------------\n"


    LlamaEdge API Server started with pid: 39796

Вы можете запустить узел только для локального использования — тогда он будет доступен только через localhost и не будет доступен через публичные URL-адреса GaiaNet.

gaianet start --local-only

Для запуска узла из альтернативного каталога:

gaianet start --base $HOME/gaianet.alt

Остановка узла

gaianet stop
Пример вывода: 
[+] Stopping WasmEdge, Qdrant and frpc ...

Остановка узла из альтернативного каталога:

gaianet stop --base $HOME/gaianet.alt

Обновление конфигурации

С помощью подкоманды gaianet config вы можете обновлять ключевые параметры в файле config.json. После изменения конфигурации обязательно выполните gaianet init заново.

Пример обновления URL модели чата:

gaianet config --chat-url "https://huggingface.co/second-state/Llama-2-13B-Chat-GGUF/resolve/main/Llama-2-13b-chat-hf-Q5_K_M.gguf"

Пример обновления размера контекста модели чата:

gaianet config --chat-ctx-size 5120

Все доступные опции подкоманды config:

$ gaianet config --help

Usage: gaianet config [OPTIONS]

Options:
  --chat-url <url>               Обновить URL модели чата.
  --chat-ctx-size <val>          Обновить размер контекста модели чата.
  --embedding-url <url>          Обновить URL модели эмбеддингов.
  --embedding-ctx-size <val>     Обновить размер контекста модели эмбеддингов.
  --prompt-template <val>        Обновить шаблон подсказки модели чата.
  --port <val>                   Обновить порт LlamaEdge API Server.
  --system-prompt <val>          Обновить системную подсказку.
  --rag-prompt <val>             Обновить rag-подсказку.
  --rag-policy <val>             Обновить политику rag [Возможные значения: system-message, last-user-message].
  --reverse-prompt <val>         Обновить обратную подсказку.
  --domain <val>                 Обновить домен узла GaiaNet.
  --snapshot <url>               Обновить снимок Qdrant.
  --qdrant-limit <val>           Обновить максимальное число возвращаемых результатов.
  --qdrant-score-threshold <val> Обновить минимальный порог оценки для результата.
  --base <path>                  Базовый каталог узла GaiaNet.
  --help                         Показать это сообщение помощи.

Приятного использования!

Ресурсы и вклад в проект

Ищете документацию? Ознакомьтесь с официальной документацией и руководством по участию. Рекомендуем также посмотреть Awesome-Gaia — список полезных инструментов и проектов сообщества Gaia.

Хотите пообщаться с сообществом? Присоединяйтесь к нашему Telegram чату Telegram и делитесь идеями и своими разработками на базе GaiaNet.

Нашли ошибку? Загляните в трекер задач, мы постараемся помочь. Мы также рады pull request'ам!

Все участники GaiaNet обязаны соблюдать Кодекс поведения.

→ Начать вносить вклад на GitHub

Участники проекта

Gaia project contributors