Перейти до основного вмісту

Model Zoo

Model Zoo – це підібрана колекція попередньо скомпільованих і квантованих моделей, які готові до використання на пристроях SiMa.

Використовуйте її, коли вам потрібно:

  • оцініть точність і продуктивність моделі на апаратному забезпеченні Modalix.
  • уникайте ручної компіляції та квантування для відомої моделі.
  • почніть з валідованих артефактів моделі.
  • виберіть моделі, розроблені для конкретної апаратної платформи.

Model Zoo містить попередньо скомпільовані артефакти моделей для Neat C++ і PyNeat, за винятком моделей GenAI.

Список доступних моделей:

sima-cli modelzoo list

Перегляньте модель перед її завантаженням:

sima-cli modelzoo describe yolov5

Завантажте артефакт моделі:

sima-cli modelzoo get yolov5s

Назви моделей можуть відрізнятися залежно від версії. Спочатку використовуйте команду sima-cli modelzoo list, якщо ви не впевнені, який ідентифікатор моделі слід використовувати.

Детальнішу інформацію про команди див. у довіднику sima-cli modelzoo.

Моделі генеративного штучного інтелекту​

Для GenAI, SiMa.ai надає попередньо скомпільовані колекції моделей LLM, VLM та ASR на платформі Hugging Face. Завантажте їх за допомогою LLiMa CLI:

llima pull <model_name>

Наприклад:

llima pull Qwen3-VL-4B-Instruct-GPTQ-a16w4

Після завантаження моделі GenAI використовуйте середовище виконання LLiMa, щоб запустити її на DevKit. Інструкції щодо налаштування та команд для середовища виконання див. у Генеративний ШІ з використанням LLiMa..