Neat SDK
Neat — це рекомендоване середовище розробки (Neat SDK), яке використовується як робочий простір на стороні хоста для створення масштабних застосунків Neat і їх тестування на Modalix DevKit. Воно об’єднує інструменти для збирання, інструменти для роботи з моделями, підключення до апаратного забезпечення та контекст вихідного коду, готовий для використання агентом, в єдиний контейнеризований робочий процес.
SDK забезпечує зв’язок між трьома компонентами:
- Хост-машина: на ній ви встановлюєте та запускаєте контейнер SDK.
- Контейнер SDK: тут ви розробляєте зас тосунки, компілюєте моделі та використовуєте агента. інструменти та перевіряйте спільні файли.
- Modalix DevKit: місце, де запускаються скомпільовані артефакти моделей і програми Neat. на апаратному забезпеченні.
DevKit Sync з’єднує ці місця за допомогою спільного /workspace, тому результати збірки, журнали, артефакти моделей і файли програм видно з хоста, контейнера SDK і DevKit без необхідності ручного копіювання. Цей спільний робочий простір є центром робочого процесу SDK.
Почніть з інсталяції SDK. Використовуйте інші розділи документації SDK, коли вам потрібно змінити налаштування, додати Model Compiler пізніше, зрозуміти, як працює DevKit Sync, або підготувати пакети для роботи в автономному режимі в обмежених мережах.
Якщо ви встановили SDK і не під’єднали DevKit, вам потрібно лише два кроки: Встановіть необхідне програмне забезпечення., потім Складіть модель. — компіляція моделі повністю відбувається в SDK. Налаштуйте SDK, виконайте DevKit Sync, встановіть Model Compiler (це пропонується під час налаштування), а сторінки Neat Library та PyNeat є необов’язковими додатковими розділами; відвідайте їх лише тоді, коли вони вам потрібні, або після під’єднання DevKit.
Теми, що стосуються SDK
Встановіть SDK, а потім використовуйте додаткові параметри конфігурації, коли потрібно змінити налаштування, встановити Model Compiler або працювати зі з’єднаним DevKit.
- Встановіть необхідне програмне забезпечення.Встановіть і налаштуйте пакет SDK, який відповідає версії вашого програмного забезпечення DevKit.
- DevKit SyncЗрозумійте принципи спільного використання робочого простору, оновлення парних з’єднань, резервне копіювання rsync та інші аспекти.
дквиконання команди. - Встановлення в автономному режиміЗавантажте пакети SDK та Model Compiler для використання в мережевих середовищах з обмеженим доступом.
Щоб змінити налаштування SDK після встановлення, наприклад, розташування робочого простору або налаштування з’єднання з DevKit, див. розділ Налаштуйте SDK..
Model Compiler пропонується під час налаштування SDK. Щоб встановити його пізніше, вкажіть конкретну версію або використовуйте окремий хост, див. розділ Встановіть Model Compiler..
Для хостів, які не можуть завантажувати пакети безпосередньо, див. розділ Встановлення в автономному режимі.
Що входить до комплекту?
- Середовище для перехресної компіляції: створіть C++ програми Neat для Modalix. з контейнера Linux на вашому хості.
- DevKit Sync: об’єднайте SDK з Modalix DevKit і надайте доступ до однакових функцій. робочий простір в обох місцях.
- Інструменти для роботи з моделлю: встановіть відповідний Model Compiler в SDK. потрібно самостійно компілювати або квантувати моделі ONNX або GenAI, і це необов’язково, лише якщо ви використовуєте виключно попередньо скомпільовані пакети моделей.
- Insight: перевіряйте файли робочого простору, джерела медіаконтенту, доставку потокового відео та поведінка програми під час виконання в браузері.
- Контекст, підготовлений для використання агентом: використовуйте вбудовані навички Codex і Claude разом із поточними. Neat: посилання на джерела та приклади.
Вимоги до хоста.
Переконайтеся, що ваш хост відповідає цим мінімальним вимогам, перш ніж встановлювати SDK.
Для встановлення SDK на кожному підтримуваному хості потрібні права адміністратора (sudo), а не лише для необов’язкової мережевої взаємодії DevKit, оскільки для встановлення sima-cli, Docker Engine, образу SDK і пакетів NFS потрібні підвищені права доступу.
| Операційна система хоста. | Центральний процесор | Оперативна пам’ять | Вільний простір на диску. | Адміністратор / sudo |
|---|---|---|---|---|
Ubuntu 22.04 / 24.04 (x86_64 або arm64) | мінімум 4 ядра | мінімум 16 ГБ | 100 ГБ | sudo для встановлення SDK (sima-cli, Docker, образ SDK), встановлення/налаштування NFS та налаштування спільної мережі/брандмауера. |
Windows 11 за допомогою WSL (x86_64) | мінімум 4 ядра | мінімум 16 ГБ | 100 ГБ | Адміністратор, відповідальний за встановлення SDK у WSL (Docker, sima-cli), налаштування мережі WSL та правила брандмауера NFS. |
macOS 15.5 і новіші версії, Apple Silicon (arm64) | мінімум 4 ядра | мінімум 16 ГБ | 100 ГБ | Адміністр атор для встановлення SDK (Homebrew, Colima, sima-cli), повний доступ до диска (nfsd) та спільний доступ до Інтернету. |
Компіляція моделей GenAI за допомогою LLiMa вимагає значно більше ресурсів, ніж базова версія SDK: рекомендовано 128 ГБ оперативної пам’яті, а бажано – 512 ГБ дискового простору, і більша кількість ядер процесора також буде корисною. Повні вимоги див. у розділі Налаштування GenAI..
Підтримувані платформи
| Платформа | Арка | SDK | Model Compiler |
|---|---|---|---|
| Ubuntu 22.04 і 24.04 за допомогою Docker Engine. | x86_64 | Так | Так |
| Windows 11 за допомогою WSL і Docker Engine. | x86_64 | Так | Так |
| Ubuntu 22.04 і 24.04 за допомогою Docker Engine. | arm64 | Так | Model Compiler версії 2.1.2 і новіші. |
| macOS 15.5 або новішої версії за допомогою Colima. | arm64 | Так | Model Compiler версії 2.1.2 і новішої; встановіть його в межах Neat SDK. |
arm64 і aarch64 — це одна й та сама 64-бітна архітектура Arm. macOS відображає її як arm64, а Linux — як aarch64. Аналогічно, x86_64 і amd64 — це одна й та сама архітектура. Запустіть uname -m на вашому хості (або всередині SDK), щоб дізнатися, яка у вас. Команди для встановлення Model Compiler використовують arm64 і amd64 — див. Встановіть Model Compiler..
Під час стандартної інсталяції використовуються поточні значення за замовчуванням. Канал release-2.1, який використовується на сторінці Встановіть необхідне програмне забезпечення., завжди містить інформацію про останню версію патчу 2.1. Щоб встановити конкретну версію SDK, Neat Library або Model Compiler, зверніться до Пос ібник зі сумісності.
Інструменти в SDK.
SDK – це рекомендоване місце для встановлення та оновлення Neat Library, коли ви розробляєте програми для парного DevKit.
Щоб отримати доступ до SDK з терміналу, VS Code або браузера з Neat Insight, див. Встановіть необхідне програмне забезпечення..
Під час налаштування SDK, sima-cli пропонує автоматично встановити відповідний Model Compiler. Встановіть його, якщо ви самостійно компілюєте або квантуєте моделі; ви можете пропустити цей крок, якщо використовуєте лише попередньо скомпільовані пакети моделей. Інструкції щодо налаштування та використання компілятора див. у розділі Складіть модель..
Наступний крок
Почніть з Встановіть необхідне програмне забезпечення..