Системні вимоги

Для компіляції та розгортання моделі GenAI використовуйте Model Compiler, який постачається разом із середовищем розробки Neat. Вам не потрібне повне середовище розробки Neat, якщо ви не розробляєте також програми для хост-платформи або Neat Framework. Model Compiler необхідно встановити на комп’ютері, який відповідає наступним вимогам.

Параметр	Опис.
Операційна система	Ubuntu 22.04/24.04 LTS або Windows 11 або MacOS 12.0 або новішої версії.
Оперативна пам’ять	Рекомендовано 128 ГБ оперативної пам’яті або більше.
Зберігання	Бажано, щоб обсяг вільного місця становив 512 ГБ.

примітка

На комп’ютері з 128 ГБ оперативної пам’яті процес компіляції може тривати кілька годин, залежно від типу моделі. Для моделей, які не мають функцій обробки зображень, може бути достатньо 64 ГБ оперативної пам’яті.

Необхідні умови / вимоги.

• Переконайтеся, що остання версія sima-cli встановлена в Model Compiler.
• Майте доступ до необхідних ресурсів для певної версії SiMa.ai, які потрібні для вашого середовища розробки SDK.
• Майте дійсний обліковий запис Hugging Face, щоб завантажувати моделі з відкритим вихідним кодом.
• Деякі моделі, наприклад google/paligemma, вимагають прийняття ліцензійної угоди на платформі Hugging Face. Переконайтеся, що ви ознайомилися з ліцензією та прийняли її, перш ніж намагатися завантажити ці моделі.
• Надайте командному інтерфейсу (CLI) дозвіл на доступ до Hugging Face, використовуючи токен доступу користувача та huggingface-cli. Зверніть увагу, що встановлення sima-cli автоматично встановлює huggingface-cli.