システム要件
GenAIモデルのコンパイルとデプロイには、Model Compilerを使用してください。これは、Neat開発環境に付属しています。ホストまたはNeat Frameworkアプリケーションも構築する場合は、完全なNeat開発環境が必要になります。
Model Compilerは、以下の要件を満たすマシンにインストールする必要があります。
| パラメータ | 説明 |
|---|---|
| オペレーティングシステム | Ubuntu 22.04/24.04 LTS、またはWindows 11、またはMacOS 12.0以降。 |
| メモリ | 128GB以上を推奨します。 |
| 保存 | 512GBの空き容量があると望ましい。 |
注記
128GBのコンピューターを使用した場合、コンパイルにかかる時間は、モデルの種類によって異なり、数時間かかる場合があります。64GBのコンピューターであれば、画像処理機能を必要としないモデルであれば使用できる可能性があります。
前提条件
- 最新の、
sima-cli、がModel Compilerにインストールされていることを確認してください。 - SDK環境に必要なSiMa.aiのリリースアセットにアクセスできるようにしてください。
- オープンソースのモデルをダウンロードするには、有効な Hugging Face アカウントが必要です。
- 一部のモデル（例：
google/paligemma）では、Hugging Faceでライセンス契約に同意する必要があります。これらのモデルをダウンロードする前に、ライセンスの内容を確認し、同意するようにしてください。 - CLIに、ユーザーアクセストークンと
huggingface-cliを使用して、Hugging Faceへのアクセスを許可します。sima-cliをインストールすると、huggingface-cliも自動的にインストールされます。