Palette Neat

Palette Neat は、Modalix 上で AI アプリケーションを構築するための SiMa.ai ソフトウェア開発ツールキットです。開発環境、ランタイムライブラリ、モデルツール、 DevKit 検証ワークフローが含まれています。これらのコンポーネントにより、モデルの準備、 アプリケーションの構築、Modalix ハードウェアでの結果の検証という一連の開発工程を サポートします。

この概要では、Palette Neat の主要な構成要素を理解し、セットアップ、モデル準備、 アプリケーション開発に適した経路を選択できます。

開発者向けガイド

Palette Neat を初めて使用する場合

Palette Neat でアプリケーションを開発する方法は 2 つあります。

• モデルのコンパイルや大規模な C++ コードのクロスコンパイルを予定しているなど、 より高性能な開発環境が必要な場合は、**Neat SDK を使用する**を選択します。
• 特にモデルのコンパイルを行わず、開発環境の構成要素を減らしたい場合は、 **DevKit 上で直接開発する**を選択します。

SDK の経路を選択する場合は、ホストがホスト要件を 満たしていることを確認してから SDK をインストールしてください。SDK のインストールでは 互換性のある既定値が適用されるため、正確なバージョンを固定する場合、コンポーネントを 個別にアップグレードする場合、またはバージョンの不一致をトラブルシューティングする場合にのみ、 互換性リファレンスが必要です。

SDK のみの最短経路（DevKit なし）： SDK をインストールしたら、 モデルのコンパイルへ直接進みます。SDK の構成、DevKit Sync、 Neat Library、PyNeat は、DevKit を接続するまで省略できる任意の手順です。

はじめに

ローカル開発とハードウェア検証のために、ホストマシン、Neat SDK、DevKit を準備します。

• Neat SDK高性能なホストベースのワークフロー、モデルコンパイル、C++ ビルド、DevKit 検証に SDK を使用します。
• Neat LibraryDevKit 上で少ない構成要素でアプリケーションを試作する場合は、ランタイムと PyNeat を直接インストールします。
• 互換性ガイドサポートされるバージョンの組み合わせを確認するためのリファレンスです。

モデルの準備

学習済みモデルを Modalix ハードウェアで実行できるデプロイ可能なアーティファクトに変換します。

• モデルのコンパイル事前学習済み ONNX ビジョンモデルまたは GenAI モデルを Modalix 向けにコンパイルします。
• コンパイル済みモデルの使用すぐに実行できるモデルアーティファクトで迅速に開始します。
• LLiMa による GenAIModalix 上で GenAI モデルをコンパイル、テスト、ベンチマークします。

アプリケーションの構築

Neat Library を使用してモデルを実行し、本番アプリケーションのパイプラインを構成します。

• Hello Neat!最初の Neat アプリケーションを実行して、開発ワークフローを確認します。
• アプリケーション開発C++ または PyNeat を使用して、Neat Library で AI アプリケーションを構築します。
• チュートリアル実際の Neat アプリケーションパターンをガイド付きの例で学習します。

ツールとリファレンス

詳細が必要な場合は、補助ツールとリファレンス資料を利用します。

• ツールsima-cli、Model Zoo、Insight。
• リファレンスAPI、トラブルシューティング、環境変数、データ形式、リリースノートを参照します。
• トラブルシューティングセットアップ、ランタイム、パイプラインの問題に対する解決策を確認します。