GenAI
言語、視覚言語、音声モデルを提供し、組み込みます。 これらのチュートリアルを順番に進めてください。
複数のGenAIモデルをNeat GenAIサーバーの背後でホストすることで、UI、サービス、またはリモートクライアントが、1つのプロセスからLLM、VLM、およびASRエンドポイントを呼び出せるようにします。
GenAI モデルのディレクトリをロードし、シンプルなプロンプトを送信し、システムプロンプトを追加してから、同じパターンをチャット履歴とストリーミングに拡張します。
同じ画像について、画像を毎回エンコードし直さずに、繰り 返し質問します。
LLM、VLM、またはASRの処理が、より大規模な処理の1つの段階である場合に、GenAIのグラフフラグメントを使用します。 Neat グラフ。