メインコンテンツまでスキップ

CVUカーネルとグラフのカタログ

このフレームワークには、CVU(EV74)カーネルの小さなカタログが含まれており、これらは、プランナーが各モデルに対して選択する前処理および後処理グラフに組み込まれます。このページでは、カーネルと、それらを構成するグラフファミリーについて説明します。

カーネルファミリー

前処理カーネル

入力とMLAの間で実行されます。標準ファミリー:

  • Resize — バイリニア/ニアレストスケーリング。オプションでレターボックスまたはセンタークロップを使用。
  • 色変換 — RGB ↔ BGR、NV12 → RGB、I420 → RGB、GRAY8 ↔ パック。
  • Layout convert — HWC ↔ CHW、軸の並べ替え。
  • Normalize — チャンネルごとの平均/標準偏差(FP32入力、FP32出力)。

境界カーネル

MLA境界を越えてFP32 / BF16 / INT8をブリッジします。

  • Quant — FP32 → INT8(スケール+ゼロポイント付き)。
  • Dequant — INT8 → FP32(スケール+ゼロポイント付き)。
  • Cast — FP32 ↔ BF16(スケール/ゼロポイントなし)。
  • Tess / Detess — MLAタイルジオメトリへの/からのレイアウトシャッフル。バイト数は同じで、順序が異なります。

融合カーネル

モデルのコントラクトが境界カーネルを要求するが、MLAステージにそれらを含まない場合に、プランナーが選択する組み合わせ:

  • QuantTess — Quant + Tessを融合。
  • DetessDequant — Detess + Dequantを融合。
  • CastTess / DetessCast — BF16パスでCastとTessを融合。

ジェネリック前処理

アプリケーションが任意のユーザー定義変換を供給する場合、プランナーは前処理グラフをジェネリックバリアントにアップグレードし、それらの変換を単一のCVUカーネルに融合させます。MLA境界でのコントラクトは変更されません。

BoxDecode

検出モデルのNMS / デコードを融合する後処理カーネル。出力サンプルにDetectionMetaを生成します。BoxDecodeType.hを参照してください。

グラフの構成方法

4つのPreprocessGraphFamilyの値は、4つのカーネルチェーンに対応します。

グラフファミリーチェーン(入力→MLA)
PreprocResize → ColorConvert → Normalize → MLA(内部でテッセレーション)
QuantResize → ColorConvert → Normalize → Quant → MLA(内部でテッセレーション)
TessResize → ColorConvert → Normalize → Tess → MLA
QuantTessResize → ColorConvert → Normalize → QuantTess → MLA

出力側の対応する処理 — Postproc / Detess / DetessDequant / パススルー — は、MLAのコンパイルされた出力カーネルにdetess/dequantが含まれているかどうかに依存します。

これらの4つのファミリーが存在する理由については、dtype の契約を参照してください。

カーネルの命名規則

フレームワーク内では、カーネルは安定した文字列名で参照され、これらの名前はRoutePlannerの決定とMeasureReportプラグイン/カーネルのタイミング行に表示されます。

  • cvu/preproc/<variant> — 前処理カーネル。
  • cvu/quant/<dtype> — 量子化バリアント。
  • cvu/tess/<geometry> — テッセレーションバリアント。
  • cvu/postproc/box_decode_<type> — BoxDecodeバリアント。

正確なカタログは、core/src/pipeline/internal/sima/(フレームワークのreach-throughレイヤー)にあります。

詳細

このドキュメントでは、CVUカーネルとグラフのカタログについて説明しました。

  • 「CVUカーネルとグラフのカタログ」— デザインの詳細な解説の第86節、第87節。
  • 「テッセレーション、量子化、キャスト」— デザインの詳細な解説の第17節。
  • PreprocessGraphFamily — 4つのコーナーを持つ列挙型。
  • BoxDecodeType.h — 後処理によるボックスのデコード。