跳至主要内容

BoxDecode 解碼類型

nodes::SimaBoxDecode 將原始的檢測頭張量轉換為檢測結果。它在模型推論之後執行,應用所選模型系列的解碼數學公式,過濾掉低信度框,執行非最大值抑制 (NMS),並輸出一個張量有效載荷,該有效載荷以解碼後的框開始。檢測模型可以將該有效載荷解析為框;姿勢和分割模型也可以解析在框之後的關鍵點或遮罩。

對於一般的模型套件使用,建議使用 Model 感知的建構函式。模型封存檔提供了解碼器所需的張量順序、佈局、量化、類別數量、調整大小的中繼資料和分數域提示。您的應用程式通常只需要選擇解碼系列和過濾閾值。

快速入門

using namespace simaai::neat;

Model model("/path/to/yolov8_model.tar.gz");

auto boxdecode = nodes::SimaBoxDecode(
model,
BoxDecodeType::YoloV8,
/* detection_threshold */ 0.25,
/* nms_iou_threshold */ 0.45,
/* top_k */ 100);

針對單獨的階段使用:

simaai::neat::stages::BoxDecodeOptions opt(simaai::neat::BoxDecodeType::YoloV8);
opt.detection_threshold = 0.25;
opt.nms_iou_threshold = 0.45;
opt.top_k = 100;

參數

參數意義
decode_type模型系列/標頭格式,例如 BoxDecodeType::YoloV8BoxDecodeType::YoloX。必填。
detection_threshold為了保留檢測結果,所需的最低分數。請使用適合模型的數值,例如 0.25
nms_iou_threshold非最大值抑制中使用的 IoU 閾值。
top_k保留的最多檢測數量。0 使用後端/模型的預設值。
original_width, original_height使用原始幾何建構函時,用於座標映射的原始影像大小。
model_widthmodel_height用於覆寫模型輸入大小。在使用 Model 建構函式時,這會更改空間解碼參數,而非已封裝的張量合約。
resize_mode_override僅在沒有上游 Preproc 階段寫入調整大小的元資料,且您需要明確指定拉伸/信箱/裁剪行為時使用。
decode_type_option進階子版面設定選擇器。除非您知道匯出的版面設定,否則請保留為 Auto,以便用於模型套件。

輸入與輸出

**輸入:**來自模型的原始檢測張量。預期的張量形狀取決於模型系列。對於 MPK/模型封存檔,Neat 會從封裝的合約中讀取這些詳細資訊。

**輸出:**一個 BoxDecode 張量,其中包含已解碼的檢測結果。檢測模型使用標準 BBOX 負載。姿勢和分割模型保留相同的初始框,並附加其任務特定的負載:

模型任務C++ 輔助程式Python 輔助程式解碼後的張量
偵測decode_bbox(...)pyneat.decode_bbox(...)[N, 6] float32 框:x1, y1, x2, y2, score, class_id
姿勢decode_pose(...)pyneat.decode_pose(...)方框 [N, 6] 和關鍵點 [N, 17, 3] float32:x, y, visibility
分割decode_segmentation(...)pyneat.decode_segmentation(...)方塊 [N, 6] float32,以及遮罩 [N, 160, 160] uint8
SuperPointdecode_superpoint(...)pyneat.decode_superpoint(...)關鍵點 [N,2],分數 [N],描述子 [N,D]

偵測顯示圖可以將結果傳送到 SimaRender。如果應用程式碼只需要框選結果,則可以繼續使用 decode_bbox(...) 處理 BoxDecode 的輸出。

超級點

SuperPoint 仍然是 BoxDecode 產品的一部分,但它會輸出特徵點,而不是假裝這些點是方框。最簡化的 A65 預設設定如下:

BoxDecodeOptions options{BoxDecodeType::SuperPoint};
options.superpoint.descriptor_output_dtype = TensorDType::Float32;

auto decoder = nodes::SimaBoxDecode(model, options);

Python 使用相同的預設值:

options = pyneat.BoxDecodeOptions(pyneat.BoxDecodeType.SuperPoint)
options.superpoint.descriptor_output_dtype = pyneat.TensorDType.Float32

decoder = pyneat.nodes.sima_box_decode(model, options=options)

A65V1 是預設設定檔。當模型需要不同的數值行為時,請明確選擇另一個設定檔;Neat 不會根據張量的形狀或值來推斷行為:

個人檔案何時選擇生產狀態
LightGlueV1與 LightGlue 相容的檢測器、非最大值抑制 (NMS)、座標和描述符行為已支援
MagicLeapDemoV1固定位置的 Magic Leap 示範行為支援
A65V1與先前 A65 SuperPoint 解碼器相容已支援;預設值
PaperBicubicV1保留的數值 ID,用於未來完全指定的雙三次插值策略暫時拒絕,直到產品定義完成

數值行為和輸出編碼是相互獨立的。例如,選擇 A65 數值行為,並使用預設的 V1 輸出:

BoxDecodeOptions options{BoxDecodeType::SuperPoint};
options.superpoint.profile = SuperPointProfile::A65V1;
options.superpoint.output_format = SuperPointOutputFormat::FeaturePointsV1;

舊版位元組設定為選擇性功能,且具有額外的限制:

options.superpoint.profile = SuperPointProfile::A65V1;
options.superpoint.output_format = SuperPointOutputFormat::LegacyA65InterleavedV0;
options.superpoint.descriptor_output_dtype = TensorDType::Int8;

SuperPointProfile::Auto 首先使用權威的 MPK superpoint.profile 元資料。如果 API (Model::Options.superpoint.profile) 或 MPK 都未提供設定檔,則會解析為 A65V1。 Neat 不會根據張量形狀、值、檔案名稱或下游節點來推測設定檔。

當其公開的預設值保持不變時,detection_threshold=0.0top_k=0nms_radius=-1border_margin=-1 將從選定的設定檔中解析。A65V1 解析為閾值 0.1、Top-K 600、NMS 半徑 4 和邊界間距 0。LightGlueV1 和 MagicLeapDemoV1 使用閾值 0.00050.015,分別;兩者都使用 Top-K 600、NMS 半徑 4 和邊界間距 4

nms_iou_threshold 不適用於 SuperPoint;請使用像素半徑 superpoint.nms_radius。預設輸出是版本化的 FEATURE_POINTS_V1 結構化陣列有效載荷。LegacyA65InterleavedV0 是一種明確的遷移格式,需要 256 維 INT8 描述符。請使用 decode_superpoint,而不是 decode_bboxBoxDecodeResults

版本化的 MPK superpoint 模式 v1 記錄是「失敗時關閉」的。它們必須命名設定檔、不同的檢測器和描述符張量 ID、一個帶有 64 個十六進位數字的 sha256: 指紋,以及受支援的輸入表示形式 raw-logits-65coarse-pre-l2。模式 0 僅作為遷移/手動記錄被接受;省略的模式 0 表示形式欄位會正規化為這兩種原始輸入表示形式,並記錄在診斷資訊中作為預設值。未知的模式版本或表示形式標記會導致合約編譯失敗。 如果 API 設定檔覆蓋與為不同 MPK 設定檔蓋章的指紋衝突,則重新為選定的設定檔蓋章 MPK;Neat 不會捨棄或重新解釋該來源。

BBOX 線路負載

偵測解碼器會針對每個輸入影格輸出一個標記為 BBOX 的張量。該張量是一個一維的 UInt8 位元組緩衝區:

欄位
semantic.detection.format"BBOX"
dtypeUInt8
shape[N_bytes],其中 N_bytes 是來自模型封存檔的已封裝緩衝區容量。

張量的形狀代表的是位元組數量,而不是偵測到的物件數量。有效載荷採用小端格式:

offset size content
------ ---- -------
0 4 uint32 N = valid detections in this frame
4 24 RawBox[0]
28 24 RawBox[1]
. . ...
. . RawBox[N-1]
trailing bytes are padding and must be ignored

每個 RawBox 記錄的長度為 24 位元組:

偏移量大小類型欄位意義
04int32x原始影像中左上角的位置(以像素為單位)。
44int32y來源影像中,左上角 y 座標。
84int32w原始影像的寬度(以像素為單位)。
124int32h原始影像中的高度(以像素為單位)。
164float32score[0.0, 1.0] 中,NMS 之後的置信度。
204int32class_id模型定義的類別 ID。

對應的 Python struct 格式,用於單一記錄,為 "<iiiifi"

如果存在上游預處理的元資料,則座標將以原始影像的像素為單位。它們不會正規化到 [0, 1],也不會以模型內部「黑邊」輸入空間的形式表示。

model.run 傳回原始的標題時

某些模型路徑會從 model.run(...) 傳回原始的特徵圖頭,而不是傳回已解碼的 BBOX 張量。這並不是表示執行失敗。這表示模型已執行,但該路徑在您讀取輸出時並沒有包含「框解碼」步驟。

請使用以下規則:

  • detections=... 或一個 BBOX 張量:解析壓縮後的 BBOX 負載,或使用。 解碼輔助工具。
  • raw_output_heads=...: 新增「BoxDecode」階段,或檢查模型路徑。 使用模型特定的後處理方式來處理原始的張量。

請勿將原始標頭解析為框。原始張量的佈局取決於導出的模型系列和模型封存檔合約。

覆寫合約

模型封存檔可以提供解碼類型、閾值、top_k 以及來源幾何體的預設值。只有在您傳遞非空或正值時,執行階段參數才會覆寫這些預設值。

執行階段參數傳遞的值行為
decode_type空值 / Unspecified在支援的情況下,保留模型封存檔或路徑規劃器推論。
decode_type具體類型覆寫本次運行的解碼規則。
original_width / original_height0保留封裝後的幾何資訊或上游預處理的元資料。
original_width / original_height必須是正整數用於覆寫原始尺寸,以便進行座標映射。
detection_threshold / score_threshold0.0保留封裝後的閾值。
detection_threshold / score_threshold> 0.0覆蓋分數門檻。
nms_iou_threshold0.0保留封裝後的 NMS IoU。
nms_iou_threshold> 0.0覆寫非最大值抑制(NMS)的交集比率(IoU)。
top_k0保留已封裝的 Top-K 結果。
top_k> 0覆寫保留的最大檢測數量。
num_classes0使用從 MPK 推斷出的類別標題深度。
num_classes一個符合 MPK 規範的正整數。使用明確的類別數量。當 MPK 無法可靠地推斷出單一類別標頭時,這項設定是必需的。
num_classes必須是一個正整數,否則會與 YOLO26 MPK 產生衝突。錯誤應在建置管線之前發生,並報告這兩個值。YOLO26 透過類別深度來決定其分組的原始標頭佈局,因此這種不匹配是模型合約錯誤。
num_classes是一個正整數,適用於 SSD 或 YOLO26 之前的非姿態檢測 YOLO 系列。保留現有的明確覆寫行為。姿態解碼器和 SuperPoint 仍保留其各自系列特定的規則。

detection_threshold 這是 BoxDecode 節點/階段建構函式所使用的名稱。 ModelOptions.score_threshold 是模型路由選項,它會將相同的控制訊號傳送至。

解碼類型對應表

API 列舉後端權杖典型的模型系列
BoxDecodeType::Yoloyolo通用 YOLO 樣式的檢測頭
BoxDecodeType::YoloV5yolov5YOLOv5 偵測
BoxDecodeType::YoloV5Segyolov5-segYOLOv5 分割
BoxDecodeType::YoloV7yolov7YOLOv7 偵測
BoxDecodeType::YoloV7Segyolov7-segYOLOv7 分割
BoxDecodeType::YoloV8yolov8YOLOv8 偵測
BoxDecodeType::YoloV8Segyolov8-segYOLOv8 分割
BoxDecodeType::YoloV8Poseyolov8-poseYOLOv8 姿勢
BoxDecodeType::YoloV9yolov9YOLOv9 偵測
BoxDecodeType::YoloV9Segyolov9-segYOLOv9 分割
BoxDecodeType::YoloV10yolov10YOLOv10 偵測
BoxDecodeType::YoloV10Segyolov10-segYOLOv10 分割
BoxDecodeType::YoloV26yolo26YOLO26 偵測
BoxDecodeType::YoloV26Poseyolo26-poseYOLO26 姿勢
BoxDecodeType::YoloV26Segyolo26-segYOLO26 分割
BoxDecodeType::YoloV6yolov6YOLOv6 偵測
BoxDecodeType::YoloXyoloxYOLOX 偵測
BoxDecodeType::Ssdssd精確選擇已準備好的 SSD300、SSD-Mobile-300、SSD-Mobile-320 或 SSDlite-Mobile-320 合約,並從已排序的磁碟頭幾何結構中選取。
BoxDecodeType::SuperPointsuperpointSuperPoint 檢測器和描述符後處理
BoxDecodeType::DetrdetrDETR 樣式的變壓器檢測
BoxDecodeType::EffDeteffdetEfficientDet 偵測
BoxDecodeType::RcnnStage1rcnn-stage1 R-CNN 提案階段
BoxDecodeType::CenternetcenternetCenterNet 偵測

BoxDecodeType::Unspecified 是一個未設定的標記,會在執行階段之前就發生錯誤。SSD 處方識別碼是一個內部核心合約(ssd300-v1ssd-mobile-300-v1ssd-mobile-320-v1ssdlite-mobile-320-v1),而不是另一個公開的解碼類型或後端標記。核心會在降低之前解析它,而已安裝的物件解碼器會繼續接收其支援的 ssd 系列標記,並從已經驗證的磁碟頭幾何形狀中選擇對應的固定實作。

選擇合適的類型

  • 如果您使用的是 SiMa 提供的或 SiMa 編譯的模型套件,請選擇與模型系列相符的 BoxDecodeType,並將 decode_type_option 保持為 Auto
  • 如果您的偵測結果遺漏,或者所有分數都異常偏低,請先確認解碼模型是否與匯出的模型頭相符。YOLOX、YOLOv6 和 YOLO26 使用原始/邏輯樣式的模型頭,不應像僅使用機率值的 YOLO 模型頭一樣進行處理。
  • 如果方塊的位置或大小比例顯示不正確,請檢查影像調整大小的策略。僅在您的圖表沒有上游 Preproc 階段來寫入調整大小的中繼資料時,才使用 resize_mode_override
  • 如果您正在製作自訂的模型套件,請務必確保封存檔準確地描述了檢測頭:張量順序、邏輯形狀、實際儲存方式、dtype/量化、分數範圍、類別數量,以及任何切片輸出。應用程式程式碼不應需要針對這些細節進行調整。

形狀與佈局指南

不同的偵測模型會使用不同的輸出層設定。有些模型會針對每個特徵圖層使用一個張量;有些模型則會將邊界框、物件性、類別、關鍵點或遮罩分割成不同的張量。有些模型的輸出是稠密的 HWC 張量;有些則是由編譯器/執行階段進行封裝或切片。

對於模型封裝流程,這由封裝的合約來處理。對於手動連接的張量,關鍵規則是:完全匹配匯出的輸出層格式。不要僅僅根據秩或通道數來選擇解碼類型。

進階張量合約規則:

  • YOLO 系列的解碼類型:YoloYoloV5YoloV7YoloV8YoloV9YoloV10,以及分割/姿勢變體,都預期會使用分離式輸出層或與模型系列相符的整合式輸出層。
  • 打包後的 YOLO 模型,其類別數量和模型深度必須在所有模型中保持一致。 功能等級。
  • YoloV26 使用分組的原始左/上/右/下邊界框預測頭,以及類別分數預測頭。
  • Ssd不是一個通用的 SSD 解碼器。它僅能解析四個預先設定的設定檔。 從編譯時完整的、依序排列的 loc/conf H/W/C 簽章開始。任何其他標頭集合或順序都會被拒絕,並顯示錯誤訊息,其中包含觀察到的和支援的簽章:
    • SSD300dboxes300_coco):300×300 輸入,特徵圖 {38,19,10,5,3,1},每個單元格的先驗值 {4,6,6,6,4,4},信賴度通道順序。 class*A + anchor,透過類別維度上的 softmax 函數計算類別分數(包含索引 0 的背景)。
    • SSD-Mobile-300-v1 (ssd_anchor_generator):300×300 輸入,特徵 地圖 {19,10,5,3,2,1}、每個單元格的先驗值 {3,6,6,6,6,6}、置信度通道 順序 anchor*C + class,透過每個類別的 sigmoid 函數計算類別分數(忽略背景)。
    • SSD-Mobile-320-v1 (ssd_anchor_generator):320×320 輸入,特徵 地圖 {20,10,5,3,2,1}、每個單元格的先驗值 {3,6,6,6,6,6}、置信度通道 順序 anchor*C + class,透過每個類別的 sigmoid 函數計算類別分數(忽略背景)。
    • SSDlite-Mobile-320-v1(TorchVision DefaultBoxGenerator):320×320 輸入、特徵圖 {20,10,5,3,2,1},每個層級的每個單元都有六個先驗框, 定位順序 anchor*4 + {dx,dy,dw,dh},置信度順序 anchor*C + class,以及通過對所有 91 個類別(包括背景)進行 softmax 運算得到的類別分數。

所有配方都使用分組的每層定位頭(深度 = 4 * priors-per-cell),與類別-置信度頭(深度 = num_classes * priors-per-cell)配對,並使用 FasterRcnnBoxCoder 方差縮放(scale_xy 0.1scale_wh 0.2)以及 拉伸(各向異性)預處理調整大小。分數激活由配方固定(與設備上的解碼器匹配),並且按角色分組的佈局是自動選擇的——將 decode_type_option 設置為 Auto。如果使用非分組佈局,則會被拒絕。

模型框架是設定檔的一部分,而不僅僅是頭幾何形狀。SSD300-v1 和 SSD-Mobile-300-v1 需要 300×300;兩個 320-v1 設定檔都需要 320×320。如果在建置時解析的預處理調整大小目標或模型尺寸覆蓋為任何其他大小,則會被拒絕,因為先驗表和拉伸反投影僅在該框架下有效。

原始/獨立的 SimaBoxDecode 建置永遠不會發明調整大小模式。保留上游 Preproc 元資料要求,或者使用顯式原始重載來斷言外部執行的 ResizeMode::Stretch;Letterbox 和 Crop 將被拒絕。

**num_classes 協議。**編碼的類別數量始終從置信度頭的深度(conf_depth / priors-per-cell,包括索引 0 處的背景)推導得出。SSD300-v1 允許使用連續的前綴選擇,例如準備好的 81 到 8 的路徑;其他三個設定檔需要準確的編碼計數。如果選擇無效,則會在建置時被拒絕。如果要使用設定檔的預設值,請將其設置為未設定。

  • Detr 會根據最大頭部深度推斷出類別通道,並且需要一個有效的。 類別:維度。
  • EffDetRcnnStage1Centernet 都使用它們的模型系列合約;請執行。 不要將它們路由到 YOLO 解碼類型。
  • *-seg 解碼類型會產生帶有框線的輸出,以及特定任務的遮罩資料。

如果自訂模型套件與任何完整的排序簽章都不相符,請準備一個新的、明確支援的設定檔,而不是降低比對器的準確度。

Python 筆記

在從 Python 設定模型選項時,如果有的話,請使用類型化的列舉值,而不是字串:

opt = pyneat.ModelOptions()
opt.decode_type = pyneat.BoxDecodeType.YoloV8

使用與模型任務相符的輔助工具來解析輸出:

outputs = model.run([image])

boxes = pyneat.decode_bbox(outputs)[0].to_numpy()

pose = pyneat.decode_pose(outputs)[0]
pose_boxes = pose.boxes.to_numpy()
keypoints = pose.keypoints.to_numpy()

seg = pyneat.decode_segmentation(outputs)[0]
seg_boxes = seg.boxes.to_numpy()
masks = seg.masks.to_numpy()