본문으로 건너뛰기

용어집

프레임워크의 문서와 코드 전체에서 사용되는 용어 및 약어입니다.

프레임워크의 주요 개념​

용어정의

| Neat (프레임워크) | 이 문서에서 설명하는 라이브러리는 GStreamer 기반의 AI 추론 파이프라인을 Modalix에서 구축, 검증 및 실행하기 위한 C++/Python 프레임워크입니다. | | 노드 | 파이프라인의 가장 작은 구성 요소입니다. GStreamer 요소 위에 구축된 타입화된 래퍼입니다. include/builder/Node.h를 참조하십시오. | | 재사용 가능한 그래프 조각 | 모델 전처리/추론/후처리 조각 또는 입력/출력 도우미와 같이 재사용 가능한 구성 단위로 사용되는 Graph입니다. |

| 그래프 | 노드를 실행 가능한 형태로 변환하는 어셈블리 단계. |

| 실행 | 활성 상태의 파이프라인입니다. 데이터를 입력하고 결과를 출력합니다. | | 모델 | 컴파일된 .tar.gz 모델 아카이브를 로드하고 실행하기 위한 간소화된 진입점입니다. |

| MPK | 모델 아카이브(.tar.gz)에 포함된 모델 추론 계약 JSON 파일(mpk.json 또는 *_mpk.json). |

| 샘플 | 이 프레임워크의 파이프라인 데이터 단위입니다. 텐서 또는 인코딩된 미디어와 메타데이터를 묶습니다. |

| 텐서 | 프레임워크에서 픽셀, 오디오 또는 추론 결과의 버퍼를 나타내는 형식화된 데이터 구조입니다. | | 텐서 버퍼 | 기반 메모리는 다음과 같습니다. Tensor — 를 포함합니다. (buffer_id, paddr, vaddr) 세 배. |

| 세그먼트 | 할당자와 접근 메타데이터를 포함하는 이름이 지정된 메모리 영역입니다. 버퍼는 세그먼트에서 생성됩니다. |

하드웨어​

용어정의

| Modalix | SiMa의 엣지 AI SoC 플랫폼입니다. 이 프레임워크는 이를 대상으로 합니다. | | MLA | 머신 러닝 가속기 — SoC의 주요 추론 엔진입니다. |

| MLASHM | MLA 공유 메모리 — MLA가 데이터를 읽어오는 낮은 지연 시간의 메모리 영역입니다. | | EV74 / CVU | 컴퓨트 비전 유닛 — 전처리/후처리 커널에 최적화된 SIMD 기반 DSP. |

| A65 | Linux를 실행하는 ARM 코어를 사용하는 애플리케이션입니다. |

| APU | 오디오 처리 장치. | | M4 | 저수준 조정(RPMsg, 하드웨어 시퀀싱)에 사용되는 Cortex-M4. | | TVM | Apache TVM은 MLA가 처리할 수 없는 연산에 대한 프레임워크의 CPU 측 폴백 컴파일러입니다. |

| VCCM | 일부 가속기에서 사용하는 SoC 내부의 일관성 있는 메모리 영역입니다. |

| OCM | MLA에서 사용하는 온칩 메모리. |

| DMS | 다이렉트 메모리 서버 — SoC의 메모리 컨트롤러/할당 서비스. |

| RPMsg | 원격 프로세서 메시징 — A65와 M4 간의 IPC(Inter-Process Communication) 채널. |

| IOMMU | I/O 메모리 관리 장치 — 하드웨어에서 물리 주소를 가상 주소로 매핑합니다. |

데이터 형식​

용어정의

| BF16 | Brain Float 16 — FP32 지수 범위 전체를 갖춘 IEEE 754 binary16. MLA에서 선호하는 부동 소수점 데이터 유형입니다. | | NV12 | Y 평면과 인터리브된 UV 평면을 갖는 YUV 4:2:0 형식입니다. 이는 프레임워크의 기본 디코딩된 비디오 형식입니다. | | I420 | Y, U, V 평면이 분리된 YUV 4:2:0 형식입니다. |

| HWC / CHW | 텐서 레이아웃 (높이-너비-채널 vs. 채널-높이-너비). |

| 테셀레이션(Tessellation) | MLA(Multi-Layer Accelerator)의 입력 스크래치 패드에서 요구하는 형태로 텐서를 재배열하는 타일 셔플링 과정입니다. 이는 단순히 데이터의 레이아웃을 변경하는 것이며, 데이터 자체는 변경되지 않고 순서만 변경됩니다. |

| 양자화 | FP32 값을 스케일과 제로 포인트와 함께 사용하여 INT8 값으로 매핑합니다. |

운영 중​

용어정의

| 일반 전처리 | 사용자가 제공하는 임의의 변환을 표준 전처리 그래프에 통합하는 전처리 업그레이드입니다. |

| BoxDecode | EV74에서 감지 모델에 대해 NMS/디코딩을 수행하는 후처리 융합입니다. |

| DetectionMeta | BoxDecode에서 생성된 감지 모델 출력 샘플에 연결되는 메타데이터 구조체입니다. |

| GstSimaMeta | 프레임워크에서 관리하는 모든 버퍼에 연결되는 프레임워크의 GStreamer 메타데이터 구조체입니다. | | 라우트 계획 | 프레임워크는 컴파일 시점에 각 단계를 어떤 프로세서에서 실행할지, 그리고 각 버퍼를 어떤 세그먼트에 저장할지 결정합니다. | | 재현 가능한 실행 문자열 | Graph::describe()에서 생성된 결정론적 gst-launch 텍스트 재현기. |

참조:​