정확성과 성능을 검증합니다.

모델을 컴파일한 후에는 배포하기 전에 정확도를 검증하고 성능을 측정하십시오.

정확성을 확인합니다.

컴파일된 모델을 execute 경로를 통해 실행합니다. 대표적인 입력값을 사용하여 해당 모델의 출력을 원래 부동 소수점 모델과 비교합니다.

실제 execute 정확도 검사를 보려면 Compile Your First Model의 검증 단계를 참조하십시오.

대상 워크로드에서 가져온 대표적인 입력값을 사용합니다. 컴파일된 모델을 신뢰할 수 있는 부동 소수점 참조 모델과 비교합니다. 허용 가능한 오차 범위는 모델 및 양자화 방식에 따라 달라집니다.

분류 정확도 또는 객체 감지 mAP와 같은 모델 수준 지표부터 시작합니다. 지표가 저하되는 경우 출력별 차이를 검사합니다.

기기 내 지연 시간, 처리량, 전력 소비량, 에너지 소비량을 측정하려면 초급 튜토리얼의 벤치마크 사용법을 참고하세요.

모델 성능 평가 — 컴파일된 모델을 실행합니다. 결정론적 합성 텐서를 사용하는 모델을 만들고, 지연 시간, 처리량, 전력 소비량, 에너지 소비량을 출력합니다.

벤치마크 결과를 사용하여 선택한 배치 크기, 양자화 방식, 테셀레이션 설정이 애플리케이션 요구 사항을 충족하는지 확인합니다. 지연 시간 또는 처리량이 목표치를 충족하지 못하는 경우, 런타임 애플리케이션을 변경하기 전에 컴파일 옵션을 다시 검토하십시오.