Перевірте точність і продуктивність.

Після створення моделі перевірте її точність і оцініть продуктивність, перш ніж розгорнути її.

Перевірте точність.

Запустіть скомпільовану модель, щоб перевірити її. execute шлях. Порівняйте результати, отримані для нього, з результатами, отриманими для початкової моделі з використанням чисел із плаваючою комою, на репрезентативному наборі вхідних даних.

Для отримання детальнішої інформації execute перевірка точності, див. етап перевірки в Скомпілюйте свою першу модель.Використовуйте репрезентативні вхідні дані, що відповідають вашому цільовому навантаженню. Порівняйте скомпільовану модель із надійним еталонним значенням, обчисленим з використанням чисел із плаваючою комою. Допустимі похибки залежать від моделі та схеми квантування.

Почніть з показників на рівні моделі, таких як точність класифікації або mAP для детектування. Якщо показник погіршується, проаналізуйте відмінності для кожного вихідного значення.

Оцінюйте результативність.

Щоб виміряти затримку, пропускну здатність, споживання енергії та потужність безпосередньо на пристрої, скористайтеся інструкцією з проведення тестування, наведеною в навчальних матеріалах для початківців:

• Перевірте свою модель — запустіть скомпільовану модель із детермінованими синтетичними тензорами та виведіть показники затримки, пропускної здатності, споживання енергії та потужності.

Використовуйте результати тестування, щоб підтвердити, що вибраний розмір пакета, схема квантування та налаштування теселяції відповідають вимогам вашої програми. Якщо показники затримки або пропускної здатності не відповідають очікуваним значенням, перегляньте параметри компіляції, перш ніж змінювати застосунок під час виконання.