Перейти до основного вмісту

Моделі та інференс

Запускайте моделі, налаштовуйте попередню й подальшу обробку, обмінюйтеся тензорами та вимірюйте інференс. Проходьте ці посібники по черзі.

Завантажте скомпільований архів ResNet-50, подайте на вхід зображення та отримайте результат для першого класу — найкоротший...

modelinferencefoundations

Подавайте дані до моделі з одного потоку, а отримуйте прогнози з іншого, щоб відокремити вхідні та вихідні дані для досягненн...

asyncpush-pullthroughputruntime

Запустіть скомпільовану модель із детермінованими синтетичними тензорами та виведіть основні показники затримки, пропускної з...

benchmarksyntheticlatencythroughputpower

`ModelOptions` – це структура, яка визначає взаємозв’язок між вашими вхідними даними, етапами конвеєра моделі та її вихідним...

model-optionsconfigurationcontracts

Налаштуйте етап попередньої обробки — формат, розміри та нормалізацію для кожного каналу — щоб необроблені вхідні дані зображ...

preprocessingnormalizationimage

Декодуйте необроблені вихідні дані моделі у зручні для використання обмежувальні рамки, використовуючи `SimaBoxDecode` — поро...

postprocessingboxdecodedetection

Переміщуйте дані між тензорами Neat і структурами, які у вас вже є, — масивами NumPy, тензорами PyTorch або `cv::Mat` — контр...

numpypytorchtensorio

Об’єднайте кілька іменованих тензорів в один `Sample` і передайте їх як єдину подію для обчислень — це схема для моделей, які...

multi-inputsamplessync

Здійснити безпечне зчитування даних з `run.pull()` або `model.run()`. Кожен запуск повертає `Sample` — невеликий сумарний тип...

outputpatternssink