EDGE-AI-INFERENCE

Inference modeles AI edge devices specialises.

Définition

Edge AI Inference hardware : NVIDIA Jetson Nano/Xavier/Orin (1-275 TOPS), Google Coral Edge TPU (4 TOPS), Intel Neural Compute Stick 2, Qualcomm Cloud AI 100, Hailo-8 (26 TOPS), Apple Neural Engine. Frameworks : TensorFlow Lite, PyTorch Mobile, ONNX Runtime, NVIDIA TensorRT, OpenVINO Intel. Use cases : Industry computer vision (defect detection, predictive maintenance), Retail (customer counting, planogram compliance), Healthcare (diagnostic imaging local), Automotive (ADAS, autonomous driving).

Origine

Edge AI emergence ~2017 avec NVIDIA Jetson TX1 et Google Coral ; massification 2020+ avec growth IoT et 5G ; market ~$5 milliards 2024.

Exemple en contexte

Foxconn deploie 2000 NVIDIA Jetson Xavier sur ses lignes assembly iPhone ; chacun inspect 500 boards/heure avec model YOLOv8 detecting micro-defects en sub-50ms.

Termes liés

• Edge computing B2B — paradigme parent.