Edge AI
Execution de modeles d'IA directement sur l'appareil de l'utilisateur plutot que dans le cloud.
L'Edge AI designe l'execution de modeles d'intelligence artificielle directement sur les appareils des utilisateurs (smartphones, ordinateurs, objets connectes) plutot que sur des serveurs cloud distants.
Avantages :
- • Latence quasi nulle : pas d'aller-retour reseau
- • Confidentialite : les donnees restent sur l'appareil
- • Disponibilite : fonctionne sans connexion internet
- • Couts reduits : pas de frais de cloud
Exemples :
- • Apple Intelligence : IA integree dans l'iPhone
- • Google on-device AI : fonctions IA dans Android
- • Ollama : executer des LLM sur son PC
- • Whisper.cpp : reconnaissance vocale locale
Technologies cles :
- • Quantisation (modeles plus compacts)
- • SLM (modeles plus petits)
- • Puces specialisees (NPU dans les processeurs modernes)
- • Formats optimises (GGUF, ONNX)
L'Edge AI est une tendance forte : a terme, de nombreuses fonctions IA seront executees localement, reservant le cloud aux taches les plus lourdes.