CATALOGUE Code & Data Formation Python Comprendre et déployer une IA locale avec Langchain et Ollama

Choisir et héberger un modèle IA open source : enjeux, familles et pratiques

Retour à la formation
Chapitre 1 Leçon 2
Précédent
Suivant

Dans cette vidéo, apprenez à sélectionner et héberger un modèle d'intelligence artificielle open source selon vos besoins spécifiques. Découvrez les avantages, les inconvénients, ainsi qu’un tour d’horizon des principales familles de LLM comme Mistral, Jama 3, Phi 3 ou DeepSeek, en évaluant leurs performances, tailles, contextes, et licences.

Détails de la leçon

Description de la leçon

Cette leçon présente de manière approfondie l’univers des modèles d’intelligence artificielle open source, en mettant l’accent sur les critères essentiels pour bien choisir et déployer son propre LLM (Large Language Model). En début de vidéo, le concept de modèle open source est analysé : il s’agit d’un vaste fichier numérique rendant public l’accès, la modification et l’utilisation, offrant une liberté totale par rapport aux solutions propriétaires.

L’intervenant expose les atouts majeurs des modèles open source : contrôle complet sur la confidentialité des données, indépendance des services tiers, décisions libres sur les mises à jour et la personnalisation. Néanmoins, il détaille aussi les contraintes techniques : nécessité de ressources matérielles suffisantes (mémoire, GPU/CPU), gestion de la sécurité et responsabilités légales concernant les usages et contenus générés.

Un panorama des modèles du marché est présenté : Mistral (latence faible, bonnes perfs code/texte, idéal assistants), Jama 3 (licence ouverte, dialogue robuste), Phi 3 (compact, usage CPU offline), WizardLM (non filtré, explorations libres et recherche), Quen 3 (géant, contexte large pour entreprises), et DeepSeek (contexte extensif, analyse massive, RAG). Les aspects de quantisation (compression pour moins de RAM), de mixture of experts (MOE), de latence et de performances selon le matériel sont détaillés pour guider l’utilisateur dans son choix.

La vidéo s’adresse à tous désireux d’implémenter un modèle IA open source performant, en donnant des conseils pour adapter son choix aux usages (prototypage, entreprise, cloud, GPU personnel) tout en respectant les contraintes de licences, de ressources et de sécurité.

Objectifs de cette leçon

À l’issue de cette vidéo, vous serez capable de comprendre les différences entre les grandes familles de LLM open source, d’identifier les critères clés (taille, performances, licence, contexte), d’anticiper les contraintes techniques et juridiques, et de choisir le modèle adéquat en fonction de vos ressources matérielles et de vos besoins métiers.

Prérequis pour cette leçon

Des connaissances basiques en intelligence artificielle ou machine learning, ainsi qu’un minimum de familiarité avec l’infrastructure informatique (RAM, CPU, GPU, stockage). Une première expérience avec des modèles IA via API ou en local facilitera la compréhension des exemples pratiques.

Métiers concernés

Développeurs IA, ingénieurs cloud, architectes de solutions IA, chefs de projet IT, data scientists, ainsi que toutes les professions liées au développement de chatbots, d’assistants intelligents, de RAG, de plateformes SaaS IA, ou d’analyses de données massives.

Alternatives et ressources

Parmi les alternatives, on citera les modèles hébergés propriétaires (ChatGPT, Gemini), les solutions via API (ROC, Google Cloud AI), mais aussi d’autres modèles open source non mentionnés tels que Llama, Falcon, ou GPT-NeoX. L’usage de services cloud (AWS, Azure ML) peut compléter ou remplacer l’auto-hébergement selon les besoins.

Questions & Réponses

Un modèle open source offre la liberté totale de contrôle sur la confidentialité, l'adaptabilité et la gestion des mises à jour, sans dépendance aux prestations payantes ou à des restrictions d’usage imposées par une API extérieure.
Le choix dépend de la taille du modèle et de la RAM disponible, du contexte maximal pris en charge, de la performance, de la latence, de la politique de licence et des exigences de filtre ou de censure selon l’application finale.
La quantisation consiste à réduire le nombre de bits utilisés pour stocker chaque poids du modèle, ce qui permet d’exécuter un modèle plus volumineux sur une infrastructure limitée en mémoire, au prix d’une perte minimale de précision.