Les notions
Grand modèle de langage
Aussi appelé : LLM, large language model, modèle de langage
Définition
Un grand modèle de langage, ou LLM, est un modèle d’IA entraîné sur d’immenses volumes de texte pour prédire la suite la plus probable d’un texte. C’est le moteur de Claude, ChatGPT, Gemini ou Mistral.
Comment ça fonctionne
Le modèle découpe le texte en tokens et calcule, à chaque étape, le token le plus probable compte tenu de tout ce qui précède. Répété des milliers de fois, ce calcul produit une réponse complète et cohérente.
Les modèles récents savent aussi raisonner par étapes, lire des documents longs, analyser des images et utiliser des outils. Leur force est la langue. Leur faiblesse est de pouvoir affirmer avec aplomb une information fausse.
En entreprise
Un LLM est un excellent collaborateur de rédaction et d’analyse, à condition de lui donner le contexte du dossier et de vérifier ce qu’il avance, surtout les chiffres, les dates et les références.
Décider avec l’IA, niveau 1Voir aussi
- TokenUn token est l’unité de texte qu’un modèle de langage lit et produit. Ce peut être un mot entier, un morceau de mot ou un signe de ponctuation.
- Fenêtre de contexteLa fenêtre de contexte est la quantité maximale de texte, mesurée en tokens, qu’un modèle peut prendre en compte en une seule fois : la consigne, les documents joints et l’historique de la conversation.
- HallucinationUne hallucination est une réponse d’IA fausse ou inventée, présentée avec la même assurance qu’une réponse exacte : un chiffre erroné, une source qui n’existe pas, une clause mal citée.
- Paramètres d’un modèleLes paramètres sont les valeurs numériques ajustées pendant l’entraînement d’un modèle. Leur nombre, souvent exprimé en milliards, donne une idée de la taille du modèle.