🧠 TOKENS, PARAMÈTRES, FENÊTRE DE CONTEXTE : enfin comprendre l’IA !
Tout le monde parle de tokens, de paramètres et de fenêtre de contexte. Mais que signifient réellement ces trois notions ?
🔹 1. Les tokens
Ce sont les unités de texte que l’IA traite. Un token n’est pas forcément un mot : il peut être une partie d’un mot. Et selon la langue, le nombre de tokens nécessaires peut varier.
🔹 2. Les paramètres
Ce sont les réglages internes appris par le modèle pendant son entraînement. C’est ce que représentent les fameux 7B, 70B, etc. Plus un modèle possède de paramètres ne signifie pas automatiquement qu’il est meilleur, mais cela donne une idée de son échelle.
🔹 3. La fenêtre de contexte
C’est la quantité d’informations que le modèle peut prendre en compte à un moment donné : ton prompt, la conversation, tes documents, etc.
🎯 Pourquoi c’est important ?
Ces trois notions permettent de comprendre :
👉 pourquoi une IA peut perdre le fil d’une longue conversation ;
👉 pourquoi certains modèles nécessitent énormément de puissance informatique ;
👉 pourquoi la consommation de tokens varie selon le texte et la langue.
Token. Paramètre. Contexte.
Une fois que ces trois notions sont claires, le vocabulaire de l’IA devient beaucoup plus facile à comprendre.
📌 IA Minute — L’IA expliquée simplement, chaque jour.
#IA #IntelligenceArtificielle #ChatGPT #AI #IAMinute
