Données d'entraînement : ce que le modèle a appris, et avec quoi

Les données d'entraînement sont les contenus à partir desquels un modèle a appris. Savoir si vos contenus en font partie est une question contractuelle.
3 min de lecture
Believemy logo

Deux questions se cachent derrière ce terme, et elles n'ont rien à voir. Ce que le modèle a appris avant d'arriver chez vous, qui explique ce qu'il sait et ce qu'il ignore. Et ce que vous lui donnez aujourd'hui, qui peut ou non servir à l'entraîner demain. La seconde est celle qui vous concerne directement.


Définition

Les données d'entraînement sont l'ensemble des contenus à partir desquels un modèle a appris à produire du texte. Pour un Grand modèle de langage (LLM), cela représente d'immenses volumes de texte issus du web, de livres, de code et de documents publics.

Bon à savoir

Trois conséquences pratiques découlent directement de ce corpus : le modèle ignore tout ce qui s'est passé après la fin de son entraînement, il connaît mal les sujets peu représentés en ligne, et il reproduit les déséquilibres de ce qu'il a lu.


Vos contenus servent-ils à entraîner ?

C'est la question à poser avant de confier quoi que ce soit de confidentiel. La réponse dépend entièrement de l'offre souscrite, pas de la technologie.

Type d'offreRéutilisation habituelle
Grand public gratuitSouvent oui, sauf réglage contraire
Grand public payantVariable, à vérifier
Professionnelle ou par APIGénéralement non, avec engagement écrit

Cela se lit dans les conditions d'utilisation et dans le contrat, jamais sur la page de vente. Et quand un réglage existe pour refuser la réutilisation, il est rarement actif par défaut.


Ce qu'il faut retenir côté pratique

Le rattrapage est difficile. Un contenu qui a servi à un entraînement ne se retire pas comme une ligne de base de données. C'est pourquoi la vérification se fait avant l'envoi.

La date de fin compte. Un modèle ne connaît rien de ce qui a suivi son entraînement. Pour de l'information récente, il lui faut un outil de recherche ou vos documents fournis en RAG.

Le fine-tuning est autre chose. Le Fine-tuning sur vos exemples produit un modèle qui vous est réservé. Vos données ne partent pas chez les autres clients, mais elles restent chez le fournisseur.

La qualité prime sur la quantité. Si vous constituez un jeu d'exemples, quelques centaines de cas propres valent mieux que des milliers de cas approximatifs.

Attention

Attention aux outils gratuits proposés par des acteurs peu connus. L'absence d'engagement écrit sur la non-réutilisation doit être traitée comme un « oui » par défaut, pas comme une question ouverte.


Questions fréquentes

Question

Comment savoir sur quoi un modèle a été entraîné ?

Rarement en détail. Les fournisseurs communiquent sur les grandes catégories de sources sans publier la liste, y compris pour les modèles dits ouverts, qui publient leurs paramètres mais pas leur corpus.


Question

Un modèle peut-il recracher un contenu appris ?

C'est possible sur des passages très répétés dans le corpus, et les fournisseurs mettent en place des protections. C'est un point de vigilance quand vous publiez du contenu généré : voir Droit d'auteur et intelligence artificielle.


Question

Puis-je demander le retrait de mes contenus ?

Certains fournisseurs proposent des procédures d'opposition, notamment pour les contenus publiés en ligne. L'efficacité varie et cela relève d'un sujet juridique à traiter avec un professionnel.


Question

Comment décider ce que je peux confier ?

En écrivant une règle simple avant d'en avoir besoin : ce qui peut sortir, ce qui ne peut pas. Notre formation Claude Cowork traite cette question au moment de choisir ses outils, pas après.

Termes connexes

Découvrez notre glossaire IA et automatisation

Le vocabulaire de l'intelligence artificielle et de l'automatisation, expliqué pour ceux qui veulent s'en servir dans leur activité, pas pour ceux qui construisent les modèles.

Partager cet article

Tu veux nous aider ? Fais un lien vers cet article sur tes réseaux ou encore mieux : sur ton site, dans un article ou dans ta newsletter.