Le calcul à cartes graphiques est un marché tenu par quelques grands hébergeurs et des acteurs spécialisés plus petits, dont les prix suivent les générations de matériel. L'annotation, à l'inverse, est éclatée entre de nombreux prestataires, du cabinet spécialisé à la plateforme de micro-tâches. On n'achète pas ces deux familles de la même façon. L'assistant décrit la structure de chaque marché, mesure le poids de la famille, réexamine le besoin et chiffre ce qu'il en coûterait de changer de fournisseur.

Ce qu'il fait chaque jour chez vous

Décrire qui vend quoi dans la familleIl établit, pour la famille étudiée, les fournisseurs en présence, leur part, leur spécialité et leur dépendance éventuelle à un fabricant ou à un grand hébergeur.
Mesurer ce que la famille pèse dans les projetsIl calcule la part de la famille dans le coût des projets et dans la marge, par exemple ce que l'annotation représente dans le coût d'un jeu de données d'entraînement.
Réexaminer le besoin avant le fournisseurIl demande avec l'équipe s'il faut vraiment annoter tout le corpus, entraîner un grand modèle ou réserver autant de calcul, avant de mettre les fournisseurs en concurrence.
Évaluer ce que coûterait un changement de fournisseurIl estime ce que coûterait de changer de fournisseur dans la famille, migrations, nouvelle validation des modèles, coût de la mise en production d'un modèle sur une autre infrastructure.
Proposer une façon d'acheter adaptéeIl propose un mode d'achat par famille (engagement chez un hébergeur avec une capacité d'appoint ailleurs, panel de deux annotateurs travaillant sur données après pseudonymisation).
Suivre l'exécution du plan de familleIl vérifie chaque trimestre que les décisions du plan s'appliquent et met à jour la description du marché quand une nouvelle génération de matériel arrive.

Sur le terrain

Annoter moins pour annoter mieux

La famille annotation a doublé en un an. L'assistant examine les projets avec les data scientists : plusieurs ont fait annoter l'intégralité de leurs corpus alors que des méthodes de sélection des exemples utiles auraient suffi pour une partie. Il propose de réserver l'annotation complète aux projets qui l'exigent et d'introduire un panel de deux prestataires mis en concurrence par lot.

Un seul hébergeur pour tout

Toute la capacité de calcul passe par un seul hébergeur. L'assistant décrit le marché : des fournisseurs spécialisés offrent des cartes graphiques moins chères pour les entraînements longs, sans les services annexes. Il chiffre une répartition : services exploités chez l'hébergeur principal, entraînements ponctuels chez un second fournisseur à région européenne garantie, et la soumet à l'acheteur.

Les mots qu'il emploie chaque jour

Jeu de données d'entraînement: Les données qui servent à fabriquer le modèle : leur origine et leurs droits conditionnent tout ce qu'on pourra en faire.
Mise en production d'un modèle: Le passage du prototype au service utilisé : c'est là qu'apparaissent le coût, la latence et la surveillance.
Pseudonymisation: Elle remplace les identifiants mais laisse des données personnelles ; seule une anonymisation véritable est irréversible.

Son métier de départ : Assistant acheteur famille. Toute l'activité : Données et intelligence artificielle.