Ce rapport applique un protocole d'évaluation standardisé à plusieurs plateformes d'IA financière disponibles sur le marché européen. L'objectif n'est pas de désigner un gagnant mais de documenter les écarts de performance mesurés dans des conditions de test identiques pour chaque système évalué.
J'ai appliqué le même protocole à quatre plateformes IA financières et voici ce que j'ai mesuré concrètement
1. Précision sur données structurées
Les fiches techniques décrivent des taux de précision élevés mesurés en conditions de laboratoire sur des jeux de données internes non divulgués. Ces chiffres sont présentés sans protocole reproductible.
Les mesures indépendantes conduites sur des jeux de données standardisés externes révèlent des écarts notables par rapport aux chiffres publiés. Ces écarts varient selon le type de données financières analysées et la complexité des requêtes soumises. Les systèmes les plus performants sur données simples ne sont pas nécessairement les plus précis sur des données complexes ou ambiguës. La dérive de précision en fonction de la charge est également significative et rarement documentée par les fournisseurs dans leurs communications officielles.
La précision publiée par un fournisseur ne constitue pas un indicateur fiable de la précision mesurable dans un contexte d'usage réel indépendant.
2. Latence sous charge variable
Les temps de réponse annoncés correspondent à des mesures effectuées en conditions de faible charge, avec des configurations matérielles rarement précisées dans les documents commerciaux.
Sous charge représentative d'un usage professionnel réel, les latences mesurées dépassent systématiquement les valeurs annoncées. L'amplitude de cet écart varie considérablement d'un système à l'autre. Certains systèmes maintiennent une latence stable jusqu'à un certain seuil de charge avant de se dégrader brutalement, tandis que d'autres dégradent progressivement mais de manière plus prévisible et gérable. La prévisibilité de la dégradation est en pratique aussi importante que la latence nominale pour un usage en environnement professionnel.
La latence nominale est rarement celle observée en conditions d'usage. La stabilité de la dégradation sous charge est une métrique tout aussi critique à mesurer.
3. Disponibilité sur période longue
Les accords de niveau de service publiés définissent des taux de disponibilité cibles exprimés en pourcentage annuel, sans toujours préciser comment les interruptions planifiées sont comptabilisées.
Le suivi de la disponibilité effective sur une période étendue révèle des patterns d'interruption non documentés dans les engagements contractuels. Les fenêtres de maintenance planifiée coïncident dans plusieurs cas avec des horaires d'usage professionnel actif. La définition de ce qui constitue une interruption versus une dégradation de service varie entre fournisseurs, rendant les comparaisons directes des taux de disponibilité annoncés peu significatives sans standardisation préalable des définitions utilisées.
Les taux de disponibilité contractuels nécessitent une définition commune des termes avant toute comparaison directe entre systèmes différents.
4. Cohérence inter-sessions
On suppose généralement qu'un système IA produira des résultats comparables lorsqu'il est soumis à des requêtes identiques dans des sessions différentes avec les mêmes paramètres.
Les mesures inter-sessions révèlent une variabilité non négligeable dans les sorties produites par les mêmes requêtes sur plusieurs sessions distinctes. Cette variabilité n'est pas systématiquement documentée par les fournisseurs et peut affecter la fiabilité des analyses dans des contextes où la reproductibilité des résultats est critique. L'amplitude de cette variabilité varie significativement entre systèmes et constitue un facteur de différenciation important rarement mis en avant dans les présentations commerciales des plateformes évaluées.
La variabilité inter-sessions est une dimension de fiabilité distincte de la précision nominale et doit être mesurée indépendamment dans tout protocole d'évaluation sérieux.
Aucun système évalué n'est supérieur sur toutes les métriques simultanément. Le choix d'une plateforme IA financière dépend des métriques prioritaires définies par le contexte d'usage spécifique. Les performances passées mesurées dans ce rapport ne préjugent pas des performances futures de ces systèmes.