Anthropic teste une preuve mathématique qu'une réponse vient bien du modèle annoncé

En clair

Aujourd'hui, quand tu poses une question à une IA, tu ne peux pas vérifier que la réponse vient du modèle annoncé. Un service intermédiaire pourrait en glisser un moins cher pour économiser, ou un pirate pourrait modifier le texte en route. Anthropic publie FlashProve, un prototype qui ajoute à chaque réponse une « preuve », un petit fichier que n'importe qui peut contrôler pour vérifier que la réponse a bien été produite par un modèle précis, dont les poids restent secrets (les poids sont les milliards de nombres qui définissent le comportement du modèle).

Le principe : le fournisseur publie d'abord une empreinte du modèle. Ensuite, pour chaque réponse, il fournit une preuve que cette réponse correspond à cette empreinte. Le contrôle se fait sur un simple processeur, sans accéder au modèle. Anthropic imagine des usages variés : vérifier qu'un test d'évaluation porte sur le bon modèle, ou prouver qu'une entreprise a bien fait analyser son code par un modèle précis.

Ce qu'Anthropic annonce, à partir de ses propres mesures : sur un modèle de 400 milliards de paramètres (Llama 4 Maverick, version compressée en 4 bits), une carte graphique H100 produit des preuves à environ 110 tokens par seconde, soit 70 à 95 fois plus de temps de calcul que de faire tourner le modèle seul. Chaque preuve pèse environ 19 Mo et se vérifie en 17 secondes sur un processeur de 24 cœurs. Limites écrites par Anthropic : c'est un prototype de recherche, il vaut pour un type précis de modèle (à « experts ») et pour un mode de génération sans hasard, et aucun déploiement n'est prévu chez Anthropic ni ailleurs. Aucun tiers n'a encore mesuré ces chiffres.