Le texte était peut-être de vous, peut-être de Claude : Bruxelles veut désormais que la machine puisse le dire. Depuis le 2 août, les fournisseurs de modèles d’intelligence artificielle générative les plus avancés doivent s’assurer que leurs utilisateurs européens savent qu’ils interagissent avec une IA et que les contenus produits soient identifiables comme tels. Jusqu’ici, les grands acteurs du secteur promettaient déjà de mieux signaler l’origine de leurs créations. La nouveauté tient donc au caractère obligatoire de la mesure.
Anthropic a été l’un des premiers à détailler sa réponse. L’entreprise américaine annonce que les modèles de Claude lancés depuis le 2 août intégreront dans leurs textes un filigrane invisible. Rien ne s’affiche à l’écran, rien ne change à la lecture, mais la marque est intégrée au texte lui-même et doit survivre au copier-coller. Le paragraphe peut donc voyager, mais l'information de son origine IA aussi.
Le filigrane ne dit pas tout
Le dispositif présente cependant une limite assez importante : il ne dira pas nécessairement qui a écrit le texte. Un article rédigé par un humain puis corrigé, traduit ou résumé par Claude pourra porter le filigrane. À l’inverse, un passage trop court ou fortement réécrit peut ne plus le contenir. Anthropic le reconnaît lui-même : le marquage permettra surtout d’indiquer qu’un contenu est passé par la machine, pas qu’elle en est l’auteur.
La nuance devrait décevoir ceux, professeurs ou autres, qui espéraient déjà régler le cas des dissertations en quelques secondes. Le procédé sera peu utile, à lui seul, pour confondre un étudiant ou authentifier un document. Et, pour l’instant, Anthropic n’a pas encore publié l’outil permettant de détecter son filigrane, pourtant exigé par le texte européen. Pour les images et les autres fichiers, le principe change légèrement : Anthropic prévoit des métadonnées de provenance signées. OpenAI, de son côté, utilise déjà SynthID, la technologie de filigrane mise au point par Google DeepMind, pour marquer de façon invisible les images générées par l’IA, et l’a récemment étendue à l’audio. Plusieurs acteurs soutiennent également C2PA, une norme destinée à conserver et transmettre des informations sur l’origine du contenu.
Marqué, puis détecté
Marquer ne suffit pas : encore faut-il être capable de lire la marque. Walter Pasquarelli, chercheur à l’université de Cambridge et conseiller auprès de l’OCDE, décrit à Politico un fonctionnement assez simple : "Vous générez quelque chose avec Claude, vous le publiez sur un réseau social et, au moment de poster, l’interface de la plateforme peut disposer de détecteurs capables d’identifier le filigrane." Ce passage de l’invisible au visible pourrait modifier une habitude très récente : lire sans toujours savoir qui ou quoi a écrit. Selon le chercheur, plusieurs travaux montrent que l’engagement baisse nettement lorsque les internautes savent qu’un contenu a été généré par une IA. LinkedIn propose déjà à ses utilisateurs de signaler un post qui "semble être de la ‘slop’ IA", cette production massive de contenus artificiels souvent peu qualitatifs, qui ne manquaient pas franchement à Internet.
L’enjeu dépasse donc la seule conformité européenne. Anthropic aurait annoncé qu’il appliquerait son marquage dans le monde entier, et non aux seuls utilisateurs de l’Union européenne. Environ 190 organisations ont par ailleurs signé fin juillet le code de bonnes pratiques associé au règlement, parmi lesquelles Google, Meta, Microsoft, Mistral et OpenAI. Les entreprises récalcitrantes risqueront jusqu’à 15 millions d’euros d’amende ou 3 % de leur chiffre d’affaires mondial.
