Qu'est-ce que « BesluitBron » au sens du règlement européen sur l'IA, le règlement (UE) 2024/1689 ? Cette page précise quelle partie du produit est un système d'IA, quelle partie ne l'est pas, et quelles en sont les conséquences pour ceux qui l'utilisent. Elle s'adresse à un lecteur et non à une autorité de contrôle, car le lecteur est généralement un fonctionnaire qui doit être en mesure d'expliquer ce qu'il utilise.
Les règles de transparence prévues par le règlement s'appliquent depuis le 2 août 2026. L'obligation de veiller à ce que les personnes travaillant avec l'IA comprennent ce qu'elles utilisent s'applique quant à elle depuis le 2 février 2025.
Trois parties, trois réponses
BesluitBron se compose de trois éléments qui sont souvent regroupés sous un même terme. En vertu de ce règlement, il s'agit bien de trois éléments distincts.
Les connecteurs ne sont pas un système d'IA. Ils effectuent des recherches dans des sources publiques et restituent les informations qui s'y trouvent. Ils ne contiennent aucun modèle permettant de déduire ou de prédire quoi que ce soit : une recherche avec des filtres n'est pas de l'IA, aussi intelligent que le résultat puisse paraître. Voir Connector.
Le « vraagbaak » est bel et bien un système d'IA. Dans ce cadre, un modèle linguistique répond à une question. BesluitBron développe cette fonctionnalité, la propose sous son propre nom et en assure la gestion ; l'entreprise est donc à la fois le fournisseur et le responsable de son utilisation. Les obligations en matière de transparence lui incombent donc. Voir Vraagbaak.
L'assistant que l'on connecte soi-même n'appartient pas à BesluitBron. La personne qui connecte Claude ou tout autre assistant au connecteur est seule responsable de ce système. BesluitBron fournit uniquement les outils nécessaires, rien de plus.
Cette distinction n'est pas un simple jeu de mots. Elle détermine qui doit signaler quoi, et elle empêche BesluitBron de revendiquer un rôle qui ne lui revient pas.
À quoi cela sert, et à quoi cela ne sert pas
Le règlement fait dépendre la rigueur des règles de la finalité que le produit est censé servir. C'est pourquoi cet objectif est clairement défini dans le code, en un seul et même endroit, et qu'il transparaît partout où il peut être consulté : dans les conditions d'utilisation, dans la réponse fournie par list_capabilities et dans les instructions remises à un assistant affilié lors de son affiliation.
L'objectif est de rendre les documents publics relatifs à la prise de décision faciles à trouver et à citer, afin que chacun puisse accéder à la source et la consulter par lui-même.
Trois types d'utilisation en sont expressément exclus :
- utilisation par une instance judiciaire, ou par toute personne agissant en son nom, à quelque titre que ce soit, ainsi que dans le cadre d'un mode alternatif de résolution des litiges ;
- utilisé pour influencer le résultat d'une élection ou d'un référendum, ou le comportement électoral des citoyens ;
- utilisé pour déterminer si une personne a droit à un service public ou à une prestation sociale.
La première exclusion a été délibérément élargie au-delà de ce qu’exige le règlement. Cela s’accompagne immédiatement d’un revers de la médaille, tout aussi strict : une partie à une procédure, son avocat et son conseiller sont, au contraire, bien concernés par cette exclusion. L'exclusion concerne le juge lui-même et les personnes qui travaillent pour lui, et non celles qui se trouvent face à lui. Cet outil facilite la lecture d'un document et ne sert en aucun cas à statuer sur une affaire.
Ce que voit un lecteur de la rubrique « Questions-réponses »
Le formulaire, la réponse et l'e-mail contiennent deux mentions. Elles ont des fonctions différentes et l'une ne remplace pas l'autre :
- la réponse a été générée par l'IA et peut contenir des erreurs ;
- Il s'agit d'un environnement de test, et cette réponse n'est pas destinée à être réutilisée.
La première est l'obligation prévue à l'article 50. La seconde est une promesse concernant le service. La mention « Test, non destiné à être réutilisé » ne signifie pas que le texte a été rédigé par une machine et ne supprime donc pas cette obligation.
Par ailleurs, une page de réponse comporte l'en-tête « AI-Generated: true », tout comme l'e-mail de réponse. Cela est destiné aux machines.
Ce qui n'est pas encore terminé, et pourquoi cela figure ici
Le règlement exige que le texte généré soit marqué de manière lisible par machine. Le code de bonnes pratiques correspondant exige, pour le texte d’une page web, deux couches : des métadonnées accompagnées d’une signature numérique et un filigrane invisible. BesluitBron en fournit une seule, à savoir le filigrane fourni avec le modèle. La couche contenant la signature n’est pas générée.
C'est un choix et non une erreur, et cette information figure ici parce qu'un lecteur qui consulte cette page a droit à la réponse complète et non à la partie qui lui est favorable.
Celui qui s'en occupe doit savoir où le bât blesse
Le règlement exige également que les personnes qui travaillent avec ces systèmes comprennent où se situent les limites. Pour BesluitBron, cela a été précisé pour deux groupes : ceux qui utilisent et sont responsables du moteur de recherche, et ceux qui développent ce produit à l'aide d'un assistant IA. Ces deux groupes sont confrontés à des défis différents. Les premiers doivent savoir quand les réponses ne sont pas fiables, les seconds quand le modèle se trompe sur son propre fonctionnement.
Trois choses que toute personne chargée de répondre aux questions doit savoir :
- une réponse bien formulée ne constitue pas une preuve ;
- « Rien trouvé » signifie : rien n'a été trouvé dans ce qui a été recherché, dans la fenêtre qui a été parcourue. Voir Zoekprecisie ;
- Les sources ne sont pas exhaustives. Les trois quarts des décisions n'ont jamais été publiées, et la transmission des données s'interrompt au niveau de plusieurs plateformes de sources. Voir Beta en Volledigheid.
Pour en savoir plus
L'analyse complète, avec les considérations et les points encore en suspens, fait partie de la documentation du projet et non de la documentation du produit. Les personnes qui souhaitent la consulter peuvent en faire la demande à l'adresse indiquée sur Contact.
Disponible à partir de la version 1.3.41. Le chapitre consacré à l'objectif visé à partir de la version 1.3.50.