Was „BesluitBron“ im Sinne der europäischen KI-Verordnung (Verordnung (EU) 2024/1689) ist. Auf dieser Seite wird erläutert, welcher Teil des Produkts ein KI-System ist, welcher Teil kein KI-System ist und was sich daraus für den Nutzer ergibt. Sie richtet sich an den Leser und nicht an eine Aufsichtsbehörde, da der Leser in der Regel ein Beamter ist, der in der Lage sein muss, zu erklären, was er nutzt.
Die Transparenzvorschriften der Verordnung gelten seit dem 2. August 2026. Die Verpflichtung, dafür zu sorgen, dass Personen, die mit KI arbeiten, verstehen, was sie nutzen, gilt bereits seit dem 2. Februar 2025.
Drei Teile, drei Antworten
„BesluitBron“ besteht aus drei Elementen, die oft in einen Topf geworfen werden. Im Sinne dieser Verordnung sind es tatsächlich drei.
Die Connectoren sind kein KI-System. Sie durchsuchen öffentliche Quellen und geben wieder, was dort steht. Es gibt kein Modell, das Schlussfolgerungen zieht oder Vorhersagen trifft: Eine Suchanfrage mit Filtern ist keine KI, egal wie intelligent das Ergebnis auch erscheinen mag. Siehe Connector.
Der Fragenbeantworter ist ein KI-System. Dort beantwortet ein Sprachmodell eine Frage. BesluitBron entwickelt diese Anwendung, bietet sie unter eigenem Namen an und betreibt sie; damit ist das Unternehmen sowohl Anbieter als auch für die Nutzung Verantwortlicher. Die Verpflichtungen hinsichtlich der Transparenz liegen also hier. Siehe Vraagbaak.
Der Assistent, den jemand selbst anschließt, stammt nicht von BesluitBron. Wer Claude oder einen anderen Assistenten an den Anschluss anschließt, ist selbst für dieses System verantwortlich. BesluitBron stellt lediglich die entsprechenden Werkzeuge zur Verfügung – mehr nicht.
Diese Unterscheidung ist kein Wortspiel. Sie legt fest, wer was melden muss, und verhindert, dass BesluitBron eine Rolle für sich beansprucht, die ihm nicht zusteht.
Wofür es gedacht ist – und wofür nicht
Die Verordnung macht die Strenge der Vorschriften vom Zweck abhängig, dem ein Produkt angeblich dienen soll. Deshalb ist dieser Zweck im Kodex an einer einzigen Stelle festgelegt und taucht überall dort auf, wo er nachgelesen werden kann: in den Nutzungsbedingungen, in der Antwort von list_capabilities und in der Anleitung, die ein angeschlossener Assistent beim Verbinden erhält.
Das Ziel ist es, öffentliche Entscheidungsunterlagen auffindbar und zitierfähig zu machen, damit man die Quelle aufrufen und selbst lesen kann.
Drei Arten der Nutzung sind davon ausdrücklich ausgenommen:
- Verwendung durch ein Gericht oder durch eine in dessen Namen handelnde Person, unabhängig von deren Funktion, sowie im Rahmen alternativer Streitbeilegungsverfahren;
- zur Beeinflussung des Ergebnisses einer Wahl oder eines Referendums oder des Wahlverhaltens der Menschen;
- wird herangezogen, um festzustellen, ob jemand Anspruch auf eine staatliche Leistung oder eine Sozialleistung hat.
Der erste Ausschluss wurde bewusst weiter gefasst, als es die Verordnung vorschreibt. Damit geht unmittelbar die Kehrseite einher, die ebenso streng ist: Eine Partei in einem Verfahren, ihr Rechtsanwalt und ihr Berater fallen hingegen sehr wohl darunter. Die Ausnahme betrifft den Richter selbst und diejenigen, die für den Richter tätig sind, nicht diejenigen, die dem Richter gegenüberstehen. Dieses Produkt dient der Unterstützung beim Lesen eines Dokuments und niemals der Entscheidung in einer Rechtssache.
Was einem Leser der Ratgeber-Rubrik angezeigt wird
Im Formular, in der Antwort und in der E-Mail finden sich zwei Hinweise. Sie erfüllen unterschiedliche Funktionen und der eine ersetzt den anderen nicht:
- Die Antwort wurde von einer KI erstellt und kann Fehler enthalten;
- Dies ist eine Testumgebung, und eine Antwort ist nicht zur Wiederverwendung bestimmt.
Die erste ist die Verpflichtung aus Artikel 50. Die zweite ist eine Zusage bezüglich der Dienstleistung. „Ein Test, nicht zur Wiederverwendung“ besagt nicht, dass der Text von einer Maschine verfasst wurde, und hebt diese Verpflichtung daher nicht auf.
Außerdem enthält eine Antwortseite die Kopfzeile „AI-Generated: true“, und die Antwort-E-Mail trägt dieselbe. Das ist für Maschinen gedacht.
Was noch nicht fertig ist und warum es hier steht
Die Verordnung schreibt vor, dass generierter Text maschinenlesbar gekennzeichnet werden muss. Der dazugehörige Praxisleitfaden verlangt für Text auf einer Webseite zwei Ebenen: Metadaten mit einer digitalen Signatur und ein unsichtbares Wasserzeichen. BesluitBron liefert eine davon, nämlich das Wasserzeichen, das mit der Vorlage mitgeliefert wird. Die Ebene mit der Signatur wird nicht erstellt.
Das ist eine bewusste Entscheidung und kein Fehler, und sie steht hier, weil ein Leser, der auf diese Seite gelangt, ein Recht auf die vollständige Antwort hat und nicht nur auf den für ihn vorteilhaften Teil davon.
Wer es bedient, muss wissen, wo es schiefgeht
Die Verordnung verlangt außerdem, dass Personen, die mit diesen Systemen arbeiten, verstehen, wo die Grenzen liegen. Für BesluitBron wurde dies für zwei Gruppen konkretisiert: diejenigen, die die Wissensdatenbank bedienen und für deren Inhalte verantwortlich sind, und diejenigen, die dieses Produkt mithilfe eines KI-Assistenten erstellen. Diese beiden Gruppen stoßen auf unterschiedliche Herausforderungen. Die erste muss wissen, wo die Antworten unzuverlässig sind, die zweite, wo das Modell sich hinsichtlich seiner eigenen Arbeit irrt.
Drei Dinge, die jeder wissen muss, der die Auskunftsstelle betreut:
- Eine flüssig formulierte Antwort ist kein Beweis;
- „Nichts gefunden“ bedeutet: Es wurde nichts in dem durchsuchten Bereich gefunden, und zwar innerhalb des durchsuchten Fensters. Siehe Zoekprecisie;
- Die Quellen sind unvollständig. Drei Viertel der Urteile wurden nie veröffentlicht, und bei verschiedenen Quellenplattformen bricht die Bereitstellung ab. Siehe Beta en Volledigheid.
Weiterlesen
Die vollständige Analyse mit den Abwägungen und den noch offenen Punkten ist Projektdokumentation und keine Produktdokumentation. Wer diese anfordern möchte, kann dies über die Adresse auf Contact tun.
Verfügbar ab Version 1.3.41. Das Kapitel über den beabsichtigten Zweck ab Version 1.3.50.