Wat zijn AI-hallucinaties en hoe voorkom je een verzonnen ECLI in je belastingadvies?
Het korte antwoord: AI verzint bronnen met evenveel overtuiging als een echte, en dat kostte eind juli 2026 een Nederlandse advocaat een officiële berisping. Hieronder de vijf routines die je kantoor daartegen wapenen, met de bronnen erbij.
Het korte antwoord
Een AI-hallucinatie is output die volstrekt geloofwaardig oogt maar feitelijk niet bestaat: een verzonnen wetsartikel, een verkeerd tarief of een ECLI die nergens is gepubliceerd. Dat is geen theoretisch risico. Een Nederlandse tuchtrechter berispte eind juli 2026 voor het eerst een advocaat omdat acht van de rechterlijke uitspraken die ze in twee procedures aanvoerde door AI waren verzonnen (Raad van Discipline ‘s-Hertogenbosch, ECLI:NL:TADRSHE:2026:93, Mr. Online). Wereldwijd staan inmiddels meer dan 1.868 rechtszaken geregistreerd waarin partijen op AI-gefabriceerde bronnen leunden, een aantal dat dagelijks groeit (Charlotin-database). Ook in de accountancy ging het al mis: EY en KPMG moesten adviesrapporten intrekken nadat AI-hallucinaties waren vastgesteld, en PwC kreeg commotie over rapporten met verzonnen voetnoten en verkeerd toegeschreven claims (Accountant.nl). De remedie is geen wantrouwen, maar vijf vaste routines, hieronder uitgewerkt.
Wat is een AI-hallucinatie precies, en waarom valt hij zo moeilijk op?
Een taalmodel voorspelt het meest waarschijnlijke volgende woord, het raadpleegt geen bronarchief tenzij je dat expliciet koppelt. Zodra een vraag buiten de kern van zijn trainingsdata valt, vult het model het gat op met iets dat er statistisch uitziet als een correct antwoord. Dat kan een verzonnen wetsartikel zijn, een forfait dat niet bestaat, een tarief dat twee maanden geleden is gewijzigd, of een ECLI die nooit is gepubliceerd.
Het gevaarlijke zit in de vorm. AI schrijft met een toon, een ritme en een zinsbouw die verdacht veel op die van een vakgenoot lijken, en omdat vorm in ons hoofd fungeert als snelkoppeling naar vertrouwen, glipt de tekst door je beoordelingsnet. Zodra er een voetnoot of een ECLI onder een zin staat, denken wij bovendien sneller dat het wel zal kloppen, een reflex die is aangeleerd in een wereld waarin bronvermeldingen door mensen werden gemaakt. Een model dat taal voorspelt fabriceert echter net zo gemakkelijk een plausibele verwijzing als een plausibele zin.
Dit gedrag zit ingebakken in hoe een taalmodel werkt, niet in een storing die te repareren valt. Een model genereert tekst woord voor woord op basis van waarschijnlijkheid, en die waarschijnlijkheid is gebaseerd op patronen uit trainingsdata, niet op een controle tegen een actuele, geverifieerde bron tenzij je het model expliciet aan zo’n bron koppelt. Vraag je het model iets waarover weinig of tegenstrijdige informatie in de training zat, dan levert het toch een antwoord, met dezelfde vlotte toon als wanneer het wel zeker is. Het model ‘weet’ niet dat het twijfelt, het genereert gewoon het volgende plausibele woord.
Hoeveel rechtszaken zijn er al misgegaan door verzonnen AI-citaten?
Dit is het cijfer dat de meeste artikelen over AI-hallucinaties niet noemen. Onderzoeker Damien Charlotin houdt een openbare, dagelijks bijgewerkte database bij van rechterlijke uitspraken waarin AI-gefabriceerd materiaal een rol speelde. Op het moment van schrijven staat de teller op meer dan 1.868 zaken wereldwijd, met 1.297 in de Verenigde Staten, 206 in Canada, 97 in Australië, 61 in het Verenigd Koninkrijk en 55 in Israël (Charlotin-database). Nederland staat in dezelfde database met 7 geregistreerde zaken, een fractie van het Amerikaanse aantal, maar dat zegt vooral iets over hoeveel zaken de pers of een tuchtrechter halen, niet over hoeveel het daadwerkelijk voorkomt.
De bekendste zaak blijft Mata v. Avianca uit 2023: een Amerikaanse advocaat diende een processtuk in met verwijzingen naar rechtszaken die ChatGPT had verzonnen, rechter P. Kevin Castel noemde een van de juridische analyses letterlijk ‘gibberish’ en legde de advocaten een boete van 5.000 dollar op (Wikipedia). Dichter bij huis: eind juli 2026 berispte de Raad van Discipline in ‘s-Hertogenbosch voor het eerst een Nederlandse advocaat voor onzorgvuldig AI-gebruik, nadat ze in twee huurzaken conclusies indiende met acht ECLI-verwijzingen die AI had verzonnen of die naar totaal andere zaken bleken te verwijzen, plus een proceskostenveroordeling van 1.250 euro (ECLI:NL:TADRSHE:2026:93, Mr. Online). Ook in de accountancy is het al misgegaan: PwC leverde adviesrapporten met verzonnen voetnoten en verkeerd toegeschreven claims, en EY en KPMG moesten rapporten intrekken vanwege AI-hallucinaties (Accountant.nl). Nextens beschrijft daarnaast een Nederlandse aandeelhoudersprocedure rond een rederij waarin een advocaat niet-bestaande jurisprudentie aanvoerde, met reputatieschade tot gevolg (Nextens).
Hoe herken je een AI-hallucinatie voordat hij de deur uitgaat?
Een paar signalen verraden een verzonnen bron vaker dan je zou verwachten. Een ECLI die net iets te rond of te logisch aanvoelt, bijvoorbeeld een jaartal gevolgd door een suspect ronde reeks cijfers, is reden voor extra achterdocht. Hetzelfde geldt voor een percentage of een bedrag dat precies aansluit bij het punt dat je probeert te maken, zonder dat er een marge of afronding in zit die je van een officiële bron zou verwachten. Officiële bronnen zijn zelden zo netjes als een AI-antwoord.
Een tweede signaal is stelligheid zonder voorbehoud. Een taalmodel dat een onzekere juridische kwalificatie presenteert als een uitgemaakte zaak, zonder ‘in beginsel’, ‘onder voorwaarden’ of een verwijzing naar een minderheidsstandpunt, verraadt dat het de nuance van de brontekst is kwijtgeraakt of nooit heeft gekend. En het simpelste signaal van allemaal: kun je de bron in twee minuten opzoeken in een officiële databank? Zo niet, dan gaat hij niet de deur uit, punt.
Waarom is dit extra risicovol voor fiscalisten en accountants?
Bij een advocaat in de rechtszaal grijpt de rechter meteen in als een citaat niet blijkt te bestaan. Bij een fiscaal advies dat je per e-mail verstuurt, ontbreekt die directe controle. Een verkeerd percentage of een verzonnen beleidsbesluit kan maanden ongemerkt blijven, tot een controle of een cliënt die zelf iets anders leest. Onderzoekers wijzen bovendien op tijdsdruk als versneller: ‘onder tijdsdruk kan de verleiding ontstaan om controles over te slaan,’ aldus Pim Betist in Accountant.nl (Accountant.nl). Julia van Leeuwen voegt daaraan toe dat veel professionals de fout maken om AI te gebruiken als een zoekmachine, terwijl dat niet is wat het is (https://www.accountant.nl/nieuws/2026/8/tijdsdruk-vergroot-risico-op-ai-fouten-bij-accountants-en-advocaten).
Sinds 2 februari 2025 ben je als kantoor bovendien wettelijk verplicht tot AI-geletterdheid: medewerkers die met AI werken moeten voldoende kennis hebben van de risico’s, inclusief het risico op hallucinaties. Dat is geen vrijblijvend advies meer, het is een verplichting uit de AI-verordening.
Er speelt nog een laag onder de tuchtrechtelijke aansprakelijkheid: je beroepsaansprakelijkheidsverzekering. Een advies dat is gebaseerd op een verzonnen wetsartikel of een niet-bestaand beleidsbesluit is in de kern een beroepsfout, en verzekeraars kijken bij een schadeclaim steeds vaker expliciet naar de vraag of een kantoor een controleproces had voor AI-output. Geen proces betekent een zwakkere positie bij de afhandeling van een claim, nog los van het tuchtrechtelijke risico.
Welke vijf routines wapenen je tegen AI-hallucinaties?
Eén: houd de rollen zuiver
Jouw bronnen leveren de waarheid, AI levert de vorm. De wet zoek je in je juridische databank, de ECLI pak je uit de officiële publicatie op rechtspraak.nl, en AI mag structureren, verhelderen, inkorten en herschrijven. Vraag nooit van een taalmodel wat alleen een geverifieerde bron kan leveren.
Twee: bouw één vaste reflex in bij elke bronvermelding
Controleer op bestaan, op datum en op inhoud. Laat geen enkel citaat de deur uitgaan zonder dat je het zelf in de authentieke publicatie hebt zien staan. Die controle kost minder tijd dan je vreest, en ze maakt je teksten sterker, omdat je jezelf dwingt precies te verwoorden waarop je leunt.
Drie: check percentages, drempels en data alsof je je eigen aangifte controleert
Dat kost nauwelijks minuten en voorkomt structureel gezichtsverlies. Tarieven en forfaits wijzigen vaker dan een taalmodel weet, en een AI-systeem kent geen actuele datum tenzij jij die meegeeft.
Vier: werk met bron vóór taal
Begin bij de juridische bron voor wet, beleid en jurisprudentie, en laat het taalmodel pas daarna structuur en toon aanbrengen. Noem in een uitgaande tekst geen concrete ECLI die je niet zelf hebt opgehaald, werk tot dat moment met een placeholder. Dat is het verschil tussen mooie taal zonder bron en een dossier dat je durft open te slaan bij een controle.
Vijf: leg vast wat je deed
Noteer welke tool, welke versie, welke prompt, welke bron je controleerde en wie de review deed. Niet omdat iemand je controleert, maar omdat het je werk aantoonbaar sterker maakt, precies zoals de tuchtrechter in ‘s-Hertogenbosch benadrukte: onzorgvuldig AI-gebruik werd niet afgestraft om de techniek, maar om het ontbreken van controle.
De fout die niemand benoemt: de verdwijnende nuance
Vrijwel elk artikel over AI-hallucinaties waarschuwt voor verzonnen bronnen. Er is een fout die subtieler is en die zelden wordt beschreven: de verdwijnende nuance. Een adviestekst met de formulering ‘verrekening kan onder voorwaarden mogelijk zijn’ wordt door een taalmodel voor de leesbaarheid soms herschreven tot ‘verrekening is mogelijk’. Geen woord gelogen, geen bron verzonnen, en toch is het advies nu onjuist, want de voorwaarden wáren het advies.
Taalmodellen zijn getraind op vloeiendheid, en een voorwaardelijke bijzin staat vloeiendheid in de weg. De remedie is simpel maar vergt discipline: lees elke door AI herschreven zin terug tegen het origineel en controleer specifiek of een voorwaarde, een uitzondering of een ’tenzij’ is weggevallen. Dat is een andere controle dan het checken van een bron, en minstens zo belangrijk.
Wat doe je als je zelf een AI-hallucinatie in een verstuurd advies ontdekt?
Dit overkomt vroeg of laat ieder kantoor dat met AI werkt, en het scenario verdient een vast stappenplan in plaats van paniek. Eén: stel exact vast welke bewering onjuist is en waarom, een verzonnen ECLI is een ander probleem dan een verouderd tarief en vraagt een andere toonzetting naar de cliënt. Twee: beoordeel de impact, ging het om een randopmerking of om de kern van het advies waarop de cliënt een beslissing heeft genomen.
Drie: neem contact op met de cliënt zodra de impact meer is dan een randopmerking, met een correctie en, waar nodig, een herziene conclusie. Wachten tot de cliënt het zelf ontdekt is altijd de duurdere weg, zowel financieel als in vertrouwen. Vier: leg het incident vast in het dossier inclusief de correctie, precies zoals de tuchtrechter in ‘s-Hertogenbosch benadrukte dat controle en vastlegging het verschil maken. Vijf: bespreek de casus intern zonder schuldigen aan te wijzen, één concreet voorval scherpt een team sneller dan tien beleidsregels.
Welke bronnen en jurisprudentie zijn relevant?
Raad van Discipline ‘s-Hertogenbosch, ECLI:NL:TADRSHE:2026:93, berisping wegens onzorgvuldig AI-gebruik, eind juli 2026. Mr. Online, tuchtrechter berispt voor eerste keer advocaat om onzorgvuldig AI-gebruik. Mata v. Avianca, Inc., U.S. District Court S.D.N.Y., 2023. Damien Charlotin, AI Hallucination Cases database, doorlopend bijgewerkt. Accountant.nl, tijdsdruk vergroot risico op AI-fouten bij accountants en advocaten. Nextens, AI-hallucinaties: waarom blind vertrouwen op generieke tools riskant is. Secure Audit, AI-geletterdheid EU AI Act artikel 4.
Hoe voer je dit in één middag in?
Begin met de vijf routines op papier te zetten in een half A4’tje: rollen zuiver houden, elke bronvermelding controleren, cijfers en data checken, bron vóór taal, en vastleggen wat je deed. Bespreek in het eerstvolgende werkoverleg kort de casus uit ‘s-Hertogenbosch, tien minuten is genoeg om iedereen scherp te krijgen. Spreek af dat niemand een ECLI, wetsartikel of tarief in een uitgaand stuk zet zonder dat hij of zij het zelf heeft opgezocht. Zet een terugkerende steekproef in de agenda: pak eens per kwartaal een AI-onderbouwd advies en controleer alle bronnen alsof je een dossier van een collega beoordeelt.
Slot
De meeste fouten met AI zijn geen softwarefouten, het zijn momenten waarop onze eigen haast of onze neiging om op vorm te vertrouwen zichtbaar wordt in een tekst die overtuigend klinkt maar net naast de waarheid landt. AI is als een stagiair met een eindeloos geheugen en nul empathie, ze schrijft wat je vraagt, niet wat je bedoelt. De advocaat in ‘s-Hertogenbosch werd niet berispt omdat ze AI gebruikte, ze werd berispt omdat ze niet controleerde. Dat verschil is precies waar jouw kantoor het verschil kan maken.
Veelgestelde vragen (FAQ)
Wat is een AI-hallucinatie?
Output van een taalmodel die overtuigend en feitelijk oogt, maar niet bestaat of onjuist is, zoals een verzonnen wetsartikel, een verkeerd tarief of een niet-gepubliceerde ECLI.
Is er al een Nederlandse advocaat gestraft voor een AI-hallucinatie?
Ja. De Raad van Discipline ‘s-Hertogenbosch berispte eind juli 2026 voor het eerst een advocaat nadat acht door AI verzonnen of foutieve ECLI-verwijzingen in processtukken belandden (ECLI:NL:TADRSHE:2026:93).
Hoeveel rechtszaken wereldwijd zijn al beïnvloed door AI-hallucinaties?
Meer dan 1.868 op het moment van schrijven, volgens de doorlopend bijgewerkte database van onderzoeker Damien Charlotin, met 1.297 zaken in de Verenigde Staten (Charlotin-database). Dit aantal groeit dagelijks.
Kan AI ook in de accountancy tot verzonnen bronnen leiden?
Ja. PwC leverde adviesrapporten met verzonnen voetnoten, en EY en KPMG moesten rapporten intrekken vanwege AI-hallucinaties (Accountant.nl).
Wat was de zaak Mata v. Avianca?
Een Amerikaanse rechtszaak uit 2023 waarin advocaten ChatGPT-gegenereerde, niet-bestaande rechtszaken citeerden in een processtuk. Rechter P. Kevin Castel legde een boete van 5.000 dollar op (Wikipedia).
Hoe controleer ik of een ECLI echt bestaat?
Zoek de ECLI rechtstreeks op in de officiële uitsprakendatabank op rechtspraak.nl. Als hij daar niet verschijnt, bestaat de uitspraak niet of is de verwijzing onjuist.
Waarom vallen AI-hallucinaties zo moeilijk op?
Omdat AI schrijft met een toon en zinsbouw die op die van een vakgenoot lijken, en omdat een voetnoot of ECLI onder een zin ons sneller doet denken dat de inhoud klopt, een reflex die is aangeleerd in een wereld waarin mensen bronnen maakten.
Is AI-geletterdheid verplicht op mijn kantoor?
Ja, sinds 2 februari 2025 verplicht artikel 4 van de AI-verordening kantoren te zorgen dat medewerkers die met AI werken voldoende kennis hebben van de risico’s, waaronder hallucinaties.
Wat is de verdwijnende nuance?
Het verschijnsel waarbij AI bij het herschrijven van een tekst een voorwaardelijke formulering (“kan onder voorwaarden”) vereenvoudigt tot een stellige uitspraak (“is mogelijk”), waardoor een advies feitelijk onjuist wordt zonder dat er een bron is verzonnen.
Mag ik AI wel gebruiken om jurisprudentie samen te vatten?
Ja, zolang je de brontekst zelf hebt opgehaald uit een officiële bron voordat je AI erop loslaat. Gebruik AI voor structuur en leesbaarheid, niet als vervanging van de bron zelf.
Aan welke signalen herken ik een verzonnen bron?
Een ECLI of percentage dat verdacht rond of precies aansluit bij je punt, stelligheid zonder enig voorbehoud, en een bron die je niet binnen twee minuten in een officiële databank terugvindt.
Heeft een AI-hallucinatie gevolgen voor mijn beroepsaansprakelijkheidsverzekering?
Een advies gebaseerd op een verzonnen bron is in de kern een beroepsfout. Verzekeraars kijken bij een schadeclaim steeds vaker naar de vraag of een kantoor een controleproces had voor AI-output, wat je positie bij een claim direct beïnvloedt.
Waarom verzint een taalmodel eigenlijk iets in plaats van te zeggen dat het het niet weet?
Omdat het woord voor woord de statistisch waarschijnlijkste tekst genereert op basis van trainingsdata, zonder ingebouwde controle tegen een actuele bron. Het model registreert geen onzekerheid, het produceert simpelweg het volgende plausibele woord, ook als de feitelijke basis ontbreekt.
AI-disclaimer
Deze blog is met behulp van AI opgesteld en door Ron Meijer RB inhoudelijk gecontroleerd, geverifieerd tegen de originele bronnen en geaccordeerd voor publicatie. Blauwe Vrijdag verantwoordt AI-gebruik conform de EU AI-verordening (Verordening (EU) 2024/1689), waaronder artikel 50 (transparantieplicht), gehandhaafd sinds 2 augustus 2026 door de Europese Commissie en de Autoriteit Persoonsgegevens.
Elke feitelijke bewering in deze blog is voorzien van een inline bronvermelding, zodat je de claim zelf tot in de puntjes kunt verifiëren. De teller van de Charlotin-database verandert dagelijks, het genoemde aantal is een momentopname op de publicatiedatum van deze blog. Waar wij verder onzekerheid signaleren, staat dat er expliciet bij.
Vragen of correcties? Mail hallo@blauwevrijdag.nl.