Onderzoekers van Multiverse Computing beschrijven ProvenanceGuard, een verificatielaag voor antwoorden van agents die via MCP meerdere bronnen raadplegen. In plaats van bewijs uit verschillende tools samen te voegen, volgt het systeem per bewering welke bron die ondersteunt en controleert het ook of de genoemde bron klopt. In een test met 361 beweringen uit 40 antwoorden ving het volgens de auteurs 138 van 139 beweringen die experts hadden afgekeurd; 67 door experts ondersteunde beweringen werden eveneens tegengehouden voor controle of herstel. Voor beweringen met een herkenbare bron koos het systeem in die test in circa 86% van de gevallen de juiste bron. De resultaten komen uit een medische testopzet met lokale modellen; de auteurs benadrukken dat vergelijkbare bronnen de bronkeuze lastiger maken en dat verdere verbetering nodig is.
ProvenanceGuard controleert of AI-antwoorden de juiste bron gebruiken
