OpenAI start met tekstwatermerken voor AI-content in de EU

OpenAI schetst op 5 oktober zijn gefaseerde aanpak voor tekstherkomst onder de EU AI Act. API-klanten wereldwijd kunnen voor geselecteerde modellen vrijwillig tekstwatermerken inschakelen; die optie blijft standaard uit. In de komende weken wil het bedrijf onzichtbare watermerken toevoegen aan daarvoor geschikte ChatGPT- en Codex-tekst in de EU. OpenAI noemt de techniek, textGrain, een statistisch signaal in woordkeuzes. De detector wordt voorlopig niet algemeen beschikbaar: goedgekeurde onderzoekers en expertorganisaties kunnen toegang aanvragen om de technologie te beoordelen en te helpen verbeteren. Het bedrijf waarschuwt dat detectie beperkingen kent en dat een watermerk op zichzelf niet vaststelt wie tekst schreef, of de inhoud klopt, of hoeveel menselijke bewerking eraan is toegevoegd. Dit is OpenAI’s beschrijving van de eigen aanpak en evaluaties.