OpenAI scherpt de veiligheidsgrenzen van ChatGPT aan voor gesprekken over geweld en voor gebruikers onder de achttien. Tegelijk kondigt het bedrijf een nieuw rapport aan over community safety, met geanonimiseerde voorbeelden en gegevens over de werking van de veiligheidsmaatregelen.
Wat OpenAI nu aankondigt
De aankondiging bestaat uit twee delen. OpenAI legt extra beperkingen op aan informatie over wapens voor minderjarigen. Daarnaast beschrijft het bedrijf hoe ChatGPT gesprekken waarin aanwijzingen voor mogelijk geweld terugkomen voorzichtiger moet behandelen. In zulke situaties kan het systeem een gesprek beëindigen of de reactie aanscherpen.
Dat is iets anders dan een algemene blokkade op gesprekken over geweld. Volgens OpenAI moeten gebruikers nog steeds informatie kunnen krijgen over preventie, de-escalatie en hulp. De grens ligt bij praktische informatie die geweld of misbruik kan faciliteren.
Nieuw veiligheidsrapport komt later
OpenAI zegt een Community Safety Report te publiceren over geweldspreventie en andere veiligheidskwesties. Het eerste rapport staat gepland voor begin 2027 en moet de tweede helft van 2026 behandelen. Daarna wil OpenAI iedere zes maanden updates publiceren.
Het aangekondigde rapport moet onder meer uitleggen hoe systemen potentieel schadelijk gedrag detecteren, onderzoeken en beantwoorden. Ook belooft OpenAI geanonimiseerde voorbeelden, nieuwe maatregelen en relevante gegevens. Daarmee verschuift de discussie van beleidsregels naar meetbare werking: hoe vaak wordt ingegrepen, in welke situaties en met welke neveneffecten?
Extra bescherming voor tieners
ChatGPT for Teens gebruikt al leeftijdsgerichte veiligheidsmaatregelen. OpenAI breidt die uit met beperkingen op praktische informatie over wapens en beveiligingssystemen die voor geweld kan worden misbruikt, ook wanneer de vraag op zichzelf onschuldig lijkt. Het bedrijf koppelt dat aan leeftijdsinschatting en ouderlijk toezicht.
De aanpak blijft afhankelijk van classificatie, context en een inschatting van de leeftijd. OpenAI zegt daarom dat een onterecht in de onder-18-ervaring geplaatste gebruiker een snelle, privacybeschermende manier moet houden om de volwassen leeftijd te bevestigen. Voor ouders betekent dit niet dat zij automatisch iedere chat kunnen lezen.
Waarom dit relevant is voor AI-gebruikers
Voor scholen, ouders en organisaties die ChatGPT beschikbaar stellen, is vooral de transparantiebelofte relevant. Een veiligheidsfunctie is moeilijk te beoordelen wanneer alleen de beleidsintentie zichtbaar is. Frequenties, categorieën en informatie over fout-positieven maken het mogelijk om later beter te beoordelen of de interventies voorspelbaar en proportioneel zijn.
De eerste rapportage is nog toekomstig. Tot die tijd is het verstandig om de aankondiging niet te verwarren met een onafhankelijk gemeten effect. De concrete productwijzigingen zijn aangekondigd; de omvang van de veiligheidswinst moet nog blijken uit de rapportage en uit onafhankelijke evaluatie.
Bronnen
OpenAI: Community safety report and new protections for teens
OpenAI: Updated Model Spec