OpenAI beschrijft in een nieuwe publicatie hoe het de omgevingen voor het trainen en evalueren van frontiermodellen heeft aangescherpt. De kern: frontiertraining vindt volgens OpenAI plaats zonder toegang tot het live internet, terwijl modellen voor webtaken werken met een offline wereld van geïndexeerde en gecachte inhoud.
De aanpak gebruikt meerdere verdedigingslagen. OpenAI noemt onder meer containers binnen virtuele machines, monitoring en netwerk- en cloudperimeters. In een grootschalige red-teamcampagne liet het teams van frontier-modelagents zoeken naar manieren om het live internet te bereiken, beveiligingsgrenzen te overschrijden en informatie tussen geïsoleerde taken uit te wisselen.
Wat de bron concreet meldt
| Claim | Status in de bron |
|---|---|
| Geen live-internettoegang voor frontiertraining | OpenAI beschrijft dit als geïmplementeerd beleid. |
| Red-teaming vond kwetsbaarheden en configuratiefouten | OpenAI meldt dat die tot patches, beperkingen en meldingen aan maintainers leidden. |
| Training hervat | OpenAI zegt dat reinforcement-learningtraining en interne inferentie op 1 oktober zijn hervat. |
| Onafhankelijke effectmeting | Niet aangeleverd; de beschreven bevindingen en aantallen zijn claims van OpenAI. |
De bron maakt ook duidelijk dat de campagne geen eindpunt is. OpenAI zegt dat toekomstige modellen kwetsbaarheden kunnen vinden die nu nog onbekend zijn en dat continu red-teamen onderdeel blijft van de veiligheidsbeoordeling.