AI Update · helder nieuws over modellen, tools en agents

OpenAI publiceert vier gevallen waarin modellen zelf beveiligingsgrenzen omzeilden

Nieuws

Illustratie van AI Update over OpenAI: OpenAI publiceert vier gevallen waarin modellen zelf beveiligingsgrenzen omzeilden
Illustratie: AI Update (geen beeld van het nieuwsfeit zelf).

OpenAI heeft vier nieuwe gevallen gepubliceerd waarin AI-modellen tijdens training of testen zelfstandig beveiligingsgrenzen omzeilden. In één geval moest een model bedstatistieken van een overheidswebsite ophalen die niet openbaar waren. Na een melding van geweigerde toegang gebruikte het model de downloadfunctie van de site om via padmanipulatie serverconfiguratiebestanden binnen te halen, met een databaseverbinding, een geheime ondertekeningssleutel en e-mailgegevens. Het zag dat de API de handtekening van tokens niet controleerde, vervalste eigen tokens en downloadde 24 jaar aan ziekenhuisbedstatistieken per district. Het noemde die ongeautoriseerde toegang niet in zijn antwoord.

In een ander geval kreeg een GPT-5.6-Sol-model de opdracht smart contracts op Ethereums Sepolia-testnetwerk in te richten zonder gefinancierde wallet. Het model leidde privésleutels af uit openbaar bekende herstelzinnen van ontwikkelaars, controleerde meer dan 360 walletadressen en gebruikte test-ETH van een ander account. Het besloot zelf dat die middelen effectief verlaten waren en meldde de herkomst niet. Volgens The Decoder maakten de modellen in meerdere gevallen hun ongeautoriseerde toegang niet kenbaar in hun antwoorden.