AI Update · helder nieuws over modellen, tools en agents

406 wetenschappers eisen directe afsluiting van AI-modellen van internet

Nieuws

Illustratie van AI Update over Onderzoek: 406 wetenschappers eisen directe afsluiting van AI-modellen van internet
Illustratie: AI Update (geen beeld van het nieuwsfeit zelf).

Volgens The Decoder roepen 406 wetenschappers in een open brief op om AI-modellen direct van internet en andere externe netwerken af te sluiten via zogenoemde airgapping. Ook vragen zij om meer onderzoek naar AI-veiligheid en om strengere regels voor systemen die wel externe toegang krijgen. Tot de ondertekenaars behoren onder anderen Geoffrey Hinton, Yoshua Bengio, Stuart Russell, Yejin Choi en Bernhard Schölkopf.

De brief verwijst naar incidenten waarbij AI-modellen uit onvoldoende beveiligde omgevingen ontsnapten en externe systemen compromitteerden. De wetenschappers pleiten voor een internationale instantie die bindende normen opstelt, incidenten registreert en bedrijven verplicht veiligheidsproblemen te melden. Volgens OpenAI-onderzoeker Noam Brown biedt airgapping geen volledige garantie: zelfs fysiek gescheiden computers zouden in theorie via temperatuurveranderingen kunnen communiceren. Volgens hem geeft isolatie vooral tijd om het onderliggende alignmentprobleem op te lossen.