OpenAI meldt verstoring van grootschalige poging tot modeldistillatie

OpenAI zegt een gecoördineerde campagne te hebben verstoord die beschermde redeneerstappen uit zijn modellen probeerde te halen. Volgens het bedrijf begon de activiteit op 1 juli; op 24 en 25 juli werden 16.000 verzoeken waargenomen die het patroon gebruikten, afkomstig van ruim 4.000 gebruikers. Een bredere groep gerelateerde promptpatronen omvatte meer dan 15.000 gebruikers en werd volgens OpenAI op 28 juli volledig verstoord. Het bedrijf benadrukt dat de cijfers pogingen beschrijven, niet noodzakelijk succesvolle extracties, en zegt dat geen encryptie is gekraakt en geen opgeslagen gesprekken zijn ingezien. OpenAI schrijft een kerngroep toe aan personen die verband houden met Moonshot AI, maar zegt niet zeker te weten of alle waargenomen operators één actor vormden. Het bedrijf zegt verdere technische verdediging en informatiedeling met partners te ontwikkelen.