Kern: OpenAI beschrijft de technische ontwikkeling van Habitat, het online opslagplatform achter onder meer ChatGPT, de API en Codex. De publicatie gaat over infrastructuurkeuzes; ze kondigt geen nieuw eindgebruikersproduct aan.
Wat verandert er in Habitat?
Volgens OpenAI ondersteunt Habitat meer dan 1 miljard gebruikers in 40 geografische regio’s en verwerkt het platform meer dan 500 petabytes aan data. Het bedrijf beschrijft een reis van één gedeelde Azure Cosmos DB-container naar afzonderlijke containers voor kritieke workloads en vervolgens terug naar multi-tenancy als standaard. Die terugkeer werd volgens de bron mogelijk door onder meer throttling van hete sleutels, request-tiering voor Quality of Service en een verbeterde serverloze modus.
Feitenmatrix
| Claim | Controle in primaire bron | Nuance |
|---|---|---|
| Habitat ondersteunt meer dan 1 miljard gebruikers in 40 regio’s en meer dan 500 petabytes. | De inleiding noemt deze schaal expliciet. | Dit zijn door OpenAI gerapporteerde platformcijfers, geen onafhankelijke meting. |
| OpenAI gebruikt multi-tenancy opnieuw als standaard. | De bron beschrijft de verschuiving terug naar één gedeelde container. | De aanpak gebruikt aanvullende isolatie- en throttlingmaatregelen; het is geen claim dat alle workloads identiek worden behandeld. |
| De verbeterde serverloze modus kan per fysieke partitie tot 10K RU/s schalen. | Dit staat expliciet in de beschrijving van de door Azure gebouwde modus. | RU/s is een infrastructuurmaat voor Azure Cosmos DB, niet een gebruikersgerichte snelheid. |
| De grootste Cosmos DB-account bedient meer dan 20 miljoen QPS. | OpenAI noemt dit in de sectie over co-managed services. | Ook dit is een leveranciersclaim; de bron levert geen onafhankelijke audit. |
Waarom de containerkeuze verschoof
De eerste gedeelde opzet had volgens OpenAI last van botsende logische partition keys, zogenoemde noisy neighbors en fysieke partities waarvan de effectieve capaciteit afnam na splitsingen. Afzonderlijke containers beperkten de impact van storingen, maar maakten capaciteitsplanning zwaarder voor productteams. De uiteindelijke aanpak combineert gedeelde containers met hot-key-throttling, lagere prioriteit voor offline workloads en automatische splitsingen op basis van RU-gebruik.
Vooruitblik
OpenAI schrijft dat het voor de volgende miljard gebruikers werkt aan een eigen online-opslagsysteem op exabyteschaal. Dat systeem is volgens de bron nog in ontwikkeling en combineert de RocksDB Cloud-kern van Rockset met Raft-replicatie. Het is dus een aangekondigd ontwikkeltraject, geen uitgerolde vervanging.