Ai2 beschrijft hoe het de verdeling van rekencapaciteit voor AI-onderzoek heeft veranderd. In plaats van een planningssysteem waarin bijna alle taken uiteindelijk hoge prioriteit kregen, kent het instituut onderzoeksgroepen budgetten in GPU-tijd toe. Een hiërarchische fair-share-planner vergelijkt het gebruik met die budgetten over een voortschrijdend venster. Taken geven daarnaast een minimale looptijd op: daarna kan de planner ze zo nodig onderbreken en opnieuw in de wachtrij plaatsen. Volgens Ai2 ontvingen teams tijdens een testperiode van dertig dagen 98 procent van de GPU-uren waarop zij aanspraak hadden, terwijl de bezetting op 98 procent bleef. Voor korte debugtaken daalde de gemeten wachttijd op het 90e percentiel volgens de organisatie van twee uur naar dertig seconden. Ai2 wijst ook op een keerzijde: interactieve sessies kunnen door onderbrekingen hun tijdelijke staat verliezen. Het instituut werkt daarom aan herstelbare sessies.
Ai2 verdeelt GPU-tijd via budgetten en fair-share-planning
