AI Update · helder nieuws over modellen, tools en agents

PyTorch 2.15 brengt FP8 en snellere MPS-paden naar Apple Silicon

Nieuws

Illustratie van AI Update over Hugging Face: PyTorch 2.15 brengt FP8 en snellere MPS-paden naar Apple Silicon
Illustratie: AI Update (geen beeld van het nieuwsfeit zelf).

Hugging Face beschrijft voor PyTorch 2.15 nieuwe MPS-mogelijkheden op Apple Silicon, waaronder FP8-tensors en gespecialiseerde Metal-kernels. In de eigen tests van de auteurs decodeerden sommige mixture-of-experts-modellen 5 tot 6,5 keer sneller dan in 2.14; Qwen3.6-35B-A3B ging op een M3 Ultra van 9,4 naar 61,3 tokens per seconde. Ook noemt de publicatie een daling van het geheugentop voor Wan2.2-video-VAE-decodering van 270 naar ongeveer 8 GiB. Dit zijn gerapporteerde resultaten van de auteurs, geen onafhankelijke meting.