Hugging Face lanserar officiellt stöd för Apples MLX-ramverk

Hugging Face har lanserat officiellt stöd för Apples MLX-ramverk i biblioteket "transformers". Detta möjliggör körning av stora språkmodeller (LLM) på Mac-datorer med Apple Silicon med förbättrad prestanda och minnesutnyttjande. Integrationen standardiserar AI-arbetsflöden och gynnar AI-utvecklare och forskare genom snabbare slutledning lokalt. Detta minskar beroendet av molnbaserade GPU-instanser.