Hugging Face testar nytt API för lagring över domäner

Vad har hänt

Hugging Face har i slutet av maj 2024 påbörjat tester av det nya Cross-Origin Storage API (COSAPI) inom sitt bibliotek Transformers.js. Implementeringen av COSAPI syftar till att möjliggöra delad lagring av maskininlärningsmodeller mellan olika domäner, direkt i webbläsaren. Detta initiativ utforskar hur webbläsarbaserade AI-applikationer kan optimeras genom effektivare hantering av stora datamängder som AI-modeller ofta utgör.

Varför det spelar roll

Möjligheten att dela lagringsutrymme för AI-modeller över olika webbplatser adresserar en central utmaning i webbläsarbaserad maskininlärning: bandbredd och lagringskapacitet. Genom att undvika att ladda ner samma modell flera gånger tillåts snabbare laddningstider och mer effektiva användarupplevelser. Detta kan påskynda utvecklingen av avancerade AI-applikationer som körs lokalt i användarens webbläsare, exempelvis inom realtidsbearbetning av språk eller bilder.

Vem påverkas

Utvecklare som arbetar med Transformers.js och webbläsarbaserad maskininlärning påverkas direkt då COSAPI kan underlätta hanteringen av modeller och resurser. Slutanvändare kan uppleva snabbare och mer responsiva AI-applikationer i sina webbläsare, tack vare reducerade laddningstider. Företag som utvecklar webb-AI-lösningar kan potentiellt kapa kostnader för dataöverföring och förbättra användarretention.

EU-status

Ej relevant för EU-status.

Mer att veta

Integrationen av COSAPI är för närvarande en experimentell funktion i Transformers.js och avses inte för produktionsanvändning. Standardiseringsarbetet för COSAPI pågår och dess framtid som webbstandard är ännu inte fastställd.