Googles nya metod förbättrar LLM:s faktabaserade svar

Vad har hänt

Forskare från Google Research har introducerat en ny metod, "Thinking to Recall" (TTR), för att förbättra de stora språkmodellernas (LLM) faktabaserade kunskap. Metoden skiljer sig från traditionella "retrieval-augmented generation" (RAG) genom att aktivera modellens parametriska kunskap via ett explicit resonemangssteg. Detta innebär att LLM:en först resonerar fram en sökfråga utifrån den ursprungliga prompten, använder denna för att internt "söka" i sin egen kunskapsbas och sedan genererar ett svar baserat på den informationen.

Varför det spelar roll

Traditionella metoder för att förbättra LLM:s faktauppgifter, som RAG, förlitar sig ofta på externa databaser. TTR syftar till att effektivare utnyttja den information som redan finns inbyggd i modellen (parametrisk kunskap). Genom att generera resonemangsledtrådar förbättras modellens förmåga att självständigt hämta relevant information, vilket leder till mer precisa och detaljerade svar utan extern databashämtning.

Vem påverkas

Denna utveckling påverkar primärt AI-utvecklare och forskare som arbetar med LLM:er, då den erbjuder en ny strategi för att förbättra modellprestanda. Indirekt gynnas även användare av AI-tjänster genom att framtida applikationer kan ge mer faktabaserade och konsekventa svar.

EU-status

Ej relevant för EU-status.

Mer att veta

Metoden har visat sig vara särskilt effektiv för frågor som kräver djupare förståelse för att kunna generera en korrekt sökfråga, vilket traditionellt har varit en utmaning för LLM:er.