ChatGPT:s fantasy-besatthet avslöjar problem med AI-träning

Vad har hänt

Användare av ChatGPT har uppmärksammat att modellen i allt högre grad inkluderar orcher, goblins och fantasyelement i sina svar, även när instruktionerna inte efterfrågar det. Detta rör sig främst om den visuella genereringen och kreativa texter där estetiken tenderar att luta mot en specifik typ av fantasy. Fenomenet har blivit en viral spaning som blottlägger hur vissa mönster i träningsdatan kan ta överhanden.

Varför det spelar roll

Detta är ett konkret exempel på 'model collapse' eller skevheter i träningsdata där AI:n utvecklar fixeringar baserat på de mest frekventa bilderna eller texterna den matats med. Det visar på sårbarheten i AI-träning: om datan inte är tillräckligt varierad börjar modellen repetera klichéer istället för att vara genuint kreativ. Det utgör ett problem för professionella användare som kräver neutralitet och precision.

Vem påverkas

Främst kreativa användare och de som använder ChatGPT för generativt innehåll märker av de återkommande motiven. Utvecklare hos OpenAI påverkas då det tyder på att finjusteringen (fine-tuning) av modellen kan ha gett oproportionerlig vikt åt vissa typer av data.

EU-status

Ej relevant för EU-status, då fenomenet rör den underliggande dataträningen och inte specifika regulatoriska hinder inom unionen.

Mer att veta

Detta fenomen påminner om tidigare problem där AI-modeller fastnat i specifika mönster, som talspråkliga uttryck eller överanvändning av ordet 'delve'. Det belyser svårigheten i att skapa en helt neutral AI-personlighet.