OpenAI presenterar egen AI-krets för förbättrad AI-infrastruktur
OpenAI har tillsammans med Broadcom lanserat en egenutvecklad AI-krets, Jalapeño, för att accelerera utvecklingen av sin AI-infrastruktur och minska beroendet av befintliga leverantörer.
Vad har hänt
OpenAI visade upp sin första specialdesignade AI-krets, utvecklad i samarbete med Broadcom. Kretsen, som går under namnet Jalapeño, är specifikt framtagen för inferens – den process där data bearbetas för att besvara användarfrågor i AI-tjänster som ChatGPT.
Snabbfakta
| Lanseringsdatum | 24 juni 2024 |
|---|---|
| Partner | Broadcom |
| Kretsnamn | Jalapeño |
| Funktion | AI-inferens |
”AI labs such as OpenAI and Anthropic are struggling to obtain enough computing horsepower to run the latest, most powerful chatbots and coding apps.”
”The chip made by the team is as good as the Blackwell chips made by Nvidia or the tensor processing units designed by Alphabet's Google”
”It will be performant on, we think, all kind of future iterations of LLMs”
Varför det spelar roll
Utvecklingen av egna AI-kretsar är ett svar på den utmaning AI-laboratorier som OpenAI och Anthropic möter gällande otillräcklig beräkningskapacitet. Genom att utveckla specialiserad hårdvara kan OpenAI minska kostnaderna och skapa ett alternativ till Nvidias grafikkort (GPU:er), som är standard för AI-beräkningar idag.
Vem påverkas
Denna nyhet påverkar primärt AI-utvecklare och företag som är beroende av AI-infrastruktur, inklusive OpenAI själva och konkurrenter inom AI-sektorn. Användare av AI-tjänster kan indirekt dra nytta av snabbare och mer kostnadseffektiva AI-modeller. Även Broadcom påverkas som samarbetspartner i utvecklingen.
EU-status
Ej relevant för EU-status.
Mer att veta
Broadcoms vd Hock Tan uppger att Jalapeño-kretsen är jämförbar med Nvidias Blackwell-kretsar och Googles Tensor Processing Units (TPU:er). OpenAI:s hårdvaruchef Richard Ho betonar att kretsen är designad för att vara högpresterande även för framtida iterationer av LLM:er.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Vilka bolag berörs?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Fronts signalkedja.