OpenAI lanserar egen AI-krets för LLM-arbetslaster: ”Jalapeno”
OpenAI har introducerat sin första egenutvecklade AI-krets vid namn ”Jalapeno”, specialdesignad för effektiv hantering av stora språkmodeller (LLM). Utvecklingen skedde i samarbete med Broadcom.
Vad har hänt
Den 25 juni 2024 presenterade OpenAI sin första anpassade AI-krets, döpt till "Jalapeno". Kretsen är specifikt framtagen för att hantera arbetslaster kopplade till stora språkmodeller (LLM) och har utvecklats i samarbete med Broadcom. Enligt OpenAI är "Jalapeno" inte en generell AI-krets, utan optimerad för AI-inferens.
Snabbfakta
| Lanseringsdatum | 25 juni 2024 |
|---|---|
| Kretsnamn | Jalapeno |
| Partnerföretag | Broadcom |
| Fokusområde | AI-inferens för LLM |
| Utvecklingstid | 9 månader |
”OpenAI has officially introduced Jalapeno, its first custom AI chip built for large language models (LLMs) workloads.”
”The chip has been developed in partnership with Broadcom”
”OpenAI and Broadcom developed Jalapeno from the initial design to manufacturing tape-out in just nine months.”
Varför det spelar roll
Lanseringen av "Jalapeno" representerar ett strategiskt steg för OpenAI att ta större kontroll över sin hårdvaruinfrastruktur. Genom att designa egna kretsar kan företaget skräddarsy hårdvaran för sina specifika AI-behov, vilket potentiellt kan leda till effektivare och snabbare AI-tjänster. Detta minskar också beroendet av externa chiptillverkare.
Vem påverkas
Denna utveckling påverkar primärt OpenAI och dess partners, inklusive Broadcom, som har medverkat i kretsens design och tillverkning. Indirekt kan det påverka utvecklare och användare av OpenAIs AI-tjänster genom potentiella förbättringar i prestanda och tillgänglighet. Aktörer inom AI-hårdvarumarknaden kan också se detta som en signal om ökad konkurrens från AI-företagen själva.
EU-status
Ej relevant för EU-status.
Mer att veta
OpenAI meddelar att tekniska "samplingar" av Jalapeno redan används för att köra AI-arbetslaster. Utvecklingen från design till tillverkning tog endast nio månader.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Vilka bolag berörs?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Fronts signalkedja.