OpenAI i Broadcom predstavili AI čip Jalapeño

OpenAI i Broadcom predstavili su Jalapeño, prvi OpenAI-jev Intelligence Processor razvijen za zaključivanje umjetne inteligencije, odnosno namijenjen za pokretanje velikih jezičnih modela.

Jalapeño su predsjednik i izvršni direktor Broadcoma Hock Tan i predsjednik Charlie Kawwas uručili izvršnom direktoru OpenAI-ja Samu Altmanu i predsjedniku Gregu Brockmanu.

OpenAI kaže kako je dizajnirao čip od nule, vodeći se dubokim razumijevanjem osnova LLM-a, prema svojim planovima razvoja modela, jezgri, sustava poslužitelja i potreba za proizvodima, s partnerima Broadcomom i Celesticom, pomažući industrijalizaciji platforme kroz implementaciju čipa, ploču, integraciju sustava u rackove, visokoučinkovito umrežavanje i skalabilne proizvodne sustave.

Inženjerski uzorci Jalapeño čipa već izvršavaju ML opterećenja u laboratoriju na ciljanoj frekvenciji i snazi ​​proizvodnje, uključujući GPT‑5.3‑Codex‑Spark.

Iako OpenAI još uvijek mjeri konačne performanse, rana testiranja pokazuju da će Jalapeño pružiti znatno bolje performanse po vatu od trenutnog stanja tehnike. Detaljno tehničko izvješće o performansama bit će predstavljeno u nadolazećim mjesecima.

Arhitektura smanjuje kretanje podataka i uravnotežuje računalne, memorijske i mrežne resurse kako bi se postigla ostvarena iskorištenost mnogo bliža teoretskim vršnim performansama. Broadcomove tehnologije implementacije silicija i umrežavanja, uključujući mrežni silicij Tomahawk, pomažu u dovođenju platforme u masovnu proizvodnju.

 „Optimizirali smo arhitekturu oko jezgri, kretanja memorije, umrežavanja i obrazaca posluživanja koji su najvažniji za modele AI-a. Jalapeño će učinkovito izvršavati naša najvažnija opterećenja blizu teorijskih ograničenja hardvera“, navodi OpenAI u svojem blogu. 

Jalapeño se temelji na sustavima koje OpenAI svakodnevno pokreće na ChatGPT-u, Codexu, API-ju i budućim agentskim proizvodima, a istovremeno je dizajniran za trenutne i buduće LLM-ove u cijeloj industriji. Cilj je kombinirati snagu i propusnost današnjih vodećih AI akceleratora s latencijom bližom najbržim specijaliziranim inferencijskim sustavima, što Jalapeño čini prikladnim za interaktivne LLM proizvode u velikim razmjerima.

Također kažu da Jalapeño jača zamašnjak iza napretka OpenAI-a. "Bolja infrastruktura potiče računalnu učinkovitost. Veća računalna učinkovitost omogućuje bolju obuku i posluživanje, što u konačnici pokreće sposobnije AI modele. Bolji modeli postaju bolji proizvodi za ljude, programere i tvrtke. Bolji proizvodi potiču veću upotrebu, više kupaca i više prihoda, što OpenAI-u omogućuje ponovno ulaganje u sljedeću generaciju infrastrukture. S vremenom taj ciklus pomaže da inteligencija postane sposobnija, pouzdanija i jeftinija za sve", piše OpenAI u svojem blogu.

Jalapeño je prvi korak u višegeneracijskoj računalnoj platformi dizajniranoj za početno uvođenje do kraja 2026. i širenje u nadolazećim godinama, koji kombinira akceleratore dizajnirane od strane OpenAI-a s Broadcomovim tehnologijama implementacije silicija, umrežavanja i povezivanja, te Celesticinom stručnošću na području ploča, rackova i sustava.

OpenAI tvrdi da mu Jalapeño pomaže da više svoje infrastrukture pretvori u korisnu umjetnu inteligenciju za studente, razvojne programere, mala poduzeća, istraživače, poduzeća i sve koji pokušavaju učiti, stvarati ili rješavati teške probleme.