# Oltre il rack: come l'ottica co-packaged (CPO) e lo storage di nuova generazione stanno risolvendo il problema dello spostamento dei dati dell'intelligenza artificiale
Al CIOE 2026 di Shenzhen, è emerso un affascinante cambiamento nel dibattito tra gli architetti dei data center. Cinque anni fa, le discussioni erano incentrate suTFLOPS della GPU e conteggio dei core della CPU. Oggi? L'ossessione èPB/s (petabyte al secondo)Ebudget di latenza dei nanosecondi.
Perché? Perché nell’era dei modelli di intelligenza artificiale da trilioni di parametri e dell’inferenza in tempo reale,il collo di bottiglia si è spostato dal calcolo allo spostamento dei dati. Una moderna GPU H200 può elaborare 4,8 PFLOPS, ma è affamata di dati. L'addestramento di un modello di classe GPT-4 richiede il mescolamento45 petabyte di dati di addestramentosu migliaia di GPU, miliardi di volte.
Questo articolo esplora due tecnologie convergenti presentate al CIOE 2026 che stanno ridefinendo l'infrastruttura AI: 1.Ottica co-packaged (CPO) e ottica Near-Package (NPO)– eliminazione dei colli di bottiglia elettrici 2.Storage aziendale di nuova generazione– SSD e sistemi di memoria realizzati per l'insaziabile appetito dell'intelligenza artificiale
I moduli ottici tradizionali si collegano agli interruttori tramite tracce elettriche su un PCB. Man mano che la velocità dei dati supera 1,6 Tbps, queste tracce diventano barriere insormontabili:
-Perdita di segnale: 30-40 dB/m a 112 Gbps PAM4 (56 GHz) -Consumo energetico: Retimer e DSP bruciano 15-20 W per modulo -Latenza: SerDes elettrico aggiunge 100-200 ns andata e ritorno -Densità: Il frontalino QSFP-DD limita a ~51 Tbps per ASIC dello switch
EntraOttiche co-confezionate: integrazione di motori otticiall'interno dello stesso paccocome il silicio di commutazione.
Passeggiando per la mostra, CPO è passato dagli atti della conferenza atrasporto del silicio:
####1.Motori ottici NPO 6.4T(华工正源/Huagong Zhongyuan) -Configurazione: 8 corsie da 800G che utilizzano laser DWDM a punti quantici -Efficienza energetica: 3,5 pJ/bit (rispetto a 8 pJ/bit per moduli collegabili) -Fattore di forma: Integrato nel substrato del pacchetto switch -Stato: Campionamento su hyperscaler di livello 1 nel quarto trimestre del 2026
####2.Piattaforme fotoniche al silicio(GlobalFoundries) LoroSiPh compatibile con CMOS da 45 nmil processo consente: -Integrazione monoliticadi laser, modulatori e fotorilevatori -Test su scala waferriducendo i costi di assemblaggio del 60% -Sorgenti multilunghezza d'ondaper applicazioni DWDM
####3.La svolta hardware di Light联芯科La startup cinese ha presentato ilSistema di litografia programmabile senza maschera ZW1000per la fotonica del silicio: -Prototipazione rapida: Settimane invece di mesi per i nuovi progetti -Produzione a basso volume: Economico per <10.000 unità/anno -Flessibilità: Guide d'onda riconfigurabili per applicazioni personalizzate
Questo risolve la sfida più grande del CPO:cicli di iterazione del progetto. I costi delle fotomaschere tradizionali (oltre 200.000 dollari) hanno reso la sperimentazione proibitivamente costosa.
Non tutte le applicazioni richiedono la complessità del CPO. Ecco quando ciascuna tecnologia ha senso:
| Architettura | Ideale per | Larghezza di banda | Potenza | Costo | Disponibilità | |--------------|----------|-----------|-------|------|-----|| |Collegabile (QSFP-DD)| Reti di foglie dorsali | 800G-1.6T | 15-20W| $ | Ora | |LPO (collegabile lineare)| Da rack a rack <100 m | 800G | 8-12 W | $$ | Ora | |NPO (Near-Package)| Cluster di formazione sull'intelligenza artificiale | 3,2-6,4 T | 5-8 W | $$$ | 2027 | |CPO (co-confezionato)| Cambia tessuti | 12,8T+ | 3-5 W | $$$$ | 2028 |
Intuizione chiave dal CIOE: per le implementazioni nel periodo 2026-2027,dominano le architetture ibride: - CPO per switch spine (51,2 Tbps+ per ASIC) - 800G collegabile per switch leaf - LPO per interconnessioni GPU Compute Fabric
Per gli ingegneri che valutano le soluzioni CPO, comprendere l'architettura è fondamentale:
#### Percorso tradizionale del modulo collegabile: ``` GPU → PCIe → NIC ASIC → Tracce PCB (30 cm) → Retimer → Modulo DSP → Laser → Fibra → Fotodiodo → DSP → Retimer → Tracce PCB → Switch ASIC ```Latenza totale: ~800nsEnergia: ~35W per 800G bidirezionale
#### Percorso CPO: ``` Switch ASIC → Guida d'onda integrata (3 mm) → Modulatore → Fibra → Fotodiodo → Guida d'onda → Switch ASIC ```Latenza totale: ~200nsEnergia: ~8W per 800G bidirezionale
La riduzione della latenza è trasformativa performazione parallela sincrona(ad esempio, ZeRO-3, FSDP), dove le primitive di comunicazione collettiva (all-reduce, all-gather) dominano il tempo di esecuzione.
Nonostante gli convincenti vantaggi tecnici, il CPO deve affrontare alcuni ostacoli:
1.Immaturità della catena di fornitura: Solo 3-4 fornitori qualificati a livello globale 2.Cambia la riprogettazione dell'ASIC: Richiede il co-sviluppo con Broadcom/Nvidia/Marvell 3.Gestione termica: ASIC switch da 400 W + + motori ottici = raffreddamento complesso 4.Riparare l’economia: Motore ottico guasto = rottamazione dell'intero modulo interruttore ($ 50.000 +)
Consenso dell'industria al CIOE: CPO acquisiràIl 15-20% degli intervistati nel 2028 cambierà mercato, concentrato in cluster AI su vasta scala. I moduli collegabili rimangono dominanti per le aziende e le società di telecomunicazioni.
Mentre tutti sono fissati sulle GPU, le mostre sullo storage aziendale del CIOE hanno raccontato una storia altrettanto importante:La pipeline di dati dell'intelligenza artificiale è veloce quanto il suo componente più lento.
L'addestramento di un modello da 1.000 miliardi di parametri su 10 TB di dati richiede: -Caricamento del set di dati: 10TB letti dallo storage → Memoria GPU -Checkpoint: Pesi del modello da 2 TB scritti ogni epoca (10-100× per corsa di allenamento) -Operazioni di riproduzione casuale: Modelli di accesso casuale all'intero set di dati -Sincronizzazione dei gradienti: Scritture distribuite durante la backpropagation
HDD SAS tradizionali?Ridicolmente inadeguato. Anche gli SSD SATA hanno difficoltà. Questo è doveSSD NVMe PCIe 5.0EMemoria persistente DDR5entra nella foto.
####1.SSD aziendali PCIe 5.0: Inclusa la mostra di New Baseline TopstarSerie Micron 7500EKingston DC1500Munità che dimostrano: -Lettura sequenziale: 14.000 MB/s (rispetto a 3.500 MB/s per PCIe 3.0) -IOPS di lettura casuale: 2,5 milioni (fondamentale per il caricamento distribuito dei dati di allenamento) -Resistenza: 3 DWPD (scritture unità al giorno) per 5 anni = 82 PB scritture totali su un'unità da 15 TB
Impatto nel mondo reale: un JBOF NVMe a 16 unità può saturare i doppi collegamenti 100GbE per lo streaming di set di dati, eliminando lo storage come collo di bottiglia per la formazione.
####2.Memoria del server DDR5-5600: Oltre la capacità I carichi di lavoro AI richiedono entrambicapacità(512 GB-2 TB per server) elarghezza di banda(>400 GB/s per presa). DDR5-5600 offre: -Larghezza di banda: 44,8 GB/s per DIMM (rispetto a 32 GB/s per DDR4-3200) -Capacità: I moduli RDIMM da 128 GB diventano standard -Efficienza energetica: 1,1 V contro 1,2 V per DDR4 (riduzione del 10%)
Al CIOE abbiamo vistoRDIMM DDR5-5600 da 512 GB di Samsung– abilitazione di 2 TB per socket (16× DIMM) per server di inferenza LLM. Ciò consente di conservare interi modelli con parametri 70Bresidente in DRAM, eliminando il sovraccarico dello scambio di modelli.
####3.Espansione della memoria CXL: Il Game Changer Compute Express Link (CXL) 2.0 abilitaraggruppamento di memoriatra server: -Lotto di memoria condivisa: Più CPU accedono alla DRAM comune/memoria persistente -Latenza: <200ns per l'accesso alla memoria remota (rispetto ai millisecondi per NVMe) -Caso d'uso: i cluster di inferenza LLM condividono la cache KV tra i nodi
Sebbene sia ancora emergente (produzione limitata nel 2026), l'espansione della memoria CXL potrebberidurre i costi dei cluster di inferenza del 30%eliminando l'overprovisioning della memoria per nodo.
In base alle discussioni del CIOE con gli architetti dei data center, lo stack di storage AI ottimale è:
####Livello 1: GPU HBM (memoria a larghezza di banda elevata)-Capacità: 80-192 GB per GPU (H200/B200) -Larghezza di banda: 4-5 TB/s -Scopo: Gruppi di allenamento attivi, pesi modello durante il passaggio avanti/indietro
####Livello 2: DRAM host (DDR5)-Capacità: 1-2TB per server -Larghezza di banda: 400-800 GB/s per presa -Scopo: prelettura del set di dati, accumulo del gradiente, cache KV di inferenza
####Livello 3: archiviazione SSD NVMe-Capacità: 60-240 TB per server (4-16 unità × 15 TB) -Larghezza di banda: 50-200 GB/s (RAID 0 su tutte le unità) -Scopo: archiviazione completa del set di dati, checkpoint, controllo delle versioni del modello a lungo termine
Rapporto critico: Puntare aDRAM host: NVMe = 1:50(ad esempio, DRAM da 2 TB, NVMe da 100 TB). Ciò garantisce che il prelettura del set di dati non blocchi mai l'addestramento della GPU.
Considera un cluster di addestramento AI da 1.000 GPU: -Costo della GPU: $ 30 milioni (1.000 × $ 30.000 per H100) -Potenza annuale: 5 milioni di dollari (150 dollari/GPU × 1.000 × 8.760 ore × 0,12 dollari/kWh) -Utilità-prezzo: 5.000 dollari/ora per cluster inattivo (43 milioni di dollari/anno con utilizzo al 100%)
Ora immagina che i colli di bottiglia dello storage riducano l'utilizzo effettivo della GPU85%(15% inattivo in attesa di dati): -Tempo sprecato con la GPU: 6,45 milioni di dollari/anno -Costo per eliminare il collo di bottiglia: $ 500.000 (rete NVMe + DDR5 + 100GbE premium)
ROI: 1.200% nel primo anno. Questo è il motivo per cui gli hyperscaler non esitano a implementare SSD PCIe 5.0 da 2.000 dollari.
In qualità di partecipante al CIOE 2026 e fornitore del settore,Tecnologia Topstarposiziona in modo univoco i clienti per il successo dell'infrastruttura AI:
####Interconnessione ottica- Moduli QSFP-DD/OSFP 800G/1.6T - Soluzioni 400G/200G per architetture ibride - Cavi AOC/DAC per connettività su scala rack - Cablaggi in fibra MPO/MTP
####Archiviazione aziendale-SSD: Micron, Kingston, Samsung enterprise NVMe (PCIe 4.0/5.0) -Memoria del server: DDR5-4800/5600 RDIMM e LRDIMM -Memoria GPU: HBM2e/HBM3 per acceleratori AI (sourcing OEM)
####Componenti del server AI- GPU NVIDIA H100/H200/B100 (distributore autorizzato) - NIC Mellanox ConnectX-7 (400GbE per RDMA) - Switch Broadcom e SmartNIC
####1.Semplicità del fornitore unicoSmetti di gestire 10 fornitori diversi. Forniamo soluzioni rack AI complete: - Ottimizzazione della distinta base (BOM) - Pre-convalida della compatibilità - Spedizione e supporto consolidati
####2.Opzioni di approvvigionamento flessibili-Componenti di qualità OEMper implementazioni su vasta scala -Marchio originalemoduli (compatibili Cisco/Arista/Mellanox) -Soluzioni in scatola biancaper progetti sensibili ai costi
####3.Co-sviluppo tecnicoI nostri ingegneri collaborano su: -Progettazione della topologia di rete(Clos, Albero grasso, Libellula) -Dimensionamento del livello di archiviazionebasato sulla profilazione del carico di lavoro -Budget di alimentazione e raffreddamentoper distribuzioni a livello di rack
####4.Tempistiche di distribuzione rapideIn un settore con tempi di consegna di 16-24 settimane, manteniamo: -Inventario dei componenti strategici($ 5 milioni + azioni) -Consegna in 4-8 settimaneper configurazioni standard -Opzioni accelerateper interventi urgenti
Un recente progetto di un cliente illustra la nostra capacità end-to-end:
Requisiti:- 500 GPU NVIDIA H100 - Archiviazione di set di dati da 100 TB per nodo - Latenza di rete <10μs per operazioni di riduzione totale
Soluzione Topstar:-Rete: - 500 schede NIC Mellanox ConnectX-7 400GbE - 64 moduli ottici QSFP-DD da 800 G per switch spine - 1.024 moduli QSFP-DD da 400 G per switch a foglia -Magazzinaggio: - 4.000 SSD NVMe Kingston DC1500M da 15 TB (8 per server) - Controller RAID con cache da 8 GB per server -Memoria: - 32.000× RDIMM Samsung DDR5-5600 da 64 GB (64 per server, 4 TB/nodo)
Cronologia della distribuzione:- Settimana 1-2: finalizzazione e approvvigionamento della distinta base - Settimana 3-6: consegna e integrazione dei componenti - Settimana 7-8: installazione del rack e messa in servizio della rete - Settimana 9: convalida e trasferimento del carico di lavoro
Risultato: Cluster raggiuntoUtilizzo della GPU del 94,2%.durante corsi di formazione di una settimana, tra i più alti del settore.
Sulla base degli insight CIOE 2026 e delle roadmap del settore, ecco cosa accadrà:
-Moduli ottici 3.2Tinserire la produzione in volume -Campionamento DDR6inizia (7.200 MT/s, 60 GB/s per DIMM) -SSD PCIe 6.0fornire letture sequenziali da 28 GB/s -CXL3.0consente il pooling della memoria tra rack
-ASIC di commutazione 12,8Tcon CPO integrato -Segnalazione 400G per corsia(rispetto ai 200G max di oggi) -Commutazione del circuito otticoper l'allocazione dinamica della larghezza di banda -Primi acceleratori IA fotonici commerciali(calcolo ottico analogico)
-Commutazione ottica a livello di racksostituzione distribuzione elettrica -La fotonica del silicio diventa più economica del ramea >100 Gbps -Memoria persistente(allegato CXL) sostituisce NVMe per lo storage caldo -Collegamenti sicuri con aggrovigliamento quantisticoper la sincronizzazione del modello AI tra DC
I modelli di intelligenza artificiale che catturano i titoli dei giornali – GPT-5, Gemini Ultra, Claude Opus – sono capaci quanto iinfrastrutture sottostanti. Al CIOE 2026 il messaggio era inequivocabile:nell'era dell'intelligenza artificiale si sta costruendo un modulo ottico, un SSD e un DIMM di memoria alla volta.
Per le organizzazioni che implementano infrastrutture AI, sono emersi tre imperativi:
1.Non aspettare la tecnologia perfetta– 800G e DDR5 sono ora pronti per la produzione 2.Progetta per lo spostamento dei dati, non solo per il calcolo– Lo storage e la rete sono equivalenti alle GPU 3.Collabora con fornitori che comprendono lo stack– Ottica, archiviazione ed elaborazione devono essere progettate insieme
Tecnologia Topstarsi trova a questo punto di intersezione, riunendo componenti all'avanguardia, profonda competenza tecnica e agilità della supply chain per garantire tempi di implementazione aggressivi. Che tu stia creando il tuo primo cluster AI o scalando fino a 100.000 GPU, siamo pronti per essere il tuo partner per l'infrastruttura.
Il futuro dell’intelligence si costruisce oggi. Costruiamolo insieme.
---
Topstarè un fornitore leader di componenti per infrastrutture AI, specializzato in: -Moduli ottici: soluzioni QSFP-DD 800G/1.6T, OSFP 400G, CPO/NPO -Archiviazione aziendale: SSD NVMe (PCIe 4.0/5.0), Enterprise SATA, fattori di forma U.2/U.3 -Memoria del server: RDIMM/LRDIMM DDR5, HBM per acceleratori AI -GPU e reti: GPU NVIDIA AI, Mellanox SmartNIC, switch Broadcom
Con oltre 15 anni al servizio di data center iperscala, operatori di telecomunicazioni e clienti aziendali, uniamo le nostre forzeQualità di livello OEMconeconomia della scatola bianca.
📧Richieste di ingegneria: dsale@topsfp.com 🌐Catalogo prodotti: www.opticalmodulemanufacturers.com | www.qsfp28module.com 📱Collegare: [Facebook](https://www.facebook.com/topstar.sfp/) | [LinkedIn](https://www.linkedin.com/company/13177171/)
---
Parole chiave: Ottica co-packaged, CPO, NPO, data center AI, SSD aziendale, memoria server DDR5, NVMe PCIe 5.0, fotonica del silicio, interconnessione ottica, storage GPU, CIOE 2026, rete ad alta velocità, infrastruttura AI
Tag SEO: #CoPackagedOptics #CPO #NPO #AIInfrastructure #EnterpriseSSD #DDR5Memory #DataCenter #CIOE2026 #SiliconPhotonics #GPUStorage #OpticalModules #NVMe
Persona di contatto: Ms. Vicky Tian
Telefono: +86 19860146913
Fax: 86-0755-82552969