Interkoneksi optik untuk pusat data AI: Dari modul optik pluggable ke optik co-packaged

Interkoneksi optik untuk pusat data AIadalah tautan data berkecepatan tinggi yang menggunakan cahaya untuk memindahkan informasi antara GPU, sakelar, rak, dan sistem pusat data. Hal ini penting karena kluster AI yang besar memerlukan lebih dari sekadar daya komputasi mentah: kluster AI juga memerlukan bandwidth tinggi, latensi rendah, dan pergerakan data hemat daya di banyak perangkat.

Selama beberapa tahun terakhir, sebagian besar diskusi infrastruktur AI berpusat pada GPU. Fokus tersebut dapat dimengerti, karena GPU menyediakan komputasi paralel yang diperlukan untuk pelatihan dan inferensi skala besar. Namun cluster GPU bukan hanya sekedar tumpukan akselerator. Ini adalah sistem komputasi terdistribusi, dan sistem terdistribusi tidak hanya dibatasi oleh seberapa cepat setiap prosesor dapat menghitung, tetapi juga oleh seberapa cepat data dapat berpindah antar prosesor.

Ketika ribuan GPU bekerja bersama, interkoneksi menjadi bagian dari sistem komputasi itu sendiri. Jika jalur data antara GPU, switch, dan rak tidak dapat mengimbangi, akselerator yang mahal menghabiskan lebih banyak waktu menunggu dan lebih sedikit waktu komputasi. Dalam hal ini, interkoneksi optik bukanlah topik jaringan periferal. Ini adalah salah satu lapisan fisik yang menentukan apakah sistem AI besar dapat menggunakan komputasi yang terpasang secara efektif.

Pelatihan AI adalah tempat termudah untuk melihat masalahnya. Model yang besar mungkin berisi sejumlah besar parameter, jauh melampaui apa yang dapat disimpan atau diproses secara efisien oleh satu GPU. Beban kerja dibagi ke banyak akselerator. Setiap GPU menghitung sebagian tugas, lalu menukarkan hasil antara dengan GPU lain. Pertukaran tersebut dapat terjadi berulang kali selama pelatihan, sehingga menciptakan lalu lintas timur-barat yang padat di dalam cluster AI.

Inferensi juga dulunya terlihat lebih sederhana. Pada aplikasi AI generasi sebelumnya, masuk akal untuk membayangkan sebuah kueri ditangani oleh sejumlah kecil GPU. Inferensi modern bergerak menuju penalaran yang lebih kompleks, konteks yang lebih panjang, pengambilan, penggunaan alat, perencanaan, dan alur kerja agen. Dalam kasus ini, sistem mungkin perlu mengoordinasikan lebih banyak sumber daya komputasi dalam beberapa langkah. Hasilnya adalah inferensi juga dapat menjadi beban kerja yang sensitif terhadap interkoneksi, terutama ketika penerapan melayani banyak pengguna dalam skala besar.

Pelajaran praktisnya sangat jelas: ketika beban kerja AI memerlukan banyak prosesor untuk bertindak sebagai satu sistem,Bandwidth interkoneksi GPUmenjadi bagian dari persamaan kinerja.

Pelatihan dan inferensi memberikan tekanan yang berbeda pada jaringan, namun keduanya bergantung pada pergerakan data.

Selama pelatihan, GPU bertukar gradien, aktivasi, parameter, dan data perantara. Semakin terdistribusi model dan semakin besar clusternya, sinkronisasi dan pertukaran data menjadi semakin penting. Selama inferensi, tekanan bergantung pada desain beban kerja. Inferensi permintaan-respons sederhana mungkin tidak terlalu menekankan jaringan seperti pelatihan, namun penalaran multi-langkah, pengambilan, dan eksekusi agen dapat meningkatkan komunikasi antara node komputasi, sistem penyimpanan, dan grup akselerator.

Inilah sebabnya mengapa interkoneksi optik menjadi inti arsitektur pusat data AI. Tantangannya bukan lagi hanya bagaimana membuat chip yang lebih cepat. Ini juga merupakan cara menghubungkan chip-chip tersebut dengan cara yang menjaga bandwidth tetap tinggi, jarak dapat diatur, latensi rendah, dan konsumsi daya terkendali.

Tembaga masih mempunyai peran penting dalam sistem AI. Untuk jalur listrik yang sangat pendek di dalam server, sasis, atau kabinet yang terintegrasi erat, tembaga dapat menjadi efisien, dapat diservis, dan hemat biaya. Masalahnya muncul ketika pendekatan berbasis tembaga yang sama didorong ke arah laju jalur yang lebih tinggi, hubungan yang lebih panjang, dan topologi cluster yang lebih besar.

Pada kecepatan tinggi, sambungan tembaga menghadapi tiga kendala yang saling berhubungan: integritas sinyal, jangkauan, dan daya. Semakin tinggi kecepatan data, semakin sulit mengirimkan sinyal listrik bersih melalui jarak jauh. Tembaga pasif biasanya terbatas pada sambungan pendek. Solusi tembaga aktif dapat memperluas jangkauan dengan menambahkan perangkat elektronik, namun perangkat elektronik tersebut menambah daya, panas, biaya, dan kompleksitas desain.

Teknologi SerDes telah memungkinkan antarmuka listrik berkecepatan sangat tinggi, namun tingkat sinyal yang lebih tinggi membuat sambungan tembaga semakin sensitif terhadap kompleksitas kehilangan, refleksi, crosstalk, dan pemerataan. Ketika sistem AI bergerak menuju jalur listrik yang lebih cepat, jangkauan efektif tembaga menjadi lebih bergantung pada produk dan arsitektur.

Ini tidak berarti tembaga lenyap. Artinya tembaga semakin banyak digunakan ketika kekuatannya masih sesuai dengan jarak fisiknya: jalur listrik yang pendek dan dikontrol dengan ketat. Ketika link bergerak melampaui beberapa meter, atau ketika banyak link harus beroperasi secara padat dalam sistem skala rak atau skala cluster, link optik menjadi lebih menarik.

Perbedaan yang paling penting bukanlah “tembaga versus serat” secara abstrak. Perbedaan sebenarnya adalah jarak link dan lapisan sistem.

Di dalam kabinet, GPU dan chip switch dapat berkomunikasi melalui jalur listrik yang sangat pendek. Dalam sistem seperti kabinet GPU kepadatan tinggi, banyak tautan internal yang tetap bersifat listrik karena jarak fisiknya pendek. Namun hubungan rak-ke-rak, kabinet-ke-kabinet, dan skala pusat data menciptakan masalah yang berbeda. Jarak tersebut lebih panjang, jumlah tautan lebih tinggi, dan dampak kehilangan sinyal menjadi lebih terlihat di tingkat sistem.

Tembaga masih dapat direkayasa untuk aplikasi spesifik jangka pendek. Fiber menjadi menarik ketika arsitektur memerlukan bandwidth tinggi pada koneksi yang lebih panjang atau lebih terdistribusi.

Daya interkoneksi bukan hanya item baris dalam spesifikasi komponen. Pada skala pusat data AI, ribuan atau jutaan jalur berkecepatan tinggi dapat mengubah daya penghubung menjadi kendala utama dalam desain. Tautan tembaga aktif, pengatur waktu, pemerataan, dan manajemen termal semuanya menambah tekanan pada sistem.

Pertanyaan teknik terakhir bukan hanya apakah suatu tautan dapat berfungsi. Pertanyaannya adalah apakah tautan tersebut dapat bekerja dalam skala besar, dalam batas daya dan termal fasilitas AI yang padat. Inilah salah satu alasan mengapa interkoneksi optik beralih dari topik jaringan ke topik infrastruktur AI.

Interkoneksi Tembaga vs Serat di Pusat Data AI

Tautan serat optik menggunakan cahaya daripada arus listrik untuk membawa informasi. Hal ini memberi mereka beberapa keuntungan dalam pusat data AI: bandwidth tinggi, jangkauan panjang, kekebalan terhadap interferensi elektromagnetik, dan kesesuaian yang lebih baik untuk koneksi jarak jauh yang padat dan berkecepatan tinggi.

Nilai serat sangat jelas ketika sistem harus menghubungkan beberapa rak, beberapa lemari, atau beberapa ruang data. Sinyal tembaga listrik menurun seiring dengan jarak dan kecepatan. Sinyal optik dapat menjangkau lebih jauh sambil mempertahankan kecepatan data yang tinggi, sehingga serat optik sangat cocok untuk klaster AI yang terdistribusi.

WDM, atau multiplexing pembagian panjang gelombang, memungkinkan beberapa panjang gelombang optik merambat melalui serat yang sama pada waktu yang bersamaan. Setiap panjang gelombang dapat membawa aliran data terpisah. Dalam istilah praktisnya, WDM mengubah satu serat menjadi beberapa saluran optik paralel.

Inilah salah satu alasan mengapa tautan optik memiliki skala yang berbeda dari tautan tembaga. Daripada menambahkan konduktor fisik terpisah untuk setiap jalur lalu lintas, sistem optik dapat meningkatkan kapasitas dengan menggabungkan saluran panjang gelombang, format modulasi yang lebih tinggi, dan komponen optik yang lebih cepat.

Transmisi Multi-Panjang Gelombang WDM dalam Serat Tunggal

Pilihan teknik yang tepat bergantung pada jarak, bandwidth, biaya, kemudahan servis, dan desain termal. Tembaga tetap berguna dalam hubungan pendek yang terkontrol. Fiber menjadi semakin penting seiring dengan berkembangnya kluster AI.

Atransceiver optik yang dapat dicolokkanadalah modul yang mengubah sinyal listrik menjadi sinyal optik dan sinyal optik kembali menjadi sinyal listrik. Satu sisi terhubung secara elektrik ke sakelar, antarmuka jaringan, atau board sistem. Sisi lain terhubung ke serat optik.

Di pusat data AI, modul optik yang dapat dicolokkan sangat penting untuk penghubung antara kabinet, rak, dan sakelar. Mereka biasanya bukan teknologi utama untuk setiap tautan pendek di dalam kabinet GPU. Perbedaan tersebut penting karena mencegah kesalahpahaman umum: modul optik tidak secara otomatis menggantikan semua kabel GPU internal.

Di dalam kabinet GPU berdensitas tinggi, jarak antara GPU, sakelar, dan papan mungkin hanya beberapa sentimeter hingga beberapa meter. Sambungan listrik masih masuk akal di sana, terutama jika sistemnya dirancang sebagai unit yang terintegrasi erat.

Ketika lalu lintas meninggalkan kabinet dan berpindah ke rak lain, saklar lain, atau ruangan lain, persyaratan tautan berubah. Jarak menjadi lebih jauh, jumlah link bertambah, dan modul optik menjadi lebih menarik.

Cara yang berguna untuk memikirkan hierarki adalah:

Rantai permintaannya sederhana. Lebih banyak GPU memerlukan lebih banyak sistem. Lebih banyak sistem memerlukan lebih banyak lemari. Lebih banyak kabinet memerlukan lebih banyak interkoneksi berkecepatan tinggi antara kabinet dan sakelar. Dengan bertambahnya jumlah tautan ini, permintaan akan modul optik pun meningkat.

Inilah sebabnya mengapa transceiver optik sangat erat kaitannya dengan pertumbuhan infrastruktur AI. Modul ini tidak berharga karena merupakan kotak yang berdiri sendiri. Hal ini berharga karena memungkinkan jaringan fisik yang memungkinkan cluster GPU besar beroperasi sebagai satu sistem.

Transceiver optik yang dapat dicolokkan terlihat sederhana dari luar, namun secara internal ia menggabungkan optik, elektronik, semikonduktor, pengemasan, dan penyelarasan presisi. Komponen utamanya adalah laser, modulator, fotodetektor, DSP, dan sistem kopling optik.

Di dalam Transceiver Optik yang Dapat Dicolokkan

Dioda laser menyediakan sumber cahaya untuk sinyal optik. Itu tidak serta merta membawa data dengan sendirinya. Sebaliknya, ia menghasilkan pembawa optik stabil yang dapat dimodulasi.

Sistem material penting. Silikon sangat bagus untuk logika digital, tetapi silikon bukanlah pemancar cahaya yang efisien. Laser optik biasanya menggunakan semikonduktor senyawa III-V sepertiDiPatauGaA, karena bahan ini jauh lebih cocok untuk menghasilkan cahaya.

Beberapa jenis laser muncul di modul optik dan sistem terkait:

Peralihan dari optik tradisional yang dapat dicolokkan ke fotonik silikon dan CPO mengubah peran laser. Dalam banyak modul pluggable, laser dan modulator dapat diintegrasikan secara erat. Dalam desain gaya CPO, laser dapat ditempatkan di luar paket sebagai sumber cahaya eksternal, sementara modulasi terjadi di dalam chip fotonik silikon.

Modulator adalah komponen yang mengubah pembawa optik kosong menjadi sinyal pembawa data. Dibutuhkan aliran data listrik dan mengubah sinyal optik sehingga satu dan nol dapat diwakili oleh intensitas cahaya atau perilaku fase.

Dua pendekatan modulasi penting adalahEAMDanMZI.

Modulator serapan elektro mengubah seberapa kuat suatu material menyerap cahaya ketika tegangan diterapkan. Ini dapat diintegrasikan dengan laser untuk membentuk EML, yang banyak digunakan dalam modul optik berkecepatan tinggi konvensional.

Modulator interferometer Mach-Zehnder bekerja secara berbeda. Ini membagi cahaya menjadi dua jalur, mengubah fase dalam satu jalur, dan kemudian menggabungkan kembali cahaya tersebut. Bergantung pada hubungan fase, sinyal yang digabungkan kembali bisa menjadi lebih kuat atau lebih lemah. Pendekatan ini penting dalam fotonik silikon karena dapat diimplementasikan menggunakan struktur pandu gelombang silikon.

Di sisi penerima, sinyal optik harus diubah kembali menjadi sinyal listrik. Itulah peran fotodetektor.

Fotodetektor menggunakan efek fotolistrik: foton yang masuk mengeksitasi pembawa dalam bahan semikonduktor, menciptakan arus. Fotodetektor yang baik harus merespons dengan cepat, menghasilkan arus yang cukup dari daya optik yang lemah, dan menjaga noise tetap rendah.

Tiga parameter sangat penting:

Dalam fotonik silikon, germanium sering digunakan untuk fotodeteksi karena silikon sendiri tidak efektif untuk menyerap panjang gelombang telekomunikasi umum seperti 1310 nm dan 1550 nm. Ini adalah salah satu contoh bagaimana fotonik silikon masih bergantung pada integrasi material yang cermat, bukan silikon murni saja.

ItuDSPadalah mesin pemroses sinyal digital di dalam banyak modul optik berkecepatan tinggi. Ini membantu menyandikan, menyamakan, memulihkan, dan membersihkan sinyal.

Pada kecepatan tinggi, tautan optik tidak hanya mengirimkan pulsa on-off sederhana. Modul modern sering digunakanPAM4, yang mewakili dua bit per simbol menggunakan empat level sinyal. PAM4 meningkatkan efisiensi bandwidth, namun juga membuat sinyal lebih sensitif terhadap noise dan distorsi. DSP membantu memulihkan data yang diinginkan dari sinyal yang tidak sempurna tersebut.

Peta jalan kecepatan modul optik telah beralih dari 400G ke 800G, dengan penerapan 1,6T dan desain tingkat yang lebih tinggi mendorong industri menuju jalur listrik dan optik yang lebih cepat. Arsitektur pastinya bergantung pada desain modul, jumlah jalur, skema modulasi, dan kebutuhan sistem, namun trennya jelas: setiap generasi memberi tekanan lebih besar pada DSP, optik, pengemasan, dan proses pengujian.

Fungsi penting terakhir adalah kopling optik. Cahaya yang dihasilkan atau diproses pada sebuah chip harus masuk ke dalam serat dengan presisi yang sangat tinggi. Inti serat mode tunggal lebarnya hanya sekitar 8–9 mikrometer, sehingga penggandengan merupakan masalah penyelarasan skala mikron.

Dua pendekatan yang umum adalah kopling butt dan kopling kisi.

Kopling pantatmengirimkan cahaya langsung dari tepi chip ke serat. Hal ini bisa saja efisien, namun penyelarasannya menuntut banyak hal.Kopling kisimenggunakan struktur berpola pada permukaan chip untuk mengarahkan cahaya masuk atau keluar dari pandu gelombang. Hal ini dapat memberikan lebih banyak toleransi keselarasan dalam beberapa desain, tetapi juga memperkenalkan pertimbangan panjang gelombang dan efisiensi.

Pada skala produksi, tantangannya bukan sekadar mendemonstrasikan sambungan optik satu kali saja. Tantangannya adalah melakukannya berulang kali, andal, dan ekonomis dalam volume besar.

Modul optik dapat dipahami sebagai sistem terjemahan dua arah. Saat transmisi, ia mengubah data listrik menjadi data optik. Saat diterima, ia mengubah data optik kembali menjadi data listrik.

Aliran Sinyal Listrik-Optik-Listrik

Pada arah transmisi, GPU atau switch ASIC mengirimkan sinyal listrik menuju modul optik. DSP mengkondisikan sinyal. Modulator menerapkan informasi ke cahaya dari sumber laser. Kopling optik kemudian menyelaraskan cahaya itu ke dalam serat.

Pada arah penerimaan, cahaya keluar dari serat dan diarahkan ke fotodetektor. Fotodetektor mengubah sinyal optik menjadi arus. DSP kemudian memulihkan data, memperbaiki distorsi, dan mengirimkan sinyal listrik yang dapat digunakan kembali ke sistem.

Konversi listrik-optik-listrik ini adalah dasar dari interkoneksi optik yang dapat dicolokkan.

Modul optik menggabungkan dua dunia semikonduktor yang tidak menyatu secara alami.

Yang pertama adalah dunia digital silikon. DSP adalah IC berbasis silikon. Mereka mengandalkan desain CMOS canggih, pemrosesan sinyal digital, dan antarmuka listrik berkecepatan tinggi.

Yang kedua adalah dunia optik senyawa-semikonduktor. Laser, banyak modulator, dan beberapa fotodetektor bergantung pada bahan seperti InP dan GaAs. Bahan-bahan ini digunakan karena dapat menghasilkan, memodulasi, atau mendeteksi cahaya secara efisien dengan cara yang tidak dapat dilakukan silikon.

Silicon DSP vs Manufaktur Chip Optik InP

DSP pada dasarnya adalah chip digital. Ini berkaitan dengan simbol, pengkodean, koreksi, pemerataan, dan pemulihan sinyal. Hambatannya adalah kompleksitas algoritmik, desain sinyal campuran berkecepatan tinggi, dan implementasi silikon tingkat lanjut.

Hal ini lebih dekat dengan dunia CPU, GPU, switch, dan jaringan ASIC dibandingkan dengan dunia manufaktur laser. Oleh karena itu, tim desain, alur proses, dan mitra manufaktur berbeda dari yang digunakan untuk perangkat optik semikonduktor majemuk.

Perangkat optik InP dan GaAs termasuk dalam ekosistem proses yang berbeda. Wafer lebih kecil, perilaku material berbeda, proses kimia berbeda, dan kinerja optik sangat bergantung pada epitaksi, pengendalian cacat, dan struktur perangkat.

Pabrik pengecoran silikon terkemuka tidak secara otomatis menjadi produsen laser InP terkemuka. Tantangan peralatan, resep, pengetahuan bahan, dan hasil berbeda. Inilah salah satu alasan rantai pasokan interkoneksi optik lebih terdistribusi dibandingkan rantai pasokan GPU.

Substrat adalah bahan dasar tempat perangkat optik dibuat. Untuk laser berbasis InP, kualitas bahan sangat penting karena cacat dapat mempengaruhi perangkat optik yang ditanam di atasnya.

Epitaksi adalah proses menumbuhkan lapisan fungsional pada substrat. Dalam perangkat laser, lapisan ini dapat mencakup struktur sumur kuantum, tempat elektron dan lubang bergabung kembali untuk memancarkan foton. Ketebalan lapisan, komposisi, dan doping harus dikontrol dengan ketat. Penyimpangan kecil dapat menggeser panjang gelombang, mengurangi efisiensi, atau merusak keandalan.

Inilah sebabnya mengapa manufaktur semikonduktor majemuk bukan sekadar “pembuatan chip dengan bahan berbeda.” Ini adalah disiplin manufaktur perangkat optik khusus.

PIC fotonik silikonteknologi menggunakan struktur berbasis silikon untuk memandu, memodulasi, membagi, menggabungkan, dan mendeteksi cahaya pada chip terintegrasi. Hal ini penting karena membawa fungsi optik lebih dekat ke dunia manufaktur dan pengemasan elektronik canggih.

PIC fotonik silikon tidak berarti setiap fungsi optik terbuat dari silikon saja. Silikon dapat memandu cahaya dan mendukung pandu gelombang kompak, modulator, dan skema integrasi. Namun silikon bukanlah sumber cahaya yang efisien, sehingga laser III-V eksternal atau terintegrasi secara terpisah tetap penting.

Fotonik silikon sering kali menggunakan SOI, atau silikon-on-isolator, sebagai platform. Dalam istilah sederhana, SOI menyediakan lapisan silikon yang dipisahkan dari substrat oleh lapisan oksida isolasi. Kontras indeks bias yang tinggi antara silikon dan silikon dioksida membantu membatasi cahaya di dalam pandu gelombang silikon kompak.

Pandu gelombang ini bertindak seperti kabel optik pada chip. Mereka mengarahkan cahaya antara modulator, splitter, coupler, detektor, dan struktur optik lainnya.

Batasan utamanya adalah pembangkitan cahaya. Silikon berguna untuk memanipulasi cahaya, namun tidak efisien sebagai bahan laser. Itulah sebabnya sistem fotonik silikon sering kali mengandalkan sumber laser berbasis InP.

Pembagian kerja ini merupakan inti dari arsitektur CPO. PIC fotonik silikon dapat ditempatkan dekat dengan ASIC dan menangani pemandu gelombang, modulasi, dan deteksi. Laser dapat tetap berada di luar paket sebagai sumber cahaya eksternal, menyalurkan cahaya terus menerus ke dalam chip fotonik.

Optik yang dikemas bersama, atauminyak sawit mentah, memindahkan fungsi optik lebih dekat ke ASIC sakelar, arsitektur komputasi yang berdekatan dengan GPU, atau elektronik tingkat paket. Daripada menempatkan setiap fungsi konversi optik dalam modul pluggable di bagian belakang sistem, CPO mengintegrasikan mesin optik lebih dekat ke chip.

NVIDIA menjelaskan pendekatan peralihan CPO-nyaseperti mengganti transceiver pluggable dengan fotonik silikon pada paket yang sama dengan ASIC. Broadcom juga mendeskripsikan arsitektur sakelar CPO Ethernet sebagai mengintegrasikan mesin optik ke dalam paket umum dengan sakelar. Tujuan tekniknya adalah untuk memperpendek jarak listrik, mengurangi beban sinyal listrik berkecepatan tinggi, dan meningkatkan efisiensi daya pada kepadatan bandwidth yang tinggi.

Arsitektur CPO yang disederhanakan mencakup empat blok utama:

Arsitektur CPO dengan PIC Silicon Photonics dan Sumber Laser Eksternal

Pergeseran arsitektur adalah lokasi antarmuka optik. Dalam modul yang dapat dicolokkan, sinyal listrik berpindah dari chip atau papan ke modul. Di CPO, antarmuka optik mendekati paket ASIC. Jalur listrik yang lebih pendek adalah alasan utama mengapa CPO menarik untuk jaringan AI dengan kepadatan sangat tinggi.

CPO tidak menghilangkan laser. Itu mengubah tempat mereka duduk dan apa yang mereka lakukan.

Sumber laser eksternal dapat memberikan cahaya terus menerus ke mesin fotonik silikon namun tetap berada di luar bagian terpanas dan paling kompleks dari paket tersebut. Hal ini membantu kemudahan servis dan desain termal. Jika laser disimpan di luar kemasannya, laser dapat dianggap sebagai sumber daya optik yang dapat diganti dan bukan sebagai bagian yang tidak terpisahkan dari kemasan ASIC.

Sumber laser umumnya masih berbahan dasar material III-V seperti InP. Fotonik silikon dapat mendekatkan perutean dan modulasi optik ke ASIC, namun tetap memerlukan sumber cahaya yang tepat.

CPO tidak boleh dipahami sebagai pengganti universal optik pluggable. Kedua arsitektur tersebut melayani lapisan jaringan pusat data yang berbeda.

Masa depan yang lebih realistis adalah hidup berdampingan. Optik yang dapat dicolokkan akan tetap penting di banyak tautan pusat data. CPO akan tumbuh dimana kepadatan bandwidth dan tekanan daya listrik paling parah.

Faktor teknis yang paling kuat dalam mendorong CPO bukanlah karena CPO “baru”. Jarak listrik berkecepatan tinggi menjadi semakin mahal seiring dengan meningkatnya kepadatan bandwidth. Memindahkan konversi optik lebih dekat ke ASIC mengurangi panjang jalur listrik yang paling sulit.

Hal ini dapat mengurangi kebutuhan pengaturan ulang listrik yang rumit, meningkatkan integritas sinyal, menurunkan daya sambungan, dan mendukung sistem sakelar yang lebih padat. Namun, CPO juga meningkatkan pentingnya pengemasan optik, strategi sumber laser, desain termal, dan kompleksitas pengujian.

Arsitektur optik yang dapat dicolokkan membuat modul terpisah secara fisik dari ASIC. Sinyal listrik harus melintasi papan untuk mencapai modul. Pada kecepatan yang sangat tinggi, jarak tersebut memerlukan desain saluran yang cermat dan sering kali pengondisian sinyal aktif.

CPO mengubah keseimbangan ini. Dengan menempatkan mesin optik di dekat ASIC, ini mengurangi jarak listrik sebelum diubah menjadi cahaya. Jalur optik kemudian membawa sinyal melalui serat, dimana penskalaan jarak lebih menguntungkan.

Angka kinerja CPO yang dilaporkan vendor bersifat spesifik untuk produk dan harus diinterpretasikan dalam konteks setiap arsitektur switch. Materi CPO publik NVIDIA menjelaskan peningkatan ketahanan jaringan dan waktu proses aplikasi yang berkelanjutan dibandingkan dengan desain berbasis transceiver yang dapat dicolokkan.Broadcom menyatakan bahwa sakelar Ethernet CPO Tomahawk 6 Davisson-nyamenyediakan kapasitas switching 102,4 Tbps dan mengurangi konsumsi daya interkoneksi optik sebesar 70% dibandingkan dengan solusi pluggable tradisional.

Klaim-klaim ini merupakan sinyal penting, namun tidak boleh digeneralisasikan menjadi “semua sistem CPO selalu memberikan manfaat yang sama.” Manfaat sebenarnya bergantung pada arsitektur sakelar, desain mesin optik, topologi tautan, desain termal, dan lingkungan penerapan.

Interkoneksi optik bergantung pada rantai teknologi khusus. Masalah kekurangan atau hasil pada satu lapisan dapat membatasi ketersediaan modul atau sistem akhir.

Rantai pasokan dapat dipahami berlapis-lapis:

Substrat semikonduktor majemuk adalah titik awal bagi banyak perangkat optik. InP dan GaAs digunakan karena sifat materialnya mendukung pembangkitan dan deteksi cahaya yang tidak dapat dilakukan silikon.

Substrat berkualitas tinggi sangat penting karena cacat dapat menyebar ke lapisan perangkat dan mengurangi kinerja atau keandalan. Untuk optik pusat data AI, hal ini penting karena modul berkecepatan tinggi dan sumber cahaya CPO memerlukan kinerja optik yang stabil dan berulang.

Wafer SOI penting untuk fotonik silikon karena menyediakan platform untuk pandu gelombang optik kompak dan struktur fotonik terintegrasi. Mereka bukan satu-satunya faktor dalam fotonik silikon, namun merupakan masukan dasar.

Pentingnya SOI meningkat ketika fotonik silikon berpindah dari perangkat optik khusus ke arsitektur interkoneksi pusat data bervolume tinggi.

Lapisan IC digital tetap penting. Meskipun CPO mengurangi peran jalur listrik yang panjang, sistem optik masih memerlukan IC driver, logika kontrol, dan kecerdasan pemrosesan sinyal. Dalam modul pluggable, DSP dapat menjadi salah satu komponen yang paling rumit dan mahal. Dalam CPO, beberapa fungsi pemrosesan sinyal mungkin disederhanakan, namun koordinasi listrik-fotonik tetap penting.

CPO sering digambarkan sebagai teknologi optik, namun juga merupakan teknologi pengemasan. Mesin fotonik, IC listrik, antarmuka serat, sumber laser, dan jalur termal harus bekerja sama sebagai suatu sistem.

Pengujian juga lebih sulit dibandingkan dengan perangkat listrik murni. Insinyur harus memvalidasi kinerja optik dan listrik: daya optik, kehilangan kopling, perilaku modulasi, sensitivitas penerima, integritas sinyal, perilaku termal, dan keandalan tautan. Dalam skala besar, hal ini menjadikan pengemasan dan pengujian sama pentingnya dengan desain chip.

Data pasar menunjukkan mengapa kapasitas interkoneksi optik menjadi penting secara strategis, namun kasus teknisnya masih bergantung pada kepadatan bandwidth, anggaran daya, jangkauan, kelayakan pengemasan, dan keandalan sistem. Perkiraan dapat menunjukkan tekanan permintaan, namun perkiraan tersebut tidak membuktikan bahwa setiap arsitektur optik akan berkembang pada kecepatan yang sama.

LightCounting melaporkan transceiver optik dan penjualan produk terkaitmencapai $23,8 miliar pada tahun 2025, naik 55% dari tahun 2024. Pertumbuhan tersebut mencerminkan permintaan yang kuat dari pusat data dan penerapan infrastruktur AI, terutama optik Ethernet berkecepatan tinggi dan produk terkait.

Ini tidak berarti setiap kategori modul optik tumbuh secara merata. Hal ini menunjukkan bahwa batas optik-listrik telah menjadi bidang investasi infrastruktur utama seiring dengan berkembangnya klaster AI.

Goldman Sachs Research memiliki perkiraanbahwa total pasar jaringan AI dapat meningkat sembilan kali lipat menjadi $154 miliar pada tahun 2028, dengan kontribusi CPO yang besar terhadap peluang tersebut. Angka-angka tersebut sebaiknya diperlakukan sebagai perkiraan pasar berdasarkan skenario dan bukan sebagai bukti langsung bahwa setiap arsitektur CPO akan diadopsi dengan kecepatan yang sama.

Kesimpulan teknis lebih penting daripada angka utama: ketika sistem AI menjadi lebih padat dan terdistribusi, nilai lapisan interkoneksi meningkat. CPO, fotonik silikon, laser eksternal, modul optik, serat, dan pengemasan menjadi lebih penting karena keduanya berada langsung di jalur pergerakan data AI.

Interkoneksi optik penting karena cluster AI adalah sistem terdistribusi. Semakin banyak GPU dan switch yang digunakan suatu sistem, semakin penting pergerakan datanya.

Tembaga tetap berguna untuk jalur listrik yang pendek dan terkendali, namun menjadi lebih sulit untuk diperluas pada jalur berkecepatan tinggi yang lebih panjang. Fiber menyediakan jangkauan, bandwidth, kekebalan EMI, dan penskalaan kapasitas berbasis WDM.

Modul optik yang dapat dicolokkan masih menjadi pusat jaringan pusat data. Mereka menyediakan cara yang fleksibel dan dapat diservis untuk menghubungkan rak, sakelar, dan sistem. Mereka tidak akan hilang hanya karena munculnya CPO.

CPO adalah perubahan arsitektur, bukan sekadar modul optik yang lebih kecil. Ini memindahkan konversi optik lebih dekat ke ASIC, sering kali menggunakan PIC fotonik silikon dan sumber laser eksternal. Nilainya paling kuat di mana kepadatan bandwidth dan tekanan daya paling parah.

Fotonik silikon adalah jembatan antara elektronik dan optik, namun tidak menghilangkan kebutuhan akan sumber cahaya semikonduktor majemuk. Laser InP, wafer SOI, integrasi fotonik, penggandengan, pengemasan, dan pengujian semuanya tetap menjadi bagian dari sistem.

Rantai pasokan interkoneksi optik didistribusikan. Tidak ada satu lapisan teknologi pun yang menentukan kesuksesan. Material, epitaksi, laser, DSP, fotonik silikon, pengemasan, pengujian, modul, dan infrastruktur serat semuanya harus ditingkatkan secara bersamaan.

Interkoneksi optik adalah tautan data berkecepatan tinggi yang menggunakan cahaya untuk memindahkan informasi antara GPU, sakelar, rak, dan sistem pusat data. Mereka membantu klaster AI bertukar data dalam jarak yang lebih jauh dan bandwidth yang lebih tinggi dibandingkan yang dapat didukung oleh tembaga secara efisien dalam skala besar.

Serat tidak menggantikan tembaga di mana-mana. Tembaga tetap berguna untuk tautan internal pendek. Fiber menjadi lebih menarik untuk link rack-to-rack, switch-to-switch, dan cluster-scale karena menyediakan jangkauan yang lebih panjang, bandwidth yang tinggi, kekebalan EMI, dan skalabilitas yang lebih baik melalui multiplexing optik.

Transceiver optik yang dapat dicolokkan biasanya mencakup sumber laser, modulator, fotodetektor, DSP, dan komponen kopling optik. Bersama-sama, bagian-bagian ini mengubah sinyal listrik menjadi sinyal optik untuk transmisi serat, kemudian mengubah sinyal optik yang diterima kembali menjadi data listrik.

Optik yang dapat dicolokkan adalah modul yang dapat diganti yang dipasang di tepi sistem. CPO menggerakkan mesin optik lebih dekat ke paket ASIC. Optik pluggable memprioritaskan kemudahan servis dan fleksibilitas, sementara CPO menargetkan jalur listrik yang lebih pendek, kepadatan bandwidth yang lebih tinggi, dan tekanan daya yang lebih rendah pada sambungan kepadatan tinggi tertentu.

Fotonik silikon dapat memandu, membagi, memodulasi, dan mendeteksi cahaya, namun silikon tidak efisien sebagai sumber cahaya. Laser InP masih diperlukan untuk menyediakan daya optik, terutama dalam arsitektur di mana PIC fotonik silikon menangani modulasi dan perutean sementara laser eksternal memasok cahaya terus menerus.

CPO kemungkinan tidak akan menggantikan optik pluggable di seluruh link pusat data. Kedua arsitektur tersebut menangani lapisan yang berbeda. CPO cocok untuk integrasi optik tingkat sakelar atau chip yang berdekatan dengan kepadatan tinggi, sementara optik yang dapat dicolokkan tetap berguna untuk banyak interkoneksi rak, sakelar, dan pusat data.