SK Hynix gab am 20. August bekannt, dass sie in der internationalen Fachzeitschrift „Nature Electronics“ eine Forschungsarbeit über die Schlüsseltechnologie CPO für die nächste Generation von AI-Infrastrukturen veröffentlicht haben, die die technologische Entwicklungsrichtung für zukünftige AI-Systeme vorschlägt. CPO steht für Co-Packaged Optics, das durch den Ersatz traditioneller elektrischer Signale durch optische Signale zur Verbindung von Halbleiterchips die Datenübertragungsgeschwindigkeit und Energieeffizienz steigern kann.
SK Hynix erklärte, dass mit dem kontinuierlichen Auftreten von riesigen Clustern, die aus Tausenden von GPUs und Hochbandbreiten-Speicher HBM bestehen, die Rechenleistung schnell zunimmt, jedoch das Wachstum der Bandbreite zwischen den Systemen relativ begrenzt ist. Das durch die eingeschränkte Datenbewegung verursachte „Bandbreitenengpass“ ist zu einem wichtigen Thema im Bereich AI geworden. In der vorliegenden Arbeit wird vorgeschlagen, dass neben der kontinuierlichen Förderung von HBM-Innovationen auch die optische Interkonnektivitätstechnik zur Verbindung von Speicher und Prozessor durch Licht eingesetzt werden kann, um die Engpassprobleme bei der Datenbewegung zu mildern.
Die von SK Hynix vorgeschlagene optische Interkonnektivitätstechnik wird zum Schlüssel der AI-Infrastruktur
Die Daten zeigen, dass Interkonnektivitätstechnologie die Schaltung und Netzwerktechnologie ist, die den Datenaustausch und die Signalübertragung innerhalb von Chips, zwischen Chips und zwischen Systemen ermöglicht. Das Forschungsteam schlägt in der Arbeit weiter eine lichtzentrierte Architektur vor, die es ermöglicht, die Rechenressourcen-Pools direkt über optische Signale mit den Speicherressourcen-Pools zu verbinden, um die systemweite Datenübertragungsfähigkeit zu verbessern.
Diese Forschung wurde von Hong Seung-hoon, dem Leiter des AI-Infrastrukturteams von SK Hynix, und Professor Lee Kyusang von der University of Virginia, Department of Electrical and Computer Engineering, durchgeführt. Zu den Kooperationspartnern gehören auch die University of Illinois Urbana-Champaign, das Massachusetts Institute of Technology, die Nanyang Technological University und die Yonsei University. Das Forschungsteam erklärte, dass die Arbeit nicht nur auf das einzelne Produkt HBM fokussiert ist, sondern auch einen systematischen Fahrplan dafür bietet, wie Speicher, Verpackung und optische Interkonnektivitätstechnologien in Zukunft zusammengeführt und weiterentwickelt werden können.
Lee Kyusang erklärte, dass selbst wenn die Leistung von Rechenchips weiterhin zunimmt, die Gesamtleistung des Systems schwer zu steigern ist, wenn die Datenbewegungsfähigkeit zwischen den Chips nicht synchron verbessert wird. Vor dem Hintergrund, dass die Kupferinterkonnektivität allmählich an ihre physikalischen Grenzen stößt, wird die Datenübertragung über Licht als ein praktikablerer Erweiterungsweg angesehen. Er wies auch darauf hin, dass die Zukunft darin besteht, Speichergeräte, Controller, optische Geräte und Verpackungen als ein Gesamtes in einem kooperativen Design zu betrachten.