Samsung entwickelt LPDDR-PIM-Speicher: AI-Verarbeitungsgeschwindigkeit am Edge um etwa 2,3-fach erhöht

Samsung hat die weltweit erste Entwicklung des nächsten Speichertyps LPDDR-PIM für mobile Endgeräte angekündigt, der Rechenfunktionen in den mobilen Speicher integriert und behauptet, die AI-Verarbeitungsgeschwindigkeit effektiv zu steigern und gleichzeitig den Energieverbrauch zu senken. Ein zuständiger Vertreter von Samsung hat kürzlich auf der Hot Chips 2026, einer akademischen Konferenz für Halbleiter an der Stanford University in den USA, die Struktur, Spezifikationen und Validierungsergebnisse von LPDDR5X-PIM veröffentlicht. Das Produkt erhielt Anfang dieses Monats den Next-Generation Memory Award auf der FMS 2026 Konferenz und dies ist das erste Mal, dass detaillierte Spezifikationen veröffentlicht werden.

Die PIM-Technologie ermöglicht es, Recheneinheiten in den Speicher zu integrieren, sodass bestimmte Berechnungen direkt im Speicher durchgeführt werden können. In herkömmlichen Architekturen müssen die im Speicher gespeicherten Daten zuerst an die zentrale Verarbeitungseinheit oder die Grafikeinheit gesendet werden, um Berechnungen durchzuführen, bevor die Ergebnisse zurück in den Speicher gesendet werden. Mit PIM können relativ einfache Berechnungen im Speicher selbst verarbeitet werden, was die Datenbewegung, die eines der Hauptengpässe bei AI-Anwendungen darstellt, reduziert und sowohl Geschwindigkeit als auch Energieverbrauch optimiert.

LPDDR5X-PIM ist 2,3-mal schneller als die Standardversion

Samsung hat das Meta Open Source AI-Modell Llama 3.1 mit 8 Milliarden Parametern als Testobjekt verwendet. Die Ergebnisse zeigen, dass die Verarbeitungszeit von LPDDR5X-PIM 5,4 Sekunden beträgt, was etwa 2,3-mal schneller ist als die 12,3 Sekunden der Standard-LPDDR5X. Die Token-Verarbeitungsrate erreicht 81,3 TPS, was das Dreifache der 27 TPS bestehender Produkte ist. Diese Daten zeigen, dass die Rechenleistung im Speicher in realen AI-Inferenzszenarien einen deutlichen Leistungsvorteil bietet.

Tatsächlich hat Samsung bereits 2021 die Anwendung von PIM in Hochgeschwindigkeits-Speichertechnologien wie HBM-PIM öffentlich gemacht und die Entwicklungsvalidierung abgeschlossen. Jetzt wurde beschlossen, PIM in den weit verbreiteten, energieeffizienten LPDDR-Speicher für Smartphones und andere mobile Geräte zu integrieren. Das Unternehmen ist der Ansicht, dass mit der zunehmenden Miniaturisierung und Effizienz von AI-Modellen nicht alle AI-Geräte HBM benötigen.

Die Ausweitung des Trends zu Edge-AI fördert die Anwendungsperspektiven von LPDDR-PIM

Ein zuständiger Vertreter erklärte, dass standardisierte Speicherlösungen für AI zwar hauptsächlich auf HBM basieren, aber mit der jüngsten Entwicklung von großen Sprachmodellen in Richtung Miniaturisierung und Effizienz HBM nicht immer die beste Wahl sein muss. Daher wird LP-PIM entwickelt, das sowohl hohe Bandbreite als auch niedrigen Energieverbrauch bietet. Mit der Ausweitung des Edge-AI-Trends, bei dem generative AI direkt auf Geräten wie Smartphones oder PCs betrieben wird, wachsen auch die Anwendungsperspektiven von LPDDR-PIM, da mobile Geräte mit begrenzter Energie und Platz sowohl die AI-Rechenleistung steigern als auch den Energieverbrauch senken müssen.

In Bezug auf die Kompatibilität verwendet das Produkt dasselbe Array-Design wie der allgemeine LPDDR, sodass keine umfangreichen Änderungen am System erforderlich sind. Samsung stellt derzeit Software-Entwicklungskits und Simulatoren zur Verfügung, um den Aufbau des entsprechenden Ökosystems zu fördern. Nach LPDDR5X-PIM hat Samsung die Standardisierungsarbeiten für LPDDR6-PIM gestartet. Der Wettbewerb um AI-Speicher, der sich auf HBM konzentriert, dehnt sich auf Edge-Bereiche wie Smartphones und PCs aus, wobei der Speicher sich von einem Datenspeichergerät zu einem aktiven Teil der Berechnung entwickelt.

Artikel Spezifikationen
Produktname LPDDR5X-PIM
Technologietyp In-Memory-Computing (PIM) für LPDDR-Speicher
Llama 3.1 Verarbeitungszeit 5,4 Sekunden
Standard LPDDR5X Verarbeitungszeit 12,3 Sekunden
Geschwindigkeitssteigerung ca. 2,3-mal
LPDDR5X-PIM Durchsatz 81,3 TPS
Standard LPDDR5X Durchsatz 27 TPS
Testmodell Meta Llama 3.1 (8 Milliarden Parameter)
Nächste Phase Standardisierung von LPDDR6-PIM

Haftungsausschluss: Dieser Artikel enthält Links zu Partnerprodukten. Wenn Sie über diese Links kaufen, kann TechRitual eine Provision erhalten, die jedoch die Produktbewertung und -empfehlung nicht beeinflusst. Weitere Informationen finden Sie in unserer Datenschutzrichtlinie.

Originalinhalt
Dieser Artikel ist die deutsche Fassung eines Originalbeitrags von TechRitual.
Stein Yep
Stein Yep