AMD hat angekündigt, dass es für das neueste Modell Qwen3-8B 27B von Tongyi Qianwen, einer Tochtergesellschaft von Alibaba, Day 0 Unterstützung bieten wird. Entwickler können dieses dichte Modell ab dem Tag der Veröffentlichung des Modells lokal auf Personal Computern und Workstations mit AMD-Prozessoren ausführen. Qwen3-8B 27B gehört zur neuen Generation der Qianwen-Familie und ist aufgrund seiner Parametergröße besonders geeignet für die lokale Entwicklung von Künstlicher Intelligenz.
Bereitstellungspfad und Hardwareanforderungen für Qwen3-8B 27B
Entwickler können Qwen3-8B 27B direkt auf Systemen mit AMD Ryzen AI Max+ Prozessor oder einer einzelnen AMD Radeon AI PRO R9700 32GB Grafikkarte mithilfe von Open-Source-Frameworks wie llama.cpp bereitstellen. Das Modell kann auch auf unterstützter AMD-Hardware mit variabler Grafikspeicher- oder Videospeicherkapazität von mehr als 24 GB ausgeführt werden, was es Entwicklern ermöglicht, die Anwendung auf demselben Gerät zu erstellen, zu testen und auszuführen – alles bereits am Day 0 der Modellveröffentlichung.
Die AMD Ryzen-Prozessoren und Radeon-Grafikkarten sind die Hardware-Produktlinien, die für lokale KI-Berechnungen entwickelt wurden, und decken verschiedene Ebenen ab, von High-End-Mobilprozessoren bis hin zu professionellen Workstation-Grafikkarten. Qwen3-8B 27B hat hohe Anforderungen an den Speicher und die Rechenleistung, weshalb Hardware mit ausreichender lokaler Rechenleistung eine entscheidende Rolle im Bereitstellungsprozess spielt.
Leistung der lokalen Ausführung und frühe Testdaten
Frühe Testdaten zeigen, dass Qwen3-8B 27B auf AMD-Hardware eine hervorragende Leistung bei der lokalen Ausführung bietet. Auf einem System mit AMD Ryzen AI Max+ 395 Prozessor kann die Generierungsgeschwindigkeit bis zu 24,5 Token pro Sekunde erreichen; auf einer einzelnen AMD Radeon AI PRO R9700 Grafikkarte kann die Generierungsgeschwindigkeit bis zu 51,8 Token pro Sekunde erreichen. Als denses Modell mit 27B Parametern hat Qwen3-8B 27B deutlich höhere Anforderungen an die Hardware-Ressourcen als kleinere Open-Source-Modelle.
Das Tongyi Qianwen-Modell wurde von einem Team unter Alibaba entwickelt und gehört zu einer wichtigen Reihe von Open-Source-Modellen im Bereich Künstliche Intelligenz in China. Durch die Bereitstellung von Day 0 Unterstützung ermöglicht AMD Entwicklern, die lokalen Ausführungseffekte des neuen Modells sofort auf Personal Computern zu erleben und senkt somit die Eintrittsbarrieren für die lokale Entwicklung von Künstlicher Intelligenz.
| Artikel | Spezifikation |
|---|---|
| Modell | Qwen3-8B 27B |
| Parametergröße | 27B denses Modell |
| Unterstützte Prozessoren | AMD Ryzen AI Max+ |
| Unterstützte Grafikkarten | AMD Radeon AI PRO R9700 32GB |
| Videospeicheranforderung | mehr als 24GB |
| Bereitstellungsframework | Open-Source-Frameworks wie llama.cpp |
| Ryzen AI Max+ 395 Geschwindigkeit | bis zu 24,5 Token/Sekunde |
| Radeon AI PRO R9700 Geschwindigkeit | bis zu 51,8 Token/Sekunde |
Haftungsausschluss: Dieser Artikel enthält Links zu Partnerprodukten. Wenn Sie über diese Links kaufen, kann TechRitual eine Provision verdienen, die jedoch die Produktbewertung und -empfehlung nicht beeinflusst. Weitere Informationen finden Sie in unserer Datenschutzrichtlinie.