Advantech Edge-AI-Systeme, die auf NVIDIA RTX PRO Blackwell GPUs basieren, ermöglichen Unternehmensanwendungen für LLM vor Ort.

Advantech, Taipeh, Taiwan, 13.06.2025 - Generative AI-Technologien entwickeln sich rasant in Richtung Edge-Anwendungen und treiben ein deutliches Wachstum bei den Anforderungen an die Unternehmens-KI-Computing-Leistung voran. Während sich Large Language Models (LLMs) weiterentwickeln, entscheiden sich immer mehr Unternehmen dafür, LLMs intern zu trainieren – nicht nur zum Schutz sensibler Informationen, sondern auch um die Modelle flexibel an die Geschäftsbedürfnisse anzupassen und so optimale Ergebnisse zu erzielen. Doch wie man die Rechenleistung erhöht, Energieverbrauch und Gesamtbetriebskosten (TCO) gleichzeitig senkt, ist zu einer Kernfrage für Unternehmen geworden. 

Der IPC-730 von Advantech, integriert mit den NVIDIA RTX PRO 6000 Blackwell Workstation Edition GPUs, bietet Unternehmen eine Hochleistungsplattform für das Training und die Inferenz von LLMs. Die neuen NVIDIA RTX PRO Blackwell GPUs liefern die doppelte Speicherkapazität im Vergleich zur Vorgängergeneration sowie eine verbesserte CUDA-Rechenleistung, wodurch AI-Berechnungen bei Advantechs Edge AI-Lösungen effizienter mit geringerem Energieverbrauch pro Token ausgeführt werden können.

IPC-730 verbessert KI-Rechenleistung mit integrierter 600W NVIDIA RTX PRO 6000 Blackwell GPU 

Die NVIDIA Blackwell Architektur hebt herkömmliche Rechenbeschränkungen auf und liefert überlegene Performance bei geringerer Energieaufnahme. Zu den High-Performance-Industriecomputern IPC-730 und Server, die die neuesten NVIDIA Blackwell GPUs integrieren, gehören die NVIDIA RTX PRO 6000 Blackwell Server Edition, die NVIDIA RTX PRO 6000 Blackwell Workstation Edition sowie die NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition. Diese ermöglichen eine flexible Bereitstellung von KI-Anwendungen und die Entwicklung hochleistungsfähiger, energieeffizienter KI-Computing-Lösungen.

Die GPUs der NVIDIA RTX PRO Blackwell-Serie verfügen über einen zweiten Generation Transformer Engine, der die Effizienz von KI-Training und Inferenz deutlich erhöht. Mit einem Dual-Slot-Design unterstützen sie bis zu 96 GB Speicher pro GPU und gewährleisten so Stabilität und Leistung bei KI-Computing. Im Vergleich zur Vorgängergeneration wurde die Speicherkapazität verdoppelt, was die Unterstützung komplexerer Sprachmodelle ermöglicht und gleichzeitig den Energieverbrauch pro Token bei gleichem Rechenaufwand um 50 % senkt – was die TCO erheblich reduziert. Das industrietaugliche, langlebige Design eignet sich für langfristige, anspruchsvolle Rechenaufgaben und sorgt für einen stabilen Systembetrieb. Advantech kann auch IPC- oder Serverlösungen anbieten, die auf unterschiedliche Anwendungen zugeschnitten sind und so verschiedenste Anforderungen im Bereich KI-Computing erfüllen.

Die Edge AI-Lösung von Advantech erfüllt vielfältige AI-Anwendungsszenarien. Unternehmensinterne KI-Datenanalysen unterstützen die Echtzeit-Datenanalyse und Entscheidungsfindung, wodurch die Betriebseffizienz steigt; Smart Healthcare-Anwendungen umfassen die Analyse medizinischer Aufzeichnungen, Bilddiagnose und klinische Entscheidungsunterstützung, was die medizinische KI-Genauigkeit weiter verbessert; automatisierte Kundendienstsysteme optimieren das Nutzererlebnis durch LLM-Technologie, beschleunigen die Reaktionszeiten und senken die Betriebskosten.

Advantech Edge AI-Lösung Validiert mit hervorragenden Testergebnissen

Die Edge AI-Lösungen von Advantech haben in mehreren Tests ausgezeichnete Leistungen gezeigt. Bei LLM-Rechenanwendungen ist die Token-Verarbeitungseffizienz ein entscheidender Faktor für die Modellleistung, einschließlich Eval Rate, Prompt Eval Rate und VRAM-Nutzung. Diese Metriken bestimmen die Echtzeit-Antwortfähigkeit und operative Effizienz des Modells. Dank der leistungsstarken Rechenleistung der NVIDIA RTX PRO Blackwell GPUs können Unternehmen die Token-Verarbeitung beschleunigen, die Inferenz- und Trainingsleistung der Sprachmodelle optimieren, eine optimale Leistung bei Sprachverständnis- und Content-Generierungsanwendungen sicherstellen und so die Wettbewerbsfähigkeit ihrer Edge-AI-Lösungen weiter steigern.

Systemmodell: IPC-730+AIMB-789+ RTX PRO 6000 Blackwell Workstation Edition / RTX 6000 Ada

Im 3DMark Time Spy Graphics-Benchmark übertrifft die RTX PRO 6000 Blackwell Workstation Edition die Vorgängergeneration RTX 6000 Ada um über 53 %. Dieser deutliche Leistungssprung beim Rendering ermöglicht Fachleuten eine schnellere und effizientere Umsetzung komplexer Visualisierungen, Echtzeit-Raytracing und hochqualitativer Content-Produktion.

Die RTX PRO 6000 Blackwell Workstation Edition, auf Basis der neuesten Blackwell-Architektur von NVIDIA, bietet einen transformativen Leistungssprung bei generativer KI. Bei Bild- und Textgenerierungsaufgaben übertrifft sie das Vorgängermodell mit Ada-Architektur um bis zu 77 % schnellere Bildgenerierung und bis zu 37 % höheren Token-Ausstoß bei großen Sprachmodellen. Die Latenzzeiten bei wesentlichen KI-Workloads werden erheblich reduziert. Beispielsweise verkürzt sich die Time für die Bildgenerierung mit Stable Diffusion FP16 um über 54 %, die Verarbeitungsgeschwindigkeit von UNET steigt um 47 %, was ein flüssigeres und reaktionsschnelleres KI-Erlebnis in Edge- und Cloud-Umgebungen ermöglicht.

Advantech fördert die Enterprise-Adoption des nächsten KI-Generation-Large Language Models

Als NVIDIA ELITE Partner entwickelt Advantech weiterhin Edge AI-Computing-Technologien durch die Entwicklung industrietauglicher Hochleistungs-Computer und Server mit GPUs, um Unternehmen bei der Implementierung von LLM-Anwendungen zu unterstützen. Damit bieten sie flexiblere, energieeffizientere und kostengünstigere Edge AI-Computing-Lösungen. Alle Produkte sind jetzt bestellbar.