Schnellere Apps, Teil 1: Wie TornadoVM Java-Code auf GPUs beschleunigt

Inhaltsverzeichnis

Seit Version 8 gibt es in Java die Stream API zum parallelen Ausführen von Code auf den Cores der CPU. Die Cores von Beschleunigern wie GPUs sind außen vor geblieben, obwohl sie mit ihren vielen Kernen viel Rechenleistung bieten. Allerdings ist der Bytecode, den die Java VM auf der CPU ausführt, für alle Cores derselbe, sodass sich die API nur um die Koordination der Streams kümmern muss.

Die GPU-Cores gängiger Hersteller wie Nvidia, Intel und Apple erfordern hingegen eine Sonderbehandlung, da darauf keine Java VMs laufen, weil es keine dafür gibt. Sie verfügen jedoch über APIs, mit denen sich Code auf die GPU übertragen und ausführen lässt. Diese APIs sind wie die Beschleuniger proprietär und einigermaßen kompliziert anzuwenden, weshalb sie es bislang nicht auf die Kandidatenliste für Java-Features geschafft haben.

Mehr zum Thema Softwareentwicklung

• Verbesserungen in NumPy 2 vorgestellt: Strings und Skalare
• CI/CD mit GitLab, Teil 3: Multi-Stage-Deployment und Wartung erklärt
• CI/CD mit GitLab, Teil 2: Wie man Anwendungen testet
• Grundlagen zur Softwareentwicklung mit GitLab CI/CD, Teil 1
• Virtualisierungsplattform Proxmox VE statt vSphere – was es kann und was nicht
• So gelingt die Migration von VMware zu Proxmox
• Codesphere im Test: Deployment und Entwicklungsumgebung aus einer Hand
• Schnellere Apps, Teil 1: Wie TornadoVM Java-Code auf GPUs beschleunigt
• TornadoVM, Teil 2: Parallelisieren im großen Maßstab
• C#-Update: Version 12.0 punktet mit Primärkonstruktoren für Klassen
• Paketmanager Nix ausprobiert, Teil 1: Softwarepakete managen und bauen
• Paketmanager Nix ausprobiert, Teil 2: Softwarepakete managen und bauen
• Paketmanager Nix ausprobiert, Teil 3: Bedarfsgerecht paketieren

Jürgen Schuck

Jürgen Schuck ist Mitarbeiter der Materna Information & Communications SE und als Projektleiter im Bereich Cloud Technology Consulting tätig.

TornadoVM ist ein Java-Plug-in für OpenJDK und andere Distributionen, das es ermöglicht, Programme auf den Cores von CPU und GPU parallel auszuführen. Es wandelt zur Laufzeit Java-Bytecode in OpenCL C, PTX oder SPIR-V um, die es anschließend in Binärcode für den passenden Accelerator just in time (JIT) übersetzen. Welcher oder welche das sind, entscheidet die Konfiguration. TornadoVM lädt den übersetzten Code auf den Accelerator, koordiniert die ausgeführten Compute-Kernels und kümmert sich um das Memory-Management zwischen Accelerator und Java .

Das war die Leseprobe unseres heise-Plus-Artikels "Schnellere Apps, Teil 1: Wie TornadoVM Java-Code auf GPUs beschleunigt". Mit einem heise-Plus-Abo können sie den ganzen Artikel lesen und anhören.