CodeFaux: KI-Programmiergehilfe zur lokalen Installation
FauxPilot ist eine lokal installierbare Alternative zu GitGub Copilot. Die Software generiert aus natürlicher Sprache Programmcode.
GitHub Copilot, von GitHub als "Your AI pair programmer" beworben, soll Programmierer bei ihrer Arbeit unterstützen. Die KI-Software wurde mit Unmengen an auf GitHub gehostetem Code darauf trainiert, Programmcode aus natürlicher Sprache zu generieren. Das System basiert auf OpenAI Codex. Ebenso wie die Konkurrenz Tabnine ist der Copilot im kostenpflichtigen Abo zur Einbindung in gängige IDEs verfügbar.
Mit FauxPilot gibt es nun eine Alternative dazu, die sich lokal installieren und in Visual Studio Code nutzen lässt. Sie nutzt die von SalesForce in einem Forschungsprojekt entwickelten Codegen-Modelle zur Codegenerierung. Diese Modelle, die es in vier verschiedenen Größen mit unterschiedlichen Speicheranforderungen gibt, generieren Programmcode aus natürlicher Sprache. Nvidias Triton Inference Server mit dem FasterTransformer-Backend bringt die Modelle effizient auf Nvidia-GPUs, die zum Betrieb von FauxPilot nötig sind.
Neben einer Nvidia-GPU mit ausreichend VRAM (je nach Codegen-Modell 2 bis 32 GByte) benötigt man Docker, da FauxPilot in einem Docker-Container läuft. Nach dem Start lässt sich FauxPilot aus eigenen Programmen über die URL http://127.0.0.1:5000/v1 ansprechen; hier ist eine Teilmenge der OpenAI-API implementiert. Interessanter ist allerdings die Option, den eigenen FauxPilot-Server in die Konfiguration des Copilot-Plugin von Visual Studio Code einzutragen und so anstelle des GitHub Copilot aus der Entwicklungsumgebung heraus zu nutzen.
(odi)
