Microsoft veröffentlicht KI-Erweiterung AI Toolkit für Visual Studio Code
Die neue Erweiterung für VS Code stellt eine Auswahl Windows- und Linux-optimierter KI-Modelle bereit, um diese lokal anzupassen und zu verwenden.
(Bild: sdecoret/Shutterstock.com)
Im Rahmen der Microsoft Build 2024 hat das Unternehmen das AI Toolkit for Visual Studio Code veröffentlicht. Damit können Entwicklerinnen und Entwickler generative KI-Modelle aus dem neuen Azure AI Studio und Hugging Face in ihre Anwendungen integrieren. Das AI Toolkit ist eine Weiterentwicklung von Windows AI Studio, einer im November 2023 veröffentlichten Extension für VS Code.
KI-Modelle in VS Code lokal verwenden
Im AI Toolkit ist ein Katalog kuratierter, aktueller KI-Modelle aus Azure AI Studio enthalten. Sie sind laut Microsoft darauf optimiert, lokal zu laufen, was das Verwenden von Modellen innerhalb einer Entwicklungsumgebung vereinfachen soll. Derzeit sind im Katalog Modelle enthalten, die insbesondere für Windows und Linux auf CPUs und GPUs geeignet sind. Für macOS optimierte Modelle sollen folgen.
(Bild: Microsoft)
Bei Azure AI Studio, dem die genutzten KI-Modelle entstammen, handelt es sich um eine ebenfalls auf der Build-Konferenz vorgestellte neue Plattform für die Entwicklung und das Deployment generativer KI-Anwendungen. Sie soll deren gesamten Lebenszyklus umfassen und eine Schlüsselkomponente von Microsofts Copilot-Plattform bilden.
Das Finetuning der KI-Modelle ist mittels neuerer Techniken möglich, darunter Parameter Efficient Fine Tuning (PEFT), Quantized Low Rank Adaptation (QLORA) und Flash Attention 2. Sie sollen das Optimieren der Performance für den jeweiligen Anwendungsfall erlauben. Je nach gewähltem Modell können beispielsweise Nvidia-GPUs vorausgesetzt werden. Als Preview-Feature lassen sich die Modelle in der Cloud finetunen und deployen.
Die Erweiterung stellt zudem einen Playground zum Experimentieren mit kleineren Sprachmodellen bereit – lokal oder in der Cloud:
(Bild: Microsoft)
Weitere Informationen zu AI Toolkit for Visual Studio Code lassen sich dem Microsoft Developer Community Blog, dem Visual Studio Marketplace und dem GitHub Repository der Extension entnehmen.
(mai)