Ingenieurbüro Marschner

Kategorie: AI-Infrastruktur

  • Linux-First Development mit WSL

    Linux-First Development mit WSL

    Serie: Lokale KI-Infrastruktur für Unternehmen
    Teil 3 von 6

    Viele KI-Werkzeuge entstehen in Linux-Umgebungen. Dieser Beitrag erklärt, wie WSL eine vollständige Linux-Entwicklungsumgebung auf Windows bereitstellt und warum dieser Ansatz moderne KI-Workflows deutlich vereinfacht.

    Einleitung

    Moderne Software- und KI-Projekte werden heute überwiegend auf Linux-Systemen entwickelt und betrieben. Container-Infrastrukturen, Cloud-Server und viele KI-Frameworks sind primär für Linux optimiert.

    Gleichzeitig arbeiten viele Entwickler im Alltag auf Windows-Rechnern.

    Hier setzt ein Ansatz an, der in den letzten Jahren stark an Bedeutung gewonnen hat: Linux-First Development mit WSL (Windows Subsystem for Linux).

    WSL ermöglicht es, eine vollständige Linux-Umgebung direkt innerhalb von Windows auszuführen – ohne separate virtuelle Maschine und ohne Dual-Boot-System.

    Damit lässt sich eine Entwicklungsumgebung aufbauen, die die Vorteile beider Welten kombiniert:
    die Benutzerfreundlichkeit von Windows und die Flexibilität eines Linux-Servers.

    Was ist WSL?

    WSL steht für Windows Subsystem for Linux.

    Dabei handelt es sich um eine von Microsoft entwickelte Technologie, die einen vollständigen Linux-Kernel innerhalb von Windows bereitstellt. Entwickler können damit Linux-Distributionen wie Ubuntu direkt auf ihrem Windows-System ausführen.

    Im Gegensatz zu klassischen virtuellen Maschinen arbeitet WSL sehr ressourcenschonend und integriert sich eng in das Windows-System.

    Typische Möglichkeiten mit WSL:

    • Ausführen von Linux-Shell-Tools
    • Nutzung von Paketmanagern wie apt
    • Entwicklung von Software in einer Linux-Umgebung
    • Ausführen von Containern über Docker
    • Nutzung moderner KI-Frameworks

    Für viele Entwickler ersetzt WSL heute vollständig eine separate Linux-VM.

    Warum Linux für moderne Entwicklung wichtig ist

    Ein Großteil moderner Software-Infrastruktur basiert auf Linux.

    Beispiele dafür sind:

    • Cloud-Server und Containerplattformen
    • Docker-Umgebungen
    • Machine-Learning-Frameworks
    • KI-Inferenzsysteme
    • DevOps-Toolchains

    Wenn Software auf Linux-Servern betrieben wird, ist es sinnvoll, sie auch in einer möglichst ähnlichen Umgebung zu entwickeln.

    Der Linux-First-Ansatz verfolgt genau dieses Ziel:
    Die Entwicklungsumgebung soll möglichst nah an der späteren Produktionsumgebung liegen.

    Dadurch entstehen mehrere Vorteile:

    • weniger Kompatibilitätsprobleme
    • reproduzierbare Entwicklungsumgebungen
    • bessere Integration von Container-Technologien
    • stabilere Build- und Testprozesse

    Architektur eines Linux-First-Setups

    Ein typisches Entwicklungssetup mit WSL folgt einer klaren Architektur.

    Windows übernimmt dabei die Rolle des Host-Systems, während die eigentliche Entwicklung innerhalb der Linux-Umgebung stattfindet.

    Typischer Aufbau:

    Developer
   │
Windows Desktop
   │
WSL (Linux Environment)
   │
Docker Containers
   │
AI Services / Applications

    Windows stellt die Benutzeroberfläche, Treiber und Entwicklungswerkzeuge bereit.

    WSL fungiert als vollständige Linux-Umgebung für:

    • Quellcode
    • Build-Tools
    • Paketmanager
    • Container-Runtime

    Darauf aufbauend können Container-Services, Datenbanken oder KI-Frameworks betrieben werden.

    Integration mit modernen Entwicklungswerkzeugen

    Ein großer Vorteil von WSL ist die enge Integration mit modernen Entwicklerwerkzeugen.

    Besonders verbreitet ist die Kombination mit Visual Studio Code.

    Dabei läuft der Editor auf Windows, greift jedoch direkt auf die Linux-Umgebung zu.
    Der Quellcode wird innerhalb von WSL gespeichert und verarbeitet.

    Typischer Entwicklungsablauf:

    1. Windows Terminal öffnen
    2. WSL starten
    3. Projektverzeichnis aufrufen
    4. VS Code mit der Linux-Umgebung verbinden

    Beispiel:

    wsl
cd ~/dev/project
code .

    Der Editor arbeitet anschließend direkt innerhalb der Linux-Umgebung.

    Vorteile für KI- und Automatisierungsprojekte

    Gerade im Bereich KI-Entwicklung und Automatisierung bietet der Linux-First-Ansatz deutliche Vorteile.

    Viele KI-Frameworks sind ursprünglich für Linux entwickelt worden. Dazu gehören beispielsweise:

    • PyTorch
    • TensorFlow
    • HuggingFace Transformers
    • LangChain
    • verschiedene Vector-Datenbanken

    Mit WSL lassen sich diese Technologien nahezu identisch zu einer Linux-Serverumgebung betreiben.

    In Kombination mit GPU-Beschleunigung über CUDA können so auch auf lokalen Workstations leistungsfähige KI-Experimente durchgeführt werden.

    Der lokale Rechner wird damit zu einer vollwertigen Entwicklungsplattform für KI-Systeme.

    Fazit

    Linux-First Development mit WSL hat sich in den letzten Jahren zu einem wichtigen Standard für moderne Entwicklungsumgebungen entwickelt.

    Der Ansatz verbindet zwei Welten:

    • Windows als komfortables Desktop-System
    • Linux als leistungsfähige Entwicklungsplattform

    Für Software-, Automatisierungs- und KI-Projekte bietet dieses Modell mehrere Vorteile:

    • hohe Kompatibilität mit Linux-Servern
    • einfache Integration moderner DevOps-Werkzeuge
    • effiziente Nutzung von Container-Technologien
    • optimale Umgebung für KI-Frameworks

    Damit bildet WSL eine wichtige Grundlage für lokale Entwicklungsumgebungen und KI-Workstations.

    Alle Beiträge dieser Serie:

    ← Zurück zur Serienübersicht

  • AI Workstation Architektur – Grundlage für lokale KI-Systeme

    AI Workstation Architektur – Grundlage für lokale KI-Systeme

    Serie: Lokale KI-Infrastruktur für Unternehmen
    Teil 2 von 6

    Eine AI-Workstation bildet die technische Grundlage für lokale KI-Systeme. Dieser Beitrag zeigt, wie Windows, Linux, Docker und GPU-Beschleunigung zusammen eine stabile Umgebung für KI-Experimente und Anwendungen schaffen.

    Einleitung

    Viele Unternehmen experimentieren aktuell mit Künstlicher Intelligenz. Häufig beginnen diese Experimente mit Cloud‑APIs oder externen Plattformdiensten. Für erste Tests funktioniert dieser Ansatz gut.

    Sobald KI jedoch produktiv genutzt werden soll, entstehen neue Anforderungen:

    • große Datenmengen müssen verarbeitet werden
    • sensible Unternehmensdaten dürfen das Unternehmen nicht verlassen
    • KI-Systeme müssen reproduzierbar und stabil betrieben werden

    Hier kommt ein zentrales Konzept ins Spiel: eine dedizierte AI Workstation.

    Eine AI Workstation ist ein speziell konzipierter Entwicklungs‑ und Infrastrukturrechner, der für KI‑Experimente, Modellinferenz und Datenverarbeitung optimiert ist.

    Warum typische Entwicklungsumgebungen nicht ausreichen

    Viele Entwickler beginnen KI-Projekte auf einem klassischen Büro-PC oder Laptop.

    Für kleine Experimente ist das ausreichend. Sobald jedoch größere Modelle oder komplexere Datenverarbeitung eingesetzt werden, treten typische Probleme auf:

    • unzureichende GPU-Leistung
    • zu wenig Arbeitsspeicher
    • langsame Datenverarbeitung
    • instabile Entwicklungsumgebungen

    Hinzu kommt ein organisatorisches Problem.

    Wenn KI‑Experimente ohne klare Architektur stattfinden, entstehen schnell schwer wartbare Einzelprojekte.

    Eine dedizierte AI Workstation schafft hier eine stabile Grundlage für systematische Entwicklung.

    Technische Perspektive

    Eine moderne AI Workstation kombiniert mehrere Technologien zu einer integrierten Entwicklungsplattform.

    Typische Kernkomponenten sind:

    • leistungsfähige GPU für KI‑Berechnungen
    • ausreichend RAM für Datenverarbeitung
    • schnelle NVMe‑Speicher für Datensätze und Modelle
    • eine stabile Linux‑basierte Entwicklungsumgebung

    In vielen modernen Setups wird dabei ein hybrider Ansatz genutzt:

    • Windows als Desktop‑Umgebung
    • WSL2 (Linux) als Entwicklungsplattform
    • Docker für reproduzierbare Services

    Diese Architektur verbindet Komfort im Alltag mit der Stabilität einer Linux‑Entwicklungsumgebung.

    Architekturüberblick

    Eine typische AI Workstation folgt einer mehrschichtigen Architektur.

    Desktop‑System

    Das Host-System stellt die Benutzeroberfläche, Hardwaretreiber und Entwicklungswerkzeuge bereit.

    Typische Komponenten sind:

    • Windows 11
    • VS Code
    • Windows Terminal

    Linux‑Entwicklungsumgebung (WSL)

    Die eigentliche Entwicklungsarbeit findet innerhalb einer Linux‑Umgebung statt.

    Diese Umgebung bietet:

    • native Linux‑Tools
    • stabile Entwicklungsbibliotheken
    • reproduzierbare CLI‑Workflows

    Container‑Runtime (Docker)

    Docker ermöglicht es, KI‑Services isoliert zu betreiben.

    Beispiele:

    • lokale LLM‑Runtime
    • Vector‑Datenbanken
    • API‑Services

    AI‑Stack

    Innerhalb dieser Infrastruktur laufen schließlich die eigentlichen KI‑Frameworks:

    • Python
    • PyTorch
    • CUDA
    • Transformer‑Modelle

    Diese Komponenten bilden zusammen eine flexible Plattform für KI‑Experimente und Anwendungen.

    Praxisbeispiel

    Ein Unternehmen möchte einen internen Wissensassistenten auf Basis von Unternehmensdokumenten entwickeln.

    Dafür werden mehrere Komponenten benötigt:

    • lokale Sprachmodelle
    • Dokumentindexierung
    • semantische Suche
    • eine API für Anwendungen

    Auf einer AI Workstation können diese Komponenten parallel betrieben werden:

    • ein LLM‑Service läuft in einem Container
    • eine Vector‑Datenbank indexiert Dokumente
    • eine Anwendung greift über APIs auf das System zu

    Entwickler können diese Infrastruktur lokal testen, optimieren und später in produktive Systeme überführen.

    Zusammenfassung

    Eine AI Workstation bildet die technische Grundlage für moderne KI‑Entwicklung im Unternehmen.

    Sie ermöglicht:

    • reproduzierbare Entwicklungsumgebungen
    • effiziente Nutzung von GPU‑Hardware
    • stabile Container‑Infrastruktur
    • sichere Verarbeitung sensibler Daten

    Mit der zunehmenden Bedeutung lokaler KI‑Systeme wird eine solche Infrastruktur für viele Unternehmen zu einem zentralen Baustein ihrer IT‑Strategie.

    Alle Beiträge dieser Serie:

    ← Zurück zur Serienübersicht

  • Warum lokale KI-Infrastruktur für Unternehmen interessant wird

    Warum lokale KI-Infrastruktur für Unternehmen interessant wird

    Serie: Lokale KI-Infrastruktur für Unternehmen
    Teil 1 von 6

    Lokale KI-Systeme ermöglichen es Unternehmen, moderne Sprachmodelle zu nutzen, ohne sensible Daten an externe Cloud-Anbieter übertragen zu müssen.

    Einleitung

    Künstliche Intelligenz wird in immer mehr Unternehmen eingesetzt. Oft beginnt der Einstieg mit Cloud-Diensten wie ChatGPT-APIs, Copilot-Integrationen oder automatisierten Analysewerkzeugen.

    Doch mit zunehmender Nutzung stellt sich für viele Unternehmen eine entscheidende Frage:

    Wie können KI-Systeme eingesetzt werden, ohne sensible Unternehmensdaten dauerhaft an externe Cloud-Anbieter zu übertragen?

    Genau an dieser Stelle rückt ein Konzept stärker in den Fokus: lokale KI-Infrastruktur.

    Dabei werden Sprachmodelle und KI-Dienste nicht in der Cloud ausgeführt, sondern innerhalb der eigenen IT-Umgebung eines Unternehmens.

    Warum typische Ansätze scheitern – Cloud KI und ihre Grenzen

    Viele erste KI-Projekte folgen einem ähnlichen Muster.

    Ein Unternehmen testet eine Cloud-API, verbindet sie mit internen Daten und baut darauf erste Automatisierungen.

    Das funktioniert schnell – bringt aber langfristig mehrere Probleme mit sich:

    • Sensible Unternehmensdaten verlassen das eigene System
    • Kosten steigen mit wachsender Nutzung und API-Aufrufen
    • Abhängigkeit von externen Plattformanbietern entsteht
    • Integration in bestehende IT-Strukturen bleibt begrenzt

    Gerade in regulierten Branchen oder bei sensiblen Kundendaten kann dies ein erhebliches Risiko darstellen.

    Technische Perspektive

    Lokale KI-Systeme verfolgen einen anderen Ansatz.

    Anstatt externe APIs zu verwenden, werden Large Language Models (LLMs) direkt innerhalb der eigenen Infrastruktur betrieben.

    Technologien wie:

    • Docker
    • lokale LLM-Runtime-Systeme wie Ollama
    • GPU-Beschleunigung über CUDA
    • Retrieval-Augmented Generation (RAG)

    ermöglichen heute KI-Architekturen, die vollständig innerhalb eines Unternehmensnetzwerks betrieben werden können.

    Diese Entwicklung ist besonders interessant für kleine und mittelständische Unternehmen, die KI nutzen möchten, ohne ihre Daten vollständig in die Cloud auszulagern.

    Architekturüberblick

    Die Architektur der AI-Workstation folgt einem mehrschichtigen Aufbau, bei dem jede Ebene auf der darunterliegenden aufsetzt. Windows dient als Host-System und stellt Desktop-Umgebung, Hardware-Treiber und Entwicklungswerkzeuge bereit. Darüber läuft mit WSL (Windows Subsystem for Linux) eine vollständige Linux-Umgebung, in der sich der eigentliche Entwicklungs-Workspace und die meisten Tools befinden.

    Innerhalb dieser Linux-Schicht arbeitet Docker als Container-Runtime und stellt isolierte Laufzeitumgebungen für Dienste bereit. In diesen Containern laufen schließlich die eigentlichen AI Services, etwa LLM-Runtimes, Embedding-Modelle, Vector-Datenbanken oder RAG-Pipelines.

    Dieses Schichtenmodell verbindet die Benutzerfreundlichkeit eines Windows-Desktops mit der Stabilität und Flexibilität einer Linux-Serverumgebung.

    Lokale KI-Komponenten

    Eine typische lokale KI-Architektur besteht aus mehreren Komponenten.

    1. LLM Runtime

    Eine lokale Laufzeitumgebung für Sprachmodelle, beispielsweise über Ollama.

    2. Vector Database

    Eine Datenbank für semantische Suche in Dokumenten.

    3. RAG Layer

    Ein System, das interne Dokumente in KI-Antworten integriert.

    4. Application Layer

    Unternehmensanwendungen oder Automatisierungssysteme greifen über APIs auf die KI-Funktionen zu.

    Diese Architektur erlaubt es, internes Wissen strukturiert nutzbar zu machen, ohne dass Dokumente das Unternehmensnetzwerk verlassen.

    Praxisbeispiel

    Ein typisches Szenario ist ein interner Wissensassistent.

    Viele Unternehmen verfügen über große Mengen an Dokumentation:

    • technische Handbücher
    • Projektberichte
    • Support-Dokumente
    • interne Prozessbeschreibungen

    Mit Hilfe eines RAG-Systems können diese Dokumente indexiert werden.
    Die Inhalte werden dabei in sogenannte Embeddings umgewandelt und in einer Vector-Datenbank gespeichert.

    Ein Mitarbeiter stellt dann beispielsweise eine Frage wie:

    „Wie funktioniert der Freigabeprozess für Kundenangebote?“

    Die KI durchsucht relevante Dokumente und generiert eine Antwort auf Basis der internen Informationen.

    Das Ergebnis ist ein intelligenter Wissenszugriff – ohne externe Cloud-Abhängigkeit.

    Zusammenfassung

    Lokale KI-Infrastruktur entwickelt sich zunehmend zu einer ernsthaften Alternative zu reinen Cloud-KI-Lösungen.

    Besonders für Unternehmen mit sensiblen Daten bietet dieser Ansatz mehrere Vorteile:

    • bessere Datenkontrolle
    • langfristig kalkulierbare Kosten
    • flexible Integration in bestehende Systeme
    • höhere Unabhängigkeit von Cloud-Plattformen

    Mit der wachsenden Leistungsfähigkeit moderner Hardware und effizienter KI-Modelle wird dieser Ansatz für immer mehr Unternehmen interessant.

    Alle Beiträge dieser Serie:

    ← Zurück zur Serienübersicht