Zukunftstechnologie: Open Source für Large Language Models

Wie können mittelständische Unternehmen generative KI bestmöglich nutzen, ohne von Modellen wie ChatGPT abhängig zu sein? Eine Antwort darauf entwickelt das zukunftsweisende Innovationsprojekt „LLM4KMU“, welches im Rahmen von NEXT.IN.NRW und mit kräftiger Unterstützung des Europäischen Fonds für regionale Entwicklung (EFRE) mit ZENIT-Beteiligung startet.

Projektstart LLM4KMU: Open Source KI für den Mittelstand nutzbar machen

Am 1. Juni 2025 startete das vom Land NRW und der EU geförderte Innovationsprojekt LLM4KMU, das den Einsatz von Open Source Large Language Models (LLMs) gezielt auf die Bedürfnisse mittelständischer Unternehmen zuschneidet. Ziel ist es, den Zugang zu generativer KI zu erleichtern und dabei Datenschutz, Kosten und individuelle Anpassung in den Vordergrund zu stellen.

Gerade KMU stehen beim Einsatz leistungsstarker KI-Modelle wie ChatGPT oder Claude vor Herausforderungen: fehlende Datensouveränität, hohe Kosten, mangelndes Know-how. LLM4KMU setzt genau hier an. In einem starken Konsortium mit der Universität Bielefeld, innovativen Technologieunternehmen und ZENIT als Mittelstandsmultiplikator werden Lösungen entwickelt, mit denen Unternehmen eigene, angepasste Sprachmodelle auf sicherer, offener Basis einsetzen können – ohne auf externe Anbieter angewiesen zu sein.

Kern des Projekts ist eine Experimentierplattform, mit der Unternehmen einfach und effizient die für sie passende KI-Konfiguration testen und auswählen können. Ergänzt wird dies durch Best Practices, Schulungsangebote und die Entwicklung konkreter Anwendungsprototypen in unterschiedlichen Branchen – von Werkstofftechnik über Maschinenbau bis zur pharmazeutischen Industrie.

ZENIT wird im Rahmen des Projekts u.a. ein auf Sprachmodelle spezialisiertes Technologie-Trendradar entwickeln und die Ergebnisse über das „Mobile LLM-Lab“ – einen mobilen Demonstrator für KI-Anwendungen – direkt in die Unternehmen tragen. Entscheider können so Technologien direkt vor Ort erleben und ihr Potenzial für das eigene Geschäft erkennen.

Mit LLM4KMU leistet NRW Pionierarbeit: Für mehr digitale Souveränität, wirtschaftliche Innovationskraft und praxisnahe KI im Mittelstand. Sie möchten mehr über Open Source für LLMs erfahren oder sich aktiv einbringen? Dann melden Sie sich gern bei Stefan Braun.

---

Zurück