KMU Opensource KI Hub von Tolksdorf.digital (EU AI Act & DSGVO konform)

Banner KMU Opensource KI Hub mit anderen Anwendungen

KI nur von Microsoft, SAP oder Google – oder lieber unabhängig?

Die großen Anbieter binden künstliche Intelligenz tief in ihre Produkte ein und verkaufen sie als Ergänzungsprodukte mit Zusatzleistungen. KMU stehen dann schnell in einer Abhängigkeit – mit hohen Lizenzkosten und eingeschränkter Flexibilität.


Das lizenzkostenfreie, von Tolksdorf.digital kuratierte KMU Opensource KI Hub bietet eine offene, modulare Plattform für den Einsatz von KI in Unternehmen. Es verbindet interne und externe Datenquellen mit leistungsfähigen AI-Agenten und marktübliche Large Language Models (LLMs) – transparent, DSGVO-konform und ermöglicht Datensouveränität.


Inhaltsübersicht (10 min Lesedauer)

Sicherheit, Flexibilität und Datensouveränität mit dem KMU Opensource KI Hub

KMU Opensource KI Hub

Das KMU Opensource KI Hub ist die Basis, um eigene Dokumente, Prozesse und Systeme mit KI nutzbar zu machen – egal ob im Intranet, in der Cloud oder im Web.

Grundsätze bei Design und Kuratierung:

  • Der KI-Einsatz darf nicht in Anbieterabhängigkeit (Vendor-Lock-In) enden.
  • Rechtliche und Datenschutzrisiken müssen ausgeschlossen werden (EU AI Act und DSGVO).
  • Jedes KMU hat unterschiedliche geschäftliche Ziele, Daten, gelebte Arbeitsweisen, abgestimmte Prozesse und IT-System die abbildbar sein müssen.
  • Auf Wunsch Sichtbarkeit von Firmenwebseiten für KI.
  • AI-Agenten für Business- und Technik-Fragen gemäss Compliance Richtlinien
  • Standard-Schnittstellen. 
  • Individuelle Schnittstellen für Legacy-IT und Fachanwendungen.
  • KI-gestützte Workflows mit n8n und Dify.
  • 100% Kompatibilität zu OpenAI chatGPT Business.
  • Unterstützung vom opensource Anthropic mcp (Model Context Protocol), mit dem externe Applikationen wie ERP, CRM, uvm. bedient werden können.
  • Unterstützung von Opensource Machine Learning Tools wie MLflow + sklearn/XGBoost + ONNX Runtime
  • Für Planung und Einführung unterstützen die Services "Strategie + Planung" und "Innovation auf Zeit" mit der Methode Experience Innovation.

Anwendungsbeispiele

Informationen über Samy

KI Innovation Agent Samy von Tolksdorf.digital

Samy ist ein KI-gestützter Innovations-Generalist von Tolksdorf.digital  und Ursprung verschiedener KI-Agenten für KMU-Projekte. Er ist Kontakt zu den Anwendern und unterstützt sie in  Innovation, Digitalisierung, IT und weiteren Themen. Sein Kollege und IT-Experte  KI-Agent Alan hilft dabei automatisch. Die Einhaltung von Ethik, Firmenwerten und Governance überprüft AI-Agentin Simone. Ihre Antworten basieren auf einer umfangreichen Datenbasis, können jedoch Fehler enthalten. Die Verantwortung für die Nutzung liegt beim Anwender, daher sollten die Antworten immer überprüft werden.

Technisch baut der AI Agent Samy auf das KMU Opensource KI Hub auf.


Mehr erfahren über Samy und Chat erproben

Stichworte SEO+GEO: Wie kann man steuern, welche Webseiten-Inhalte die KI-Plattformen finden?

Produkte, Lösungen und Informationen werden immer mehr ergänzend zur klassischen Suche (SEO = Serach Engine Optimization) via Suchmaschinen (z.B. Google), mittels KI Plattformen wie perplexity oder chatGPT gesucht (GEO = Generative Engine Optimization). Damit eigene Inhalte auch von KI Plattformen gefunden werden, sind einige technische und redaktionelle Voraussetzungen zu erfüllen. Unser Frontmatter-Standard verbindet Inhalt, Kontext und Metadaten – maschinenlesbar und stabil, damit der KMU Opensource KI Hub die Informationen geordnet ausliefern kann: 

Samy nutzt dieselben Metadaten intern – für präzise Antworten, Quellenangaben und rasches Auffinden.

Ergebnis: konsistente Auffindbarkeit für Suchmaschinen und KI-Assistenten – nachvollziehbar, prüfbar, skalierbar.

Mehr über KI-Sichtbarkeit steuern

Systembeschreibung - kuratierter KMU Opensource KI Hub

Freie LLM / KI Modellwahl

  • Nutzung kommerzieller Large Language Models (LLM) wie von OpenAI, Anthropic, Google, uvm.

  • Open Source-Modelle wie Mistral, LLaMA / LLaMA 2/3

  • OpenAI „Open Models“ — Modelle mit offen zugänglichen Gewichten („open-weight“) unter Open-Source-ähnlichen Lizenzen.

  • Die Liste wird laufend erweitert und gepflegt

Freie Anwendungswahl

Freie Wahl Einsatzort

  • On-Premises im Betrieb.

  • Private Cloud (z. B. Hetzner, Swiss Hosting).

  • Öffentliche Cloud.

AI Agents

AI Agents

Digitaler Assistent, (inkl. Chatbots wie Samy) der durch Automatisierung und Interaktion entlastet.


Nutzen:

  • Rund-um-die-Uhr-Service (Support, FAQs, Terminmanagement).

  • Entlastung durch Übernahme repetitiver Aufgaben (z. B. Lead-Qualifizierung, Datenpflege).

  • Einfach integrierbar mit Open-Source-Tools, kostengünstig und datenschutzkonform selbst hostbar.


Aufbau:

  • Frontend (z. B. Chatbot-Oberfläche für Kunden/Team).

  • KI-Kern (Sprachmodelle wie Mistral für Verständnis/Generierung, z. B. für Fragen oder Texte).

  • Schnittstellen zu Systemen.

  • Je nach Anwendungsfall stehen folgende Agenten-Design Plattformen zur Verfügung
    - n8n AI-Agent
    -
    Dify oder 
    -
    OpenAI AgentKit (nicht Open Source)


Funktion:

  • Versteht Anfragen (z. B. per Chat), nutzt Daten aus verbunden Systemen, trifft Entscheidungen (z. B. Antworten, Buchungen) und lernt dazu – vollautomatisch oder mit menschlicher Freigabe.



Beispiel: 


Workflow Automation

Workflow Automation

n8n ist ein Open-Source-Workflow-Automatisierungstool für KMU hilft, repetitive Prozesse zu verknüpfen. 


Nutzen: 

  • n8n Verbindet Apps (ERP, CRM, etc.) über eine visuelle Oberfläche.

  • Automatisiert Workflows (z. B. AI-Agenten, Datenübertragung,  etc.).

  • Effizienzsteigerung, weniger Fehler, Fokus auf Kernaufgaben.

  • Spart Zeit & Kosten durch weniger manuelle Arbeit und schnelle Integration.

  • Flexibel & erweiterbar: Über 300 vordefinierte Knoten, eigene Logik möglich.

  • Datensouveränität: Selbst gehostet, keine Abhängigkeit von Cloud-Anbietern.

Aufbau:

  • Modularen Node-Struktur:

  • Trigger starten Workflows (z. B. neue E-Mail, Webhook, Datenbankeintrag) 

  • Nodes (über 300 vorgefertigte Integrationen) verbinden Dienste wie SAP, Google Sheets, KI-Tools.

  • Logik-Nodes (Bedingungen, Schleifen) steuern Abläufe – ähnlich einem visuellem Baukasten.

  • Self-Hosting möglich (lokal/Cloud) für volle Datenkontrolle; Low-Code/Optik macht es auch für Nicht-Entwickler nutzbar.


Funktion:

  • Auslöser (z. B. Formular-Eintrag) aktiviert den Workflow. Daten werden automatisch abgeholt, transformiert (z. B. bereinigt, angereichert) und zwischen Apps weitergegeben.

  • Protokollierung dokumentiert jeden Schritt für Transparenz.


Beispiel: 

  • Eine Bestellung im Shop löst aus: Daten prüfen → ERP aktualisieren → Kunde benachrichtigen → Buchhaltung informieren – ohne manuellen Klick.

  • Plus: KI-Integration möglich (z. B. KI-Agenten wie Samy anbinden, um Chat-Inhalte weiterzuverarbeiten).

Schnittstellen - Interfaces

Schnittstellen / Interfaces

Standardisierte Brücken zwischen IT-Anwendungen, die Austausch und Verarbeitung von Daten ermöglichen.

Nutzen:

Schnittstellen schaffen Effizienz, Offenheit und ermöglichen verschiedenen Systemen (z. B. CRM, ERP, Webshops) nahtlos zu kommunizieren, Daten automatisch synchron zu halten und Prozesse ohne Medienbrüche abzubilden – das spart Zeit, reduziert Fehler und macht IT-Infrastrukturen flexibel erweiterbar.

Aufbau, Funktion, Beispiele:

Fragen und Antworten

MCP steht für Model Context Protocol.

Es ist ein offener Standard, mit dem KI-Modelle sicher auf externe Datenquellen und Tools zugreifen können - z. B. auf Datenbanken, Dateien, interne APIs oder Systeme wie Nextcloud, Odoo, ERP, Mail, etc. Im KMU Opensource KI Hub wird MCP, um:

  • KI-Agenten an Ihre Systeme anzubinden (z. B. Ablage, CRM, ERP, Wiki …),
  • Datenzugriffe zu standardisieren (statt für jedes System eine eigene Speziallösung zu bauen),
  • Sicherheit & Kontrolle zu behalten (klar definierte, protokollierte Zugriffe).

Kurz: MCP ist das „Stecker-System“, das KI und bestehenden IT-Systeme sauber miteinander verbindet.

ChatGPT Business ist besonders sinnvoll, wenn:

  • das Unternehmen nicht mit Microsoft365 arbeiten will,
  • nur teilweise mit der Microsoft-Welt arbeitet (z. B. auch Nextcloud, Odoo, ERP, Linux, Webprojekte, Open Source)
  • eine unternehmensweite KI-Schicht über mehrere Systeme hinweg gewünscht ist
  • Strategie, Texte, Konzepte, Code und Architektur unterstützt werden sollen – also ein „Denkkollege“, nicht nur Office-Automatisierung
  • eigene KI-Agents und Workflows (z. B. über einen KI-Hub oder n8n) aufgebaut werden sollen


Kurz:

Copilot stärkt primär die Produktivität innerhalb von Microsoft 365.

ChatGPT Business eignet sich als flexible, systemübergreifende KI-Basis für das gesamte Unternehmen.

Die Integration ist sehr sinnvoll, wenn KI nicht isoliert, sondern als Bestandteil einer gesamten Systemlandschaft genutzen werden soll:

  • Zentraler Zugang zu Unternehmenswissen: ChatGPT Business kann über MCP kontrolliert auf Dateien, Datenbanken, Wikis, ERP/CRM usw. zugreifen – orchestriert durch den KMU Opensource KI Hub.
  • Weniger Insellösungen: Statt viele Einzellösungen (pro Tool ein Assistent) entsteht eine einheitliche KI-Schicht mit klarer Architektur.
  • Governance & Sicherheit: Zugriffsrechte, Protokollierung und Datenquellen werden im Hub geregelt, nicht „wild“ pro KI-Tool.
  • Zukunftssicherheit: Neue Systeme können über MCP angebunden werden, ohne ChatGPT Business oder die Grundarchitektur neu zu bauen.


Kurz:

Die Kombination aus ChatGPT Business + MCP + KMU Opensource KI Hub macht aus einem KI-Chat ein steuerbares, integriertes Unternehmenswerkzeug.

Exakte Zahlen ergeben sich durch die konkrete Nutzung in den Prozessen. In die Rechnung gehen Fehlervermeidung, mehr Effektivität durch Fälle die vorher nicht möglich waren und höhere Effizienz. Zum Beispiel Fehlersuche, FAQ/Support-Entlastung, Lead-Qualifizierung, interne Suche uvm. Es ist zu prüfen, ob man es sich leisten kann Potenziale im Vergleich zum Wettbewerb nicht zu nutzen.

Eine modulare, lizenzkostenfreie Plattform, um KI sicher und kontrolliert in KMU (eigentlich alle Organisationen) nutzbar zu machen. Zielgruppe: Geschäftsleitung & Teams, die unabhängig bleiben wollen (Self-Hosting CH/EU oder Private Cloud).

Wie übliche IT-Projekte, wobei auch organisatorische Anpassungen und Schulungen zu berücksichtigen sind. Empfohlenes Vorgehen: Experience Innovation von Tolksdorf.digital

Mit Quick-Check (1 Woche)Pilot (2–4 Wochen) für genau einen Use Case (z. B. Samy-Chat + n8n-Workflow). Danach geordnete Integration oder Stopp – ohne Lock-In.

Datenhoheit durch Self-Hosting in CH/EU, vollständige Protokolle (Logs), Human-in-the-Loop bei Entscheidungen, Export/Löschung auf Knopfdruck – dokumentiert und prüfbar.

Keine Lizenzgebühren für die Plattform (Open Source). Kosten entstehen für Betrieb/Integration/Support nach Bedarf. Transparente TCO: Hosting, Wartung, Monitoring, Schulung.

Keine Lizenzgebühren für die Plattform (Open Source). Kosten entstehen für Betrieb/Integration/Support nach Bedarf. Transparente TCO: Hosting, Wartung, Monitoring, Schulung.

Über Standardschnittstellen (API/Webhooks), Adapter und klar definierte „Swap-Points“. Modelle, Vektor-DB, Auth können später ohne Neuaufbau getauscht werden.

  • Microsoft Cloud ist unerwünscht
  • Viele Fremdsysteme sind zu integrieren
  • Zu hohe Lizenzkosten
  • Alte bzw. veraltete Microsoft Umgebung die zu integrieren sind
  • Strikt einzuhaltende DSGVO-/EU AI Act Vorgaben
  • Freie Large Language Model (LLM) Wahl ist nötig

Kombination aus Open-Source (z. B. Mistral, Llama) und kommerziellen LLMs (OpenAI, Anthropic, Google) – austauschbar. Automatisierung z. B. mit n8n, Wissensaufbereitung und Agents nach Bedarf.

RBAC/SSO (Role-Based Access Control -> rollenbasierte Zugriffskontrolle, SSO = Single Sign-On), Audit-Logs, Monitoring/Alerts, reproduzierbare Deployments, klarer Incident-/Exit-Prozess. Entscheidungen sind dokumentiert und später überprüfbar.

Wir befähigen Ihr Team (Doku, Schulung, Runbooks). Betrieb: intern, gemeinsam oder durch uns – je nach Ressourcen. Ziel: Sie können es selbstständig weiterführen.

Ja: vom Einzel-Pilot bis zur produktiven Umgebung. Ressourcen lassen sich fein justieren; Self-Hosting/Private Cloud ermöglicht effiziente Nutzung und vermeidet unnötige Overhead-Kosten.

Unabhängigkeit durch offene Dokumentation

Nachvollziehbare und reproduzierbare Ergebnisse

  • Projekte und Lösungen werden kurz und transparent beschrieben, damit Sie oder Ihre Partner die IT-Systeme selbstständig nutzen und betreuen können.

Tolksdorf.digital unterstützt und verwendet Opensource Software, wie das KMU Opensource Paket

Open Source Initiative

Opensource stärkt Unabhängigkeit

  • Stärkung der Unabhängigkeit
  • Gewichtige Vorteile wie Stabilität und geringe Kosten

Info über KMU Opensource Paket

Mehr über  Opensource  erfahren

Dienstleistungen zur Planung und Umsetzung

Damit die Lösung im Unternehmensalltag Nutzen stiftet

  • Mit Innovation Engineering zum Unternehmen passende Lösungen finden
  • Mit Digital Engineering und Projektleitung die Lösungen sicher umsetzen
Mehr über die Digital Innovation Boutique erfahren
Leuchtende, vernetzte Fünfeck-Struktur als Sinnbild für Open-Source, KI und Automatisierung
ℹ️
DE | EN