KMU Opensource KI Hub von Tolksdorf.digital (EU AI Act & DSGVO konform)

KMU Opensource KI Hub

KI nur von Microsoft, SAP oder Google – oder lieber unabhängig?

Die großen Anbieter binden künstliche Intelligenz tief in ihre Produkte ein und verkaufen sie als Ergänzungsprodukte mit Zusatzleistungen. KMU stehen dann schnell in einer Abhängigkeit – mit hohen Lizenzkosten und eingeschränkter Flexibilität.


Das lizenzkostenfreie, von Tolksdorf.digital kuratierte KMU Opensource KI Hub bietet eine offene, modulare Plattform für den Einsatz von KI in Unternehmen. Es verbindet interne und externe Datenquellen mit leistungsfähigen AI-Agenten und marktübliche Large Language Models (LLMs) – transparent, DSGVO-konform und ermöglicht Datensouveränität.


Inhaltsübersicht (10 min Lesedauer)

  • Sicherheit, Flexibilität und Datensouveränität mit dem KMU Opensource KI Hub
  • Anwendungsbeispiele
  • Systembeschreibung - kuratierter KMU Opensource KI Hub
  • Fragen und Antworten
  • Unabhängigkeit durch offene Dokumentation
  • Opensource Software
  • Dienstleistungen zur Planung und Umsetzung
  • Quellenangaben

Sicherheit, Flexibilität und Datensouveränität mit dem KMU Opensource KI Hub

KMU Opensource KI Hub

Das KMU Opensource KI Hub ist die Basis, um eigene Dokumente, Prozesse und Systeme mit KI nutzbar zu machen – egal ob im Intranet, in der Cloud oder im Web.

Grundsätze bei Design und Kuratierung:

  • Der KI-Einsatz darf nicht in Anbieterabhängigkeit (Vendor-Lock-In) enden.
  • Rechtliche und Datenschutzrisiken müssen ausgeschlossen werden (EU AI Act und DSGVO).
  • Jedes KMU hat unterschiedliche geschäftliche Ziele, Daten, gelebte Arbeitsweisen, abgestimmte Prozesse und IT-System die abbildbar sein müssen.
  • Auf Wunsch Sichtbarkeit von Firmenwebseiten für KI.
  • AI-Agenten für Business- und Technik-Fragen gemäss Compliance Richtlinien
  • Standard-Schnittstellen. 
  • Individuelle Schnittstellen für Legacy-IT und Fachanwendungen.
  • KI-gestützte Workflows mit n8n und Dify.
  • Unterstützung vom opensource Anthropic mcp (Model Context Protocol), mit dem externe Applikationen wie ERP, CRM, uvm. bedient werden können.
  • Unterstützung von Opensource Machine Learning Tools wie MLflow + sklearn/XGBoost + ONNX Runtime
  • Für Planung und Einführung unterstützen die Services "Strategie + Planung" und "Innovation auf Zeit" mit der Methode Experience Innovation.

Anwendungsbeispiele

Informationen über Samy

KI Innovation Agent Samy von Tolksdorf.digital

Samy ist ein KI-gestützter Innovations-Generalist von Tolksdorf.digital  und Ursprung verschiedener KI-Agenten für KMU-Projekte. Er ist Kontakt zu den Anwendern und unterstützt sie in  Innovation, Digitalisierung, IT und weiteren Themen. Sein Kollege und IT-Experte  KI-Agent Alan hilft dabei automatisch. Die Einhaltung von Ethik, Firmenwerten und Governance überprüft AI-Agentin Simone. Ihre Antworten basieren auf einer umfangreichen Datenbasis, können jedoch Fehler enthalten. Die Verantwortung für die Nutzung liegt beim Anwender, daher sollten die Antworten immer überprüft werden.

Technisch baut der AI Agent Samy auf das KMU Opensource KI Hub auf.


Mehr erfahren über Samy und Chat erproben

Wie kann man steuern, welche Webseiten-Inhalte die KI-Plattformen finden?

Produkte, Lösungen und Informationen werden immer mehr ergänzend zur klassischen Suche via Suchmaschinen (z.B. Google), mittels KI Plattformen wie perplexity oder chatGPT gesucht. Damit eigene Inhalte auch von KI Plattformen gefunden werden, sind einige technische und redaktionelle Voraussetzungen zu erfüllen. Unser Frontmatter-Standard verbindet Inhalt, Kontext und Metadaten – maschinenlesbar und stabil, damit der KMU Opensource KI Hub die Informationen geordnet ausliefern kann: 

Samy nutzt dieselben Metadaten intern – für präzise Antworten, Quellenangaben und rasches Auffinden.

Ergebnis: konsistente Auffindbarkeit für Suchmaschinen und KI-Assistenten – nachvollziehbar, prüfbar, skalierbar.


In Vorbereitung

Systembeschreibung - kuratierter KMU Opensource KI Hub

Freie LLM / KI Modellwahl

  • Nutzung kommerzieller Large Language Models (LLM) wie von OpenAI, Anthropic, Google, uvm.
  • Open Source-Modelle wie Mistral, LLaMA / LLaMA 2/3
  • OpenAI „Open Models“ — Modelle mit offen zugänglichen Gewichten („open-weight“) unter Open-Source-ähnlichen Lizenzen.
  • Die Liste wird laufend erweitert und gepflegt

Freie Anwendungswahl

Freie Wahl Einsatzort

  • On-Premises im Betrieb.
  • Private Cloud (z. B. Hetzner, Swiss Hosting).
  • Öffentliche Cloud.
AI Agents

AI Agents

Digitaler Assistent, (inkl. Chatbots wie Samy) der durch Automatisierung und Interaktion entlastet.


Nutzen:

  • Rund-um-die-Uhr-Service (Support, FAQs, Terminmanagement).
  • Entlastung durch Übernahme repetitiver Aufgaben (z. B. Lead-Qualifizierung, Datenpflege).
  • Einfach integrierbar mit Open-Source-Tools, kostengünstig und datenschutzkonform selbst hostbar.


Aufbau:

  • Frontend (z. B. Chatbot-Oberfläche für Kunden/Team).
  • KI-Kern (Sprachmodelle wie Mistral für Verständnis/Generierung, z. B. für Fragen oder Texte).
  • Schnittstellen zu Systemen.
  • Je nach Anwendungsfall stehen folgende Agenten-Design Plattformen zur Verfügung
    - n8n AI-Agent
    - Dify oder 
    - OpenAI AgentKit (nicht Open Source)


Funktion:

  • Versteht Anfragen (z. B. per Chat), nutzt Daten aus verbunden Systemen, trifft Entscheidungen (z. B. Antworten, Buchungen) und lernt dazu – vollautomatisch oder mit menschlicher Freigabe.



Beispiel: 


Workflow Automation

Workflow Automation

n8n ist ein Open-Source-Workflow-Automatisierungstool, das KMU hilft, repetitive Prozesse zu verknüpfen. 


Nutzen: 

  • n8n Verbindet Apps (ERP, CRM, etc.) über eine visuelle Oberfläche.
  • Automatisiert Workflows (z. B. AI-Agenten, Datenübertragung,  etc.).
  • Effizienzsteigerung, weniger Fehler, Fokus auf Kernaufgaben.
  • Spart Zeit & Kosten durch weniger manuelle Arbeit und schnelle Integration.
  • Flexibel & erweiterbar: Über 300 vordefinierte Knoten, eigene Logik möglich.
  • Datensouveränität: Selbst gehostet, keine Abhängigkeit von Cloud-Anbietern.

Aufbau:

  • Modularen Node-Struktur:
  • Trigger starten Workflows (z. B. neue E-Mail, Webhook, Datenbankeintrag) 
  • Nodes (über 300 vorgefertigte Integrationen) verbinden Dienste wie SAP, Google Sheets, KI-Tools.
  • Logik-Nodes (Bedingungen, Schleifen) steuern Abläufe – ähnlich einem visuellem Baukasten.
  • Self-Hosting möglich (lokal/Cloud) für volle Datenkontrolle; Low-Code/Optik macht es auch für Nicht-Entwickler nutzbar.


Funktion:


  • Auslöser (z. B. Formular-Eintrag) aktiviert den Workflow. Daten werden automatisch abgeholt, transformiert (z. B. bereinigt, angereichert) und zwischen Apps weitergegeben.
  • Protokollierung dokumentiert jeden Schritt für Transparenz.


Beispiel: 

  • Eine Bestellung im Shop löst aus: Daten prüfen → ERP aktualisieren → Kunde benachrichtigen → Buchhaltung informieren – ohne manuellen Klick.
  • Plus: KI-Integration möglich (z. B. KI-Agenten wie Samy anbinden, um Chat-Inhalte weiterzuverarbeiten).
Schnittstellen - Interfaces

Schnittstellen / Interfaces

Standardisierte Brücken zwischen IT-Anwendungen, die Austausch und Verarbeitung von Daten ermöglichen.

Nutzen:

Schnittstellen schaffen Effizienz, Offenheit und ermöglichen verschiedenen Systemen (z. B. CRM, ERP, Webshops) nahtlos zu kommunizieren, Daten automatisch synchron zu halten und Prozesse ohne Medienbrüche abzubilden – das spart Zeit, reduziert Fehler und macht IT-Infrastrukturen flexibel erweiterbar.

Aufbau, Funktion, Beispiele:

Fragen und Antworten


Welchen Nutzen und Return on Investment (ROI) bringen Investitionen in KI?

Exakte Zahlen ergeben sich durch die konkrete Nutzung in den Prozessen. In die Rechnung gehen Fehlervermeidung, mehr Effektivität durch Fälle die vorher nicht möglich waren und höhere Effizienz. Zum Beispiel Fehlersuche, FAQ/Support-Entlastung, Lead-Qualifizierung, interne Suche uvm. Es ist zu prüfen, ob man es sich leisten kann Potenziale im Vergleich zum Wettbewerb nicht zu nutzen.

 

Was ist der KMU Opensource KI Hub – und für wen ist er gedacht?

Eine modulare, lizenzkostenfreie Plattform, um KI sicher und kontrolliert in KMU (eigentlich alle Organisationen) nutzbar zu machen. Zielgruppe: Geschäftsleitung & Teams, die unabhängig bleiben wollen (Self-Hosting CH/EU oder Private Cloud).


Wie ist das generelle Vorgehen bei KI Projekten?

Wie übliche IT-Projekte, wobei auch organisatorische Anpassungen und Schulungen zu berücksichtigen sind. Empfohlenes Vorgehen: Experience Innovation von Tolksdorf.digital


Wie starten wir klein und sicher?

Mit Quick-Check (1 Woche)Pilot (2–4 Wochen) für genau einen Use Case (z. B. Samy-Chat + n8n-Workflow). Danach geordnete Integration oder Stopp – ohne Lock-In.


Wie erfüllen wir Datenschutz & Compliance (DSG/nDSG, DSGVO, EU-AI-Act-orientiert)?

Datenhoheit durch Self-Hosting in CH/EU, vollständige Protokolle (Logs), Human-in-the-Loop bei Entscheidungen, Export/Löschung auf Knopfdruck – dokumentiert und prüfbar.


Was kostet das – und wie bleibt die Kostenkontrolle erhalten?

Keine Lizenzgebühren für die Plattform (Open Source). Kosten entstehen für Betrieb/Integration/Support nach Bedarf. Transparente TCO: Hosting, Wartung, Monitoring, Schulung.


Wie binden wir bestehende Systeme (ERP, CRM, Cloud) an – ohne Vendor-Lock-In?

Über Standardschnittstellen (API/Webhooks), Adapter und klar definierte „Swap-Points“. Modelle, Vektor-DB, Auth können später ohne Neuaufbau getauscht werden.


Welche KI-Modelle/tools unterstützt der Hub?

Kombination aus Open-Source (z. B. Mistral, Llama) und kommerziellen LLMs (OpenAI, Anthropic, Google) – austauschbar. Automatisierung z. B. mit n8n, Wissensaufbereitung und Agents nach Bedarf.


Wie stellen wir Sicherheit, Transparenz und Nachvollziehbarkeit sicher?

RBAC/SSO (Role-Based Access Control -> rollenbasierte Zugriffskontrolle, SSO = Single Sign-On), Audit-Logs, Monitoring/Alerts, reproduzierbare Deployments, klarer Incident-/Exit-Prozess. Entscheidungen sind dokumentiert und später überprüfbar.


Wie viel internes Know-how brauchen wir – und wer betreibt das?

Wir befähigen Ihr Team (Doku, Schulung, Runbooks). Betrieb: intern, gemeinsam oder durch uns – je nach Ressourcen. Ziel: Sie können es selbstständig weiterführen.


Skalierung & Nachhaltigkeit: wächst das mit – und wie effizient ist es?

Ja: vom Einzel-Pilot bis zur produktiven Umgebung. Ressourcen lassen sich fein justieren; Self-Hosting/Private Cloud ermöglicht effiziente Nutzung und vermeidet unnötige Overhead-Kosten.

Unabhängigkeit durch offene Dokumentation

Nachvollziehbare und reproduzierbare Ergebnisse

  • Projekte und Lösungen werden kurz und transparent beschrieben, damit Sie oder Ihre Partner die IT-Systeme selbstständig nutzen und betreuen können.

Tolksdorf.digital unterstützt und verwendet Opensource Software, wie das KMU Opensource Paket

Open Source Initiative

Opensource stärkt Unabhängigkeit

  • Stärkung der Unabhängigkeit
  • Gewichtige Vorteile wie Stabilität und geringe Kosten

Info über KMU Opensource Paket

Mehr über  Opensource  erfahren

Dienstleistungen zur Planung und Umsetzung

Damit die Lösung im Unternehmensalltag Nutzen stiftet

  • Mit Innovation Engineering zum Unternehmen passende Lösungen finden
  • Mit Digital Engineering und Projektleitung die Lösungen sicher umsetzen
Mehr über die Digital Innovation Boutique erfahren
Leuchtende, vernetzte Fünfeck-Struktur als Sinnbild für Open-Source, KI und Automatisierung
ℹ️
DE | EN