KI im Mittelstand: Jürgen Scherer im Gespräch mit Prof. Dr. Daniel Sonnet
Wo liegen für mittelständische Unternehmen die wirklichen Hebel beim Einsatz Künstlicher Intelligenz? Im Gespräch mit Prof. Dr. Daniel Sonnet vom Expertennetzwerk KI-Syndikat spricht Jürgen Scherer über KI-Kompetenz, interne Wissenssysteme, Datenschutz und die Frage, wie Unternehmen pragmatisch in konkrete KI-Projekte einsteigen können.
Im Mittelpunkt steht dabei bewusst nicht das nächste neue KI-Tool. Entscheidend ist vielmehr, vorhandenes Wissen nutzbar zu machen, Mitarbeitende mitzunehmen und diejenigen Anwendungsfälle zu identifizieren, die mit überschaubarem Aufwand einen echten Nutzen schaffen. ( Weiterlesen: KI im Mittelstand – das Interview mit Jürgen Scherer )
➨ Im Gespräch: KI nicht vom Tool, sondern vom Unternehmen aus denken
Künstliche Intelligenz entwickelt sich mit hoher Geschwindigkeit. Für Unternehmen entsteht dadurch leicht der Eindruck, möglichst schnell neue Werkzeuge einführen zu müssen. Im Interview vertritt Jürgen Scherer einen anderen Ansatz: Erst wenn Ziele, Prozesse, Daten und die Menschen im Unternehmen verstanden sind, lässt sich sinnvoll beurteilen, wo KI tatsächlich einen Hebel bietet.
Der größte Hebel ist nicht das größte Projekt. Entscheidend ist, wo sich mit überschaubarem Aufwand zeitnah ein spürbarer Nutzen erreichen lässt.
Das vollständige Interview auf YouTube
Das rund 20-minütige Gespräch wurde für das KI-Syndikat geführt. Prof. Dr. Daniel Sonnet und Jürgen Scherer sprechen darin über Erfahrungen aus mehreren Jahrzehnten Digitalisierung, die aktuelle KI-Entwicklung und sinnvolle Einstiegswege für mittelständische Unternehmen.
Auf dieser Website wird bewusst kein YouTube-Player eingebettet. Das Vorschaubild wird lokal von unserem eigenen Server ausgeliefert. Erst mit dem Aufruf des externen Links wird eine Verbindung zu YouTube hergestellt.
KI-Kompetenz vor Tool-Wildwuchs
Für viele Unternehmen beginnt die Beschäftigung mit Künstlicher Intelligenz längst nicht mehr mit einer strategischen Entscheidung. Mitarbeitende nutzen ChatGPT, Copilot oder andere KI-Werkzeuge häufig bereits im beruflichen Alltag.
Damit entsteht zunächst weniger ein Technologieproblem als eine organisatorische Aufgabe: Unternehmen müssen Klarheit darüber schaffen, welche Werkzeuge eingesetzt werden dürfen, welche Informationen dort verarbeitet werden können und wie Ergebnisse fachlich überprüft werden.
Gerade die scheinbare Einfachheit generativer KI macht diese Kompetenz besonders wichtig. Sprachmodelle liefern auch dann überzeugend formulierte Antworten, wenn eine Aussage fachlich nicht belastbar ist. Befindet sich der Nutzer außerhalb seiner eigenen Domänenkompetenz, kann die Beurteilung entsprechend schwierig werden.
Ein sinnvoller Einstieg kann deshalb eine praxisorientierte KI-Schulung für Unternehmen sein. Sie schafft eine gemeinsame Wissensbasis und ermöglicht anschließend, konkrete Anwendungsfälle fundierter zu bewerten.
Interne Wissenssysteme als pragmatischer Einstieg
Einen besonders interessanten Anwendungsbereich sieht Jürgen Scherer bei internen Wissenssystemen.
Gerade inhabergeführte und mittelständische Unternehmen verfügen häufig über einen Wissensbestand, der über viele Jahre oder Jahrzehnte entstanden ist: Dokumentationen, technische Unterlagen, Verfahrensanweisungen, Projektinformationen, frühere Lösungen, Erfahrungswerte oder interne Richtlinien.
Dieses Wissen ist vorhanden, aber nicht zwangsläufig schnell zugänglich. Informationen liegen in unterschiedlichen Dokumenten, Verzeichnissen oder Systemen und müssen im Alltag immer wieder gesucht werden.
Hier können interne KI-Wissenssysteme ansetzen. Statt das gesamte Unternehmenswissen in ein öffentliches KI-System zu übertragen, werden geeignete Inhalte zunächst strukturiert, geprüft und kuratiert. Anschließend kann ein interner Wissensassistent gezielt auf diesen Bestand zugreifen.
Der eigentliche Wert entsteht nicht dadurch, möglichst viele Dokumente in ein KI-System zu laden. Er entsteht, wenn relevantes Unternehmenswissen strukturiert, auffindbar und kontrolliert nutzbar wird.
Technisch werden solche Systeme häufig mit dem Prinzip Retrieval Augmented Generation (RAG) umgesetzt. Dabei erhält das Sprachmodell zur jeweiligen Anfrage passende Informationen aus einer definierten Wissensbasis.
Entscheidend sind dabei nicht nur Modell und Software. Mindestens ebenso wichtig sind Datenqualität, Quellen, Berechtigungen, Aktualität und die Frage, welche Informationen überhaupt in den Wissensbestand aufgenommen werden sollen.
Aus unserer Praxis dazu: KI-Assistent mit RAG: Warum die Qualität der Wissensbasis entscheidend ist sowie unser technischer Praxisbericht zu RAG, FastAPI und Qdrant .
Der größte Hebel ist nicht das größte KI-Projekt
Bei neuen Technologien entsteht schnell der Wunsch, mit einem besonders großen Projekt zu starten. Für mittelständische Unternehmen muss das nicht der sinnvollste Weg sein.
Im Interview beschreibt Jürgen Scherer einen anderen Ansatz: Zunächst sollte verstanden werden, wie das Unternehmen arbeitet, wo Prozesse Zeit kosten, wo Informationen fehlen und an welchen Stellen Mitarbeitende regelmäßig mit denselben Problemen konfrontiert werden.
Gesucht wird anschließend nicht zwangsläufig der spektakulärste Anwendungsfall, sondern derjenige mit dem günstigsten Verhältnis zwischen Aufwand, Risiko, Umsetzbarkeit und erwartetem Nutzen.
➨ Unternehmen verstehen
Welche Prozesse funktionieren gut? Wo entstehen Wartezeiten, Suchaufwand oder wiederkehrende manuelle Tätigkeiten?
➨ Anwendungsfälle sammeln
Nicht jede denkbare KI-Anwendung ist automatisch sinnvoll. Potenzielle Use Cases werden zunächst ohne Technikfestlegung betrachtet.
➨ Nutzen und Aufwand gegenüberstellen
Ein überschaubarer Anwendungsfall mit klar erkennbarem Nutzen kann als erster Schritt wertvoller sein als ein großes Transformationsprojekt.
➨ Mit einem belastbaren Einstieg beginnen
Ein erstes erfolgreiches Projekt schafft Erfahrung, Akzeptanz und eine bessere Grundlage für weitere Entscheidungen.
➨ Iterativ verbessern
KI-Projekte müssen nicht beim ersten Entwurf perfekt sein. Ergebnisse werden geprüft, Rückmeldungen aufgenommen und die Lösung schrittweise weiterentwickelt.
Mitarbeitende von Beginn an mitnehmen
Technische Möglichkeiten allein entscheiden nicht darüber, ob ein KI-Projekt im Unternehmen funktioniert.
Mindestens ebenso wichtig ist, wie Mitarbeitende die Veränderung wahrnehmen. Werden neue Systeme ausschließlich als Automatisierungsprojekt der Geschäftsleitung eingeführt, können Unsicherheit, Ablehnung oder die Sorge um den eigenen Arbeitsplatz entstehen.
Im Interview plädiert Jürgen Scherer deshalb dafür, Mitarbeitende möglichst früh einzubeziehen. Sie kennen ihre eigenen Arbeitsabläufe, wiederkehrenden Probleme und unnötigen Zeitaufwand meist besser als externe Projektbeteiligte.
Wer KI im Unternehmen einführen will, braucht nicht nur ein funktionierendes System. Die Menschen, die später damit arbeiten sollen, müssen Teil des Projekts sein.
Der praktische Nutzen dieser Beteiligung geht über Akzeptanz hinaus. Häufig entstehen gerade im Gespräch mit den späteren Anwenderinnen und Anwendern diejenigen Ideen, aus denen sich besonders geeignete KI-Anwendungsfälle entwickeln.
KI-Kompetenz, Use-Case-Entwicklung und Veränderungsmanagement sollten deshalb nicht als getrennte Aufgaben betrachtet werden.
Warum KI-Projekte mehrere Disziplinen brauchen
Künstliche Intelligenz ist längst kein Thema, das ausschließlich in die Softwareentwicklung gehört.
Je nach Projekt treffen Technologie, Daten, Informationssicherheit, Datenschutz, Recht, Unternehmensstrategie, Organisation und Change Management aufeinander. Kaum eine einzelne Person kann all diese Bereiche gleichermaßen tief abdecken.
Genau hier liegt für Jürgen Scherer ein wesentlicher Wert des Expertennetzwerks KI-Syndikat . Im Gespräch beschreibt er das Netzwerk als eine Art Resonanzraum: einen fachlichen Raum, in dem unterschiedliche Perspektiven zusammenkommen und eigene Einschätzungen mit anderen Expertinnen und Experten abgeglichen werden können.
➨ Strategie und Use Cases
Welche Ziele soll KI unterstützen und welche Anwendungen besitzen tatsächlich wirtschaftlichen oder organisatorischen Nutzen?
➨ Technik und Engineering
Welche Modelle, Datenarchitekturen, Schnittstellen und Systeme eignen sich für die konkrete Aufgabe?
➨ Datenschutz und Recht
Welche Daten werden verarbeitet? Welche Rollen, Rechtsgrundlagen, Verträge und organisatorischen Anforderungen müssen berücksichtigt werden?
➨ Informations- und Cybersicherheit
Wo befinden sich Daten? Welche Systeme dürfen darauf zugreifen? Wie werden Berechtigungen, Infrastruktur und technische Schutzmaßnahmen gestaltet?
➨ Menschen und Organisation
Welche Kompetenzen werden benötigt? Wie werden Mitarbeitende einbezogen und wie verändert sich der Arbeitsalltag?
Erfahrung, Datenschutz und Infrastruktur zusammendenken
Im letzten Teil des Interviews geht es um die Frage, für welche Themen Jürgen Scherer innerhalb des KI-Syndikats besonders steht.
Seine Perspektive auf KI entsteht dabei aus mehreren fachlichen Linien, die über viele Jahre zusammengewachsen sind: Maschinenbau und Informatik, praktische Digitalisierung, Datenschutz, technische Audits sowie der Betrieb eigener IT- und Serverinfrastrukturen.
Gerade bei KI-Systemen lassen sich diese Bereiche häufig nicht sinnvoll voneinander trennen. Wer beispielsweise einen internen Wissensassistenten entwickelt, muss nicht nur beurteilen, welches Sprachmodell geeignet ist.
Ebenso relevant sind Fragen wie: Wo liegen die Quelldaten? Wer darf darauf zugreifen? Welche Informationen dürfen verarbeitet werden? Wie werden unterschiedliche Berechtigungen abgebildet? Welche Daten verlassen die eigene Infrastruktur? Und wie lässt sich nachvollziehen, auf welcher Grundlage eine Antwort entstanden ist?
Diesen Ansatz verfolgen wir auch im Bereich Digitale Strategie & KI : nicht mit einem vorgegebenen KI-Produkt beginnen, sondern zunächst die Aufgabe, die vorhandenen Daten und die Rahmenbedingungen des Unternehmens verstehen.
Fazit: KI braucht Orientierung vor Automatisierung
Das Gespräch mit Prof. Dr. Daniel Sonnet zeigt vor allem eines: Für mittelständische Unternehmen besteht die wichtigste KI-Entscheidung derzeit nicht darin, möglichst schnell das nächste Werkzeug einzuführen.
Sinnvoller ist ein strukturierter Einstieg. Mitarbeitende brauchen KI-Kompetenz und nachvollziehbare Leitplanken. Unternehmenswissen sollte geordnet und kontrolliert nutzbar gemacht werden. Potenzielle Anwendungsfälle müssen danach beurteilt werden, welchen konkreten Nutzen sie bringen und wie realistisch sie umgesetzt werden können.
Ein überschaubares, erfolgreiches erstes Projekt kann dabei mehr bewirken als eine große KI-Initiative, deren Ziel und Nutzen im Unternehmen noch nicht ausreichend geklärt sind.
Gerade in einem technologischen Umfeld, das sich weiterhin sehr schnell verändert, gewinnt deshalb eine Fähigkeit an Bedeutung, die nicht von der nächsten Modellversion abhängt: digitale Entwicklungen einordnen, ihre Chancen verstehen und ihren Einsatz am tatsächlichen Bedarf eines Unternehmens ausrichten.
Interview & weiterführende Inhalte
KI-Syndikat: Interview mit Jürgen Scherer auf YouTube
KI-Syndikat: Expertennetzwerk für Künstliche Intelligenz
Internetagentur Scherer: Jürgen Scherer – Profil und beruflicher Hintergrund
Internetagentur Scherer: KI-Schulung für kleine und mittelständische Unternehmen
Internetagentur Scherer: RAG und Antwortqualität bei internen KI-Assistenten
Internetagentur Scherer: Praxisbericht – RAG-Assistent mit FastAPI und Qdrant
Hinweis: Das Interview wurde für das KI-Syndikat geführt und auf dessen YouTube-Kanal veröffentlicht. Dieser Beitrag fasst wesentliche Gedanken des Gesprächs redaktionell zusammen und ordnet sie in die praktische Arbeit der Internetagentur Scherer ein. Die im Artikel hervorgehobenen Kernaussagen sind redaktionelle Zusammenfassungen und keine wortwörtliche Transkription des Interviews.
FAQ: KI im Mittelstand und das Interview beim KI-Syndikat
Was ist für Unternehmen ein sinnvoller erster Schritt beim Einsatz von KI?
Ein sinnvoller erster Schritt ist häufig, zunächst KI-Kompetenz im Unternehmen aufzubauen und bestehende Arbeitsabläufe zu betrachten. Erst danach sollte entschieden werden, welcher konkrete Anwendungsfall mit vertretbarem Aufwand einen nachvollziehbaren Nutzen verspricht.
Warum ist KI-Kompetenz für Mitarbeitende wichtig?
Generative KI kann sprachlich überzeugende Antworten erzeugen, ohne dass diese automatisch fachlich richtig sind. Mitarbeitende sollten deshalb Möglichkeiten, Grenzen, Datenschutzrisiken und geeignete Prüfmechanismen kennen. Gemeinsame Leitplanken helfen zusätzlich, einen unkontrollierten Tool-Wildwuchs zu vermeiden.
Was ist ein interner KI-Wissensassistent?
Ein interner KI-Wissensassistent ermöglicht den dialogorientierten Zugriff auf ausgewählte Unternehmensinformationen. Je nach Architektur können beispielsweise Dokumentationen, Richtlinien, Projektwissen oder technische Unterlagen als definierte Wissensbasis genutzt werden. Entscheidend sind dabei Datenqualität, Berechtigungen, Aktualität und eine kontrollierte technische Umsetzung.
Was bedeutet RAG bei einem KI-Wissenssystem?
RAG steht für Retrieval Augmented Generation. Dabei werden zu einer Nutzeranfrage passende Informationen aus einer definierten Wissensbasis gesucht und dem Sprachmodell als zusätzlicher Kontext bereitgestellt. Dadurch kann ein KI-Assistent stärker auf unternehmenseigenes Wissen und konkrete Quellen ausgerichtet werden.
Warum sollte ein Unternehmen nicht sofort mit einem großen KI-Projekt beginnen?
Große Projekte erzeugen nicht automatisch den größten wirtschaftlichen Nutzen. Ein überschaubarer Anwendungsfall mit klarer Zielsetzung, verfügbaren Daten und erkennbarem Nutzen kann schneller Erfahrung schaffen und eine belastbare Grundlage für weitere KI-Projekte bilden.
Welche Rolle spielen Mitarbeitende bei KI-Projekten?
Mitarbeitende kennen die täglichen Abläufe und Probleme ihrer Arbeitsbereiche besonders gut. Werden sie frühzeitig beteiligt, können geeignete Anwendungsfälle besser erkannt werden. Gleichzeitig lassen sich Unsicherheiten reduzieren und notwendige Kompetenzen gezielt aufbauen.
Warum sind Datenschutz und IT-Sicherheit bei KI wichtig?
KI-Anwendungen können auf interne Dokumente, personenbezogene Daten oder vertrauliches Unternehmenswissen zugreifen. Deshalb müssen unter anderem Datenflüsse, Zugriffsrechte, Speicherorte, eingesetzte Dienste und technische Schutzmaßnahmen bereits bei der Konzeption berücksichtigt werden.
Was ist das KI-Syndikat?
Das KI-Syndikat ist ein Expertennetzwerk, in dem unterschiedliche Fachrichtungen rund um den praktischen Einsatz Künstlicher Intelligenz zusammenkommen. Dazu gehören unter anderem Strategie, technische Umsetzung, Daten, Recht, Datenschutz und weitere für KI-Projekte relevante Disziplinen.
Wo kann ich das Interview mit Jürgen Scherer ansehen?
Das vollständige Interview mit Prof. Dr. Daniel Sonnet und Jürgen Scherer wurde auf dem YouTube-Kanal des KI-Syndikats veröffentlicht. Sie können das vollständige Interview direkt auf YouTube ansehen . Weitere Gespräche und Inhalte finden Sie auf dem YouTube-Kanal des KI-Syndikats . Auf dieser Website wird YouTube aus Datenschutzgründen nicht direkt eingebettet.
