Seitdem der Hype um ChatGPT im November 2022 ausgebrochen ist, sprießen diverse KI-Tools aus dem Boden. Und Künstliche Intelligenz bietet diverse Anwendungsfälle, um sie sinnvoll in unternehmensinterne Prozesse zu integrieren. Doch wie kombiniert man internes Know-How idealerweise mit der modernen Technologie? Genau das erklärt dieser Artikel.
Inhaltsverzeichnis
Die alte vs. Die neue IT-Landschaft
Als Unternehmen vor mehreren Jahren mit „Digitalisierung“ anfingen, bedeutete das meist: Ich habe Outlook für E-Mails und Laufwerke für Dokumente. Über den Lauf der Zeit kamen immer mehr Systeme (z. B. Intranets, DMS-Systeme, ERP’s, Collaborationstools, etc.) hinzu. Hinzukam der Wechsel von der On Premise Welt in die Onlinewelt – die digitale Transformation in die Cloud ist in vielen Unternehmen im vollen Gange. Nichtsdestotrotz: IT-Infrastrukturen bleiben heutzutage sehr zersplittert, bestehen aus diversen Systemen und sind meistens hybrid – sowohl On Premise als auch in der Cloud – aufgebaut.
Das das Zusammenfassen aller Systeme in ein System – zum Beispiel Microsoft 365 – ab einer gewissen Größe eher Wunschdenken als eine wirklich umsetzbare Option ist, ist den meisten Unternehmen mittlerweile auch klar. Dennoch spricht jeder über Künstliche Intelligenz und das Potenzial, welches in dieser Technologie für Unternehmen liegt.
Die meisten KI-Lösungen werden als Cloudlösung angeboten und für fast alle Unternehmen ergibt ein Deployment in dieser Form auch Sinn. Die benötigten Hardwarekosten für den Betrieb von Large Language Modellen in On Premise Systeme sind einfach zu hoch und machen jeden Business Case zu nichte. Da man bei KI-Systemen mittlerweile viel über KI-Agenten, KI-Assistenten oder auch Copiloten spricht, befassen wir uns im Rahmen dieses Blogartikels vor allen Dingen mit der Integration dieser Lösungen in die IT-Landschaft.
Integration von KI in bestehende IT-Systeme
Grundsätzlich gibt es fünf relevante Arten, über die man KI mit internen Systemen kombinieren kann:
- Bereitstellung von Chatbots
- Integrierte Lösungen
- Eigene KI-Modelle
- KI-Assistenten
- KI-Agenten
Diese wurden im Detail bereits in diesem Blogartikel erläutert. Doch gerade wenn es um die Kombination von KI mit den bestehenden IT-Systemen geht, müssen konkrete Verbindungen zu den eigenen Systemen geschaffen werden, so dass die gewünschten Prozesse durchgeführt werden können.
Dabei gilt es, bestimmte Sicherheitsstandards zu beachten: DSGVO-konformität, AI-Act und Zugriffsrechte sind nur einige der bestehenden Anforderungen, die berücksichtigt werden müssen.
Neben den IT-Sicherheitsaspekten gilt es jedoch auch, die technischen Rahmenbedingen zu berücksichtigen. So müssen Informationen, damit sie von einem large Language Modell verarbeitbar sind, zunächst vektorisiert werden. Das heißt, sie werden in ein Format gebracht, so dass ein KI-Modell mit ihnen arbeiten kann. Dieser Prozess findet sowohl als „Vorverarbeitung“ als auch im Suchprozess selbst statt. Die Vektorisierung ist auch der Grund, warum der Einsatz von KI so ressourcenintensiv ist – aber auch, warum die Qualität deutlich besser gegenüber herkömmlichen Mechanismen ist.
Enterprise Search als Grundlage für KI-Prozesse
Unter Berücksichtigung der im vorherigen Abschnitt genannten Einschränkungen erfüllt eine Enterprise Search all diese Herausforderungen. Eine Enterprise Search ist eine unternehmensinterne Suchmaschine, die interne Informationen schnell und einfach zugänglich machen. Moderne Enterprise Search Lösungen wie amberSearch basieren dabei auf Large Language Modellen und vektorisieren die Daten. Enterprise Search Lösungen sind so konzipiert, dass sie die Anforderungen an die Berücksichtigung bestehender Zugriffsrechten, IT-Security und DSGVO erfüllen.
Damit jeder amberSearch einmal ausprobieren kann, haben wir in unserer Onlinedemo eine mittlere sechsstellige Anzahl an Dokumenten auf über 10 Systeme verteilt:
Damit eine Enterprise Search Informationen in Sekundenbruchteilen verarbeiten kann, verarbeitet sie die Daten vor und baut den benötigten Index auf. Früher wurde dies in Form von Worten gemacht (Schlagwortsuche), mittlerweile werden die Daten vektorisiert. Wichtig: der Index muss kontinuierlich aktuell gehalten werden.
Ein Anwendungsfall wäre zum Beispiel, dass entweder Nutzer oder Systeme (dann automatisiert) Anfragen an die Enterprise Search zur Beantwortung von Fragestellungen in bestimmten Prozessen stellen. Ein anderer KI-Anwendungsfall sind Retrieval Augmented Generation (RAG) Systeme, die die Basis für die KI-Systeme vieler Unternehmen sind.
KI-Assistenten, KI-Agenten & Multiagentensysteme
Ein RAG-System bildet ein Chatsystem ab und fällt somit in die Kategorie KI-Assistent. Darauf aufbauend können jedoch auch autonome KI-Agenten – also Systeme, die selbstständig Entscheidungen treffen und umsetzen – entwickelt und integriert werden. Die Daten sind ja bereits in vektorisierter Form vorhanden und können über die Enterprise Search nutzbar gemacht werden. Eine weitere Ausbaustufe zu KI-Agenten sind Multiagentensysteme, in denen mehrere KI-Agenten miteinander arbeiten und interagieren müssen, um gewisse Ziele zu erreichen.
Du möchtest Wissen, wie man Künstliche Intelligenz erfolgreich im Unternehmen einführt? Dann lies dir jetzt unser White Paper „So geht eine erfolgreiche Einführung von generativer KI“ mit allen relevanten Insights kostenlos durch. Du kannst den ganzen Report hier kostenlos herunterladen:
Ohne internes Wissen sind KI-Systeme nichts wert
Groß war der Hype, als ChatGPT veröffentlicht wurde. Keiner müsse mehr Texte schreiben, dies würde alles von der KI übernommen werden. Doch schnell stellt sich heraus: Durch KI generierte Texte sind schnell nur 0815 blabla, wenn der Kontext und Insights aus der alltäglichen Arbeit fehlen. Auch können z. B. Agentensysteme nur sehr schlecht Entscheidungen treffen, wenn sie keine umfängliche Informationsgrundlage zum Entscheiden haben.
Daher hilft es Unternehmen nicht, wenn sie zwar in die modernen KI-Systeme investieren, aber nicht die Möglichkeit haben, diese mit dem notwendigen internen Know-How zu füttern. Klar kann man für kleinere Anwendungsfälle mal eben selbst einen Konnektor zu bestimmten Systemen entwickeln, aber diese müssen gepflegt und weiterentwickelt werden. Wer es also ernst meint und langfristig die Mehrwerte von KI im Unternehmen heben möchte, der startet mit einer Enterprise Search als Grundlage. Diese stellt nämlich sicher, dass bestehende technische Anforderungen sowie regulatorische Anforderungen erfüllt werden und berücksichtigt das gesamte Unternehmenswissen und nicht nur bestimmte Bereiche. Somit ist eine Enterprise Search die Grundlage für jede nachhaltige und größere Implementierung von KI-Anwendungsfällen in Unternehmen.
Du findest unseren Content spannend?
Dann bleib jetzt über unseren Newsletter mit uns in Kontakt: