Generative KI Suche (im Englischen Generative AI Search) ist eine Softwarekategorie, welche aus einer Kombination der Disziplinen Suche und generativer KI kombiniert. Generative KI Suche wird entweder auf Daten im Internet oder auf unternehmensinternen Daten angewendet – dann jedoch in Kombination mit einer Enterprise Search und generativer KI.
Die Datenmengen wachsen immer schneller und das meist verteilt über verschiedene Systeme. Es wird für Nutzer also immer schwieriger, die richtigen Informationen zu finden. Genau hier hilft die Kombination von generativer KI und einer intelligenten Suche.
Eine intelligente Suche als Grundlage
Im Jahr 2017 gab es einen Durchbruch in der KI-Forschung. Sogenannte Transformermodelle waren in der Lage, große Mengen an Daten auf semantischer Basis schnell und effizient zu durchsuchen. Wo früher vor allen Dingen auf keywordbasierte Suchalgorithmen – unterstützt durch NLP-basierte Funktionen – Stand der Technik war, ist es nun möglich, basierend auf der semantischen Bedeutung der Inhalte Informationen zu bewerten. Klingt relativ technisch und daher haben wir in diesem Blogartikel weiterführende Details über verschiedene Suchtechnologien veröffentlicht.
Diese intelligenten Suchen basieren auf Large Language Modellen, die auf das Retrieval, also die Bewertung von Informationen anhand von Ähnlichkeiten, spezialisiert sind. Um eine schnelle und performante Suche zu ermöglichen, wird zunächst ein Index aufgebaut, über den einerseits Zugriffsrechte, andererseits Informationen wie sich verändernde Inhalte und verschiedene Dateiformate abgebildet werden müssen.
Stellt ein Nutzer eine Frage, dann sucht das Retrieval Modell selbstständig nach passenden Treffern und listet diese auf – wie man es von z. B. Websuchmaschinen kennt. Setzt man eine solche Logik/Technik im Unternehmen ein, dann spricht man von einer sogenannten Enterprise Search.
Generative KI als personalisierte Erweiterung der Suche
Nun gab es in den letzten Jahren wenige Technologien, die eine so große Welle wie generative KI ausgelöst haben. Schon Öfters wurde ein Ende der Dominanz von Google hervorgesagt und im Moment gibt es keine ernsthaften Anzeichen für eine Wechsel des Platzhirsches. Was jedoch auffällt: Auch Google arbeitet mit großem Aufwand an der Integration von generativer KI in der Suche. Eine generative KI ermöglicht nämlich die Beantwortung einer Frage als Fließtext und nicht nur auf eine Ergebnisliste. Dies ermöglicht deutlich personalisiertere Ergebnisse und erhöht die Nutzerfreundlichkeit, in dem es zum Beispiel die Möglichkeit gibt, Nachfragen zu stellen oder Fragen zu präzisieren.
Die Verschmelzung von Suche und generativer KI
Um die Suche und generative KI zu kombinieren, setzt man üblicherweise auf ein Retrieval Augmented Generation (RAG) System. So funktioniert ein RAG-System:
- Retrieval – Stellt ein Nutzer eine Anfrage, dann wird zunächst eine Suche im zuvor aufgebauten Index nach semantisch relevanten Inhalten gemacht. Die Ergebnisse werden – sortiert nach Relevanz – aufgelistet.
- Augmentation – Die passenden Ergebnisse werden an eine generative KI übergeben. Im Grunde genommen sieht der Prompt folgendermaßen aus: „Der Nutzer hat folgende Frage „X?“ gestellt. Dies sind Ergebnis 1, 2, 3, … . Nutze die Ergebnisse, um eine Antwort auf die Frage zu formulieren.
- Generation – Die generative KI nutzt nun die Ergebnisse sowie Informationen aus dem Prompt, um die Frage zu beantworten.
Die Verschmelzung dieser beiden Techniken wird besonders nachhaltig, wenn diese Technik gut in bestehende Systeme – bspw. dem Internet oder IT-Infrastrukturen integriert ist.
Beispiel von amberSearch für eine generative KI Suche. Links wird die Suche gezeigt, rechts die personalisierte und generierte Antwort.
Anwendungsbereiche von generative KI Suche
Die Hauptanwendungsbereiche der generative KI Suche spielen sich einerseits im Internet ab, andererseits beim Einsatz mit internen Daten.
Generative KI Suche im Internet: Potenziale und Herausforderungen
Im Internet gibt es viele Challenger für Google wie Bing Chat, you.com oder Perplexity, die zurzeit versuchen, die Websuche zu revolutionieren. Die Nutzererfahrung ist unbestreitbar höher und zeigt eine deutlich bessere Nutzbarkeit.
Zu den Herausforderungen dieser Anbieter gehört allerdings auch, dass traditionelle Geschäftsmodelle, wie bspw. das Schalten von Ergebnissen bei KI-generierten Antworten deutlich schwerer ist als bei dem Aufzeigen einer Liste mit Suchergebnissen. Eine weitere Herausforderung für die Challenger ist, dass Nutzer an Anbieter wie Google gewöhnt sind und Google durch diverse kostenlose Dienste eine sehr gute Integration in den Nutzeralltag hat.
Unternehmensinterne Daten und generative KI Suche
Der zweite große Anwendungsfall von generative KI Suche ist die Kombination mit internen Daten. Schließlich wird das Management des internen Know-Hows immer schwieriger, da sowohl die Datenmengen als auch die Anzahl der Datensilos in Unternehmen massiv steigen.
Für eine generative KI Suche im Unternehmen gibt es diverse Anwendungsfälle. So hat unser Kunde Zentis bspw. unsere generative KI Suche eingesetzt, um das Know-How welches sich über Jahre in verschiedenen Sprachen und an verschiedenen Standorten gesammelt hat, schnell und einfach zugänglich zu machen.
Die ENTECCOgroup nutzt eine generative KI Suche, um das unterschiedlich strukturierte Know-How nach einer Fusionierung für die neuen Mitarbeitenden schnell und einfach zugänglich zu machen. Die ENTECCOgroup hat in einem gemeinsamen Webinar von den Mehrwerten der generative AI-Search und der Zusammenarbeit gesprochen. Falls du mehr erfahren möchtest, dann erhalte jetzt kostenlosen Zugriff auf das Webinar:
Und die DB Regio nutzt zum Beispiel eine generative KI Suche, um die Fragen von Kunden im Kundenservice schneller zu beantworten.
Und falls du ein solches System einmal in Action sehen willst, dann wirf gerne einen Blick in unser Video zu dem Thema:
Die Vorteile des Einsatzes eine generativen KI und Enterprise Search sind klar:
Das vorhandene Know-How kann deutlich besser und effizienter genutzt werden. Somit ist generative KI Suche auch eine mögliche Lösung im KI-basierten Wissensmanagement.
Damit jeder eine generative KI Suche einmal ausprobieren kann, haben wir in unserer Onlinedemo eine mittlere sechsstellige Anzahl an Dokumenten auf über 10 Systeme verteilt:
Sicherheits- und Datenschutzaspekte bei Generative KI Suche
Eine der wichtigsten Fragen beim Einsatz einer generative KI Suche ist die Sicherstellung, das Know-How nicht verloren geht und bestehende Gesetze und Sicherheitsrichtlinien berücksichtigt werden.
Bei amberSearch haben wir daher diverse Sicherheitsmaßnahmen eingeführt, um die Berücksichtigung dieser Herausforderungen zu berücksichtigen. Gerne beantworten wir Fragen hierzu persönlich: