Knowledge Base 2.0 mit RAG
Autor
Michael Wolf
Head of Technology
bei SYZYGY Techsolutions
Lesedauer
5 Minuten
Publiziert
13.09.2024
Auch in unserem diesjährigen Camp haben wir uns zusammengefunden, um teamübergreifend mit neuen Technologien zu experimentieren. Das Ziel war, mit Hilfe von Retrieval Augmented Generation (RAG) eine mögliche Zukunft des internen Wissensmanagements bei uns zu gestalten. Mit erstaunlichen Ergebnissen…
Bei SYZYGY Techsolutions nutzen wir zur Bereitstellung von Wissen viele verschiedene Formate und Plattformen. Besonders unser internes Wiki, welches den SYZYGYianer:innen eine Vielzahl von Informationen bereitstellt. Aber auch Microsoft Teams – unsere primären Kommunikationslösung – wird stark zum Teilen von Wissen genutzt. Dazu gesellen sich zahlreiche Dokumente auf Shares, Outlook sowie weitere Wikis oder Intranet-Lösungen z.B. pro Abteilung, Kunde oder Projekt.
Die Aufgabe
Eine zentrale Anlaufstelle mit einer guten Suchfunktion – etwa für Onboarding-Informationen für neue Mitarbeitende – bereitzustellen und immer weiter zu verbessern, ist entscheidend für zielgerichtetes Verteilen von Wissen. Und genau das haben wir uns im SYZYGY Techsolutions Camp 2024 zur Aufgabe gemacht. Die Teilnehmenden sollten Ideen entwickeln, wie der Zugang zu Informationen aus unserem Wiki mit Hilfe von KI weiter verbessert werden kann.
Im Detail haben wir uns auf den Ansatz Retrieval Augmented Generation (RAG) fokussiert und mit Hilfe der Microsoft Azure Cloud Services umgesetzt. Herausgekommen sind „Kepler“, „Siggy“ und „Solara“, aber dazu später mehr.
Im Grünen
Unser Camp fand mit 22 Kolleg:innen aus ganz Deutschland im Collegium Glashütten statt. Mitten im schönen Taunus und bei strahlendem Sonnenschein standen zwei Tage ganz im Zeichen des gemeinsamen Lernens und des Austausches.
Der Veranstaltungsort – inmitten der Natur gelegen – war perfekt für unseren zweitägigen Workshop mit Übernachtung: moderne Zimmer und gut ausgestattete Konferenzräume mit Zugang zum Außenbereich sowie eine All-Inclusive-Verpflegung mit umfassenden Frühstücks-, Mittags- und Abendbuffet ließen kaum Wünsche offen.
Selbst die 34°C im Schatten, die über den Tag die Räumlichkeiten aufheizten und den Teilnehmenden so zu schaffen machte, hatten ihr Gutes. Denn so fand der erste Tag bei einer lauen Sommernacht seinen Ausklang auf der großzügigen Terrasse, inklusive Drinks und lustigen Spielen.
Teamarbeit & Awards
Um fit in den Tag zu starten, begann der erste Tag mit einer kleinen Teamchallenge. Nach einer theoretischen Einführung in RAG und Azure AI Services, startete die Gruppenarbeit. In drei bunt gemischten Gruppen wurde diskutiert, konzipiert und umgesetzt.
Am Nachmittag des zweiten Tages wurden die Ergebnisse in halbstündigen Präsentationen den anderen Gruppen und dem Senior Management vorgestellt.
Das Feedback war durchweg positiv, sowohl Jury als auch alle Teilnehmenden waren von den Konzepten und den umgesetzten Lösungen begeistert.
Schließlich fand das Camp seinen krönenden Abschluss mit der Bewertung und der feierlichen Übergabe der STS Camp Awards.
Die Ergebnisse
Kepler
Die erste Gruppe stellte „Kepler“ vor – ein universelles Plugin für unser Wiki, welches rollensensitiv das darin „vergrabene“ Wissen erschließt – Sprachsteuerung inklusive.
Einige Highlights der Lösung:
- Umsetzung als Plugin in ASP.Net Core und React, um Kepler auf verschiedenen Plattformen, etwa unserem Wiki, auf der Website und in Microsoft Teams zu nutzen.
- Über Usersettings konfigurierbar, um z.B. die Ausgabe-Sprache festzulegen (Multi-Language).
- Personalisierte und rollenbasierte User Experience mit den Rollen External, Internal, HR und Dev, um sowohl die Suche (rollenrelevante Ergebnisse) als auch die Ausgabe (der Rolle angemessene Sprachstile) zu individualisieren
- Voice-To-Text-Feature, um noch natürlicher mit Kepler zu interagieren.
- Konzipierte Auto-Completion-Funktionalität auf Basis von Inhalten und genutzten Prompts aller Nutzer:innen
Solara
Gruppe 2 hatte Solara im Gepäck – die kompetente Alleskönnerin für Teams, die im Alltag der Mitarbeitenden Zeit einspart.
Einige Highlights der Lösung:
- Nutzung des MS Teams Toolkit sowie des Microsoft Teams-UI-Kit (Fluent UI React Components) – für ein nahtlose Integration in Teams.
- Personalisiertes Dashboard für alle Mitarbeitende. Dafür werden aus unserem Verzeichnisdienst per Api zunächst User-Details erfragt (z.B. Rolle, Titel und Abteilung). Diese werden im System-Prompt genutzt, um damit Erscheinungsbild sowie Suchergebnisse weiter zu individualisieren.
- Bereitstellung des Chatverlaufs: einfacher Zugriff auf vergangene Such-Sessions.
- Während des Chats auto-generierte Bookmarks inklusive Notifications, sobald Inhalte dieser Bookmarks sich ändern.
Siggy
Die letzte Gruppe stellte Siggy vor – das freundliche Onboarding-Maskottchen, das neue Mitarbeitende aktiv und kontextabhängig unter die Arme greift.
Einige Highlights der Lösung:
- Ein individueller Onboarding Prozess mit initialer User-Survey, der nach persönlichen Vorlieben bei der Einführung in Prozesse hilft, inklusive individueller Sprache (tone of voice).
- Team-spezifisches Knowledge-Sharing durch unterschiedliche und sehr detaillierte System-Prompts pro Team, Kunde und Projekt.
- Ticker mit wechselnden und ausführbaren Fragen, der den Mitarbeitenden dem aktuellen Einarbeitungsstand entsprechend hilfreiche Informationen liefert. Etwa Unterstützung beim Zeitenbuchen, der VPN-Einrichtung oder HR-Prozessen.
- Zusätzliche Anzeige wissenswerter Links entsprechend des Userkontextes.
- Implementierung als Microsoft Teams Tab mit Hilfe des MS Teams Toolkit
Fazit
Das SYZYGY Techsolutions Camp 2024 war ein voller Erfolg. Die Teilnehmenden haben sich der Aufgabe, unser internes Wiki mit Hilfe von KI und RAG zu verbessern, erfolgreich gestellt.
Wir waren von vornherein überzeugt, dass das Suchen nach (internen) Informationen mit Hilfe von RAG und aktuellen Sprachmodellen vielversprechend sei (siehe auch: Wir RAGgen jetzt). Die verhältnismäßig einfache Umsetzung von RAG und vor allem die Menge an möglichen neuen Ideen für unsere interne Knowledge Base, hat uns dann aber doch überrascht.
Die Kolleg:innen haben in Gruppenarbeit drei erstaunliche Ideen erarbeitet und innerhalb kürzester Zeit lauffähige Proof of Concepts umgesetzt. Kepler, Siggy und Solara und deren Features haben durchaus das Potential, sich zukünftig bei uns wiederzufinden.
Head of Technology