Ist die folgende Zeichnung für dich vielleicht etwas zu technisch? Kein Problem! Als IT-Architekt ist es meine Pflicht, eine klare Übersicht darüber zu geben, wie die Dinge funktionieren. Einige von euch werden das sicher zu schätzen wissen. Nicht dabei? Dann schau dir den nächsten Abschnitt an, in dem ich erkläre, wie das multi-model Konzept funktioniert und wie du dein eigenes Team aus KI-Modellen zusammenstellen kannst.

Die Authentifizierung für BizEye erfolgt über Azure Entra ID. Das bedeutet, dass nur Benutzer, die in Ihrer Organisation bekannt sind, Zugriff auf BizEye erhalten können. Eine weitere Konfiguration innerhalb von Azure kann dies, falls gewünscht, noch detaillierter steuern. Der Administrator legt fest, welche Rollen in BizEye eingerichtet werden und welcher Benutzer welche Rolle erhält. Eine Rolle verfügt über eine Reihe von zugewiesenen Rechten oder Privilegien. Diese Rechte bestimmen den Zugriff auf die verschiedenen Funktionen der Anwendung. Der Administrator ist die Person, die für die Konfiguration des Speicherbereichs verantwortlich ist. Speicherbereich bezieht sich auf eine externe Quelle, in der Daten gespeichert sind und über BizEye abgerufen werden. Dies kann sich sowohl auf strukturierte Daten in einer Datenbank als auch auf unstrukturierte Daten aus einer Sammlung von Dokumenten beziehen. Durch die eingerichteten Rollen kann festgelegt werden, wer auf welchen Speicherbereich zugreifen darf. Wenn es sich um strukturierte Daten handelt, kann der Zugriff bis auf die Entitätsebene und sogar bis auf die Feldebene konfiguriert werden. Dies ermöglicht eine äußerst flexible Art, Ihre Daten in BizEye allgemein verfügbar zu machen, während sie dennoch nur für Benutzer mit der entsprechenden Rolle zugänglich sind.

Der Administrator hat die Möglichkeit, mehrere Verbindungen in BizEye zu konfigurieren. Dadurch kann BizEye mit einem externen Dienst kommunizieren. Diese Verbindungen werden dann verwendet, um Speicherbereiche einzurichten. Durch die Trennung dieser beiden Konzepte kann eine einzige Verbindung von mehreren Speicherbereichen genutzt werden, wobei die Rollenverteilung sicherstellt, dass einige Rollen Zugriff haben, während andere dies nicht tun. Dies bietet große Flexibilität bei minimalem Aufwand.

Die Liste der Verbindungen wächst ständig. Unten finden Sie eine Übersicht über die derzeit verfügbaren Verbindungen:

KI-Verbindungen Diese Art von Verbindung bildet die Grundlage für das ordnungsgemäße Funktionieren von BizEye. Eine OpenAI-Verbindung erfordert ein Abonnement bei OpenAI, während Azure OpenAI ein Abonnement bei Microsoft erfordert. OpenAI beschränkt Sie auf Modelle der bekannten ChatGPT-Familie, während Azure OpenAI Zugang zu einer langen Liste verfügbarer KI-Modelle bietet, einschließlich OpenAI-Modelle. Falls ein Modell als Open-Source verfügbar ist, besteht eine hohe Wahrscheinlichkeit, dass es über Azure OpenAI in Kombination mit Azure AI Foundry angeboten wird. Schauen Sie sich gerne den Modellkatalog auf der Microsoft-Website an. Ein weiterer großer Unterschied zwischen OpenAI und Azure OpenAI ist das Preismodell. Ersteres verlangt eine feste monatliche Gebühr, während Microsoft nutzungsbasiert abrechnet. Eine hybride Architektur, bei der du deine eigenen KI-Modelle einfügst, ist ebenfalls möglich. BizEye benötigt die folgenden Arten von KI-Verbindungen, um ordnungsgemäß zu funktionieren:
Semantischer Speicher KI-basierter semantischer Speicher bezieht sich auf die Fähigkeit, Wissen so zu speichern und abzurufen, dass es die Bedeutung von Wörtern, Sätzen oder Dokumenten versteht. Anstatt sich an exakte Wörter zu erinnern, versteht die KI die Beziehungen zwischen Konzepten, sodass sie relevante Informationen finden kann, selbst wenn andere Worte verwendet werden. Dies geschieht mit Embeddings, die Text in numerische Repräsentationen umwandeln, die die Bedeutung erfassen. BizEye benötigt mindestens eine der folgenden Arten von semantischen Speicherverbindungen, um ordnungsgemäß zu funktionieren:
Entitätsspeicher Entitätsspeicher bezeichnet die Fähigkeit, strukturierte Daten über bestimmte Entitäten, wie Kunden, Produkte oder Mitarbeiter, zu speichern und abzurufen. Jede Entität hat definierte Felder (z.B. Name, ID, Erstellungsdatum) und Beziehungen zu anderen Entitäten (Bestellungen werden von einem Kunden aufgegeben, Songs gehören zu einem Album), die eine organisierte und effiziente Datenverwaltung ermöglichen. Derzeit unterstützt der Zugriff auf Entity Memory verschiedene Datenlösungen: Sicherheitsüberlegungen sind von größter Bedeutung beim Zugriff auf Entitätsspeicher. Das Schema jedes Speichers wird separat innerhalb von BizEye gespeichert, sodass Administratoren den Zugriff auf bestimmte Entitäten, Felder und sogar Datenzeilen fein steuern können. Dies gewährleistet die Sicherheit und Vertraulichkeit der Daten auf der granularsten Ebene. In Kombination mit den Funktionen des Excel-Plugins werden die Optionen unbegrenzt.
Andere Darüber hinaus gibt es noch mehrere andere Verbindungstypen. Genau wie beim Entitätsgedächtnis bestimmen sie, ob bestimmte Plugins verwendet werden können oder nicht. Nur Document Storage ist erforderlich, damit BizEye ordnungsgemäß funktioniert:

Der Administrator hat die Möglichkeit, mehrere KI-Modelle in BizEye zu konfigurieren. Sobald mehrere Modelle in BizEye vorhanden sind, beginnen sie, ein Team zu bilden. Deine Chat-Sitzung beginnt mit einem KI-Modell, das vom Administrator festgelegt wurde. Wenn dieses KI-Modell erkennt, dass bestimmte Aufgaben besser von seinen Teammitgliedern übernommen werden können, wird es autonom Rat bei seinem Team einholen und alles koordinieren. Dies geschieht alles im Hintergrund, ohne dass du etwas Besonderes tun musst! Einige Modelle sind gut im logischen Denken, können aber beispielsweise keine Internetrecherchen durchführen. Ein anderes Modell kann das wiederum, ist aber nicht in der Lage, Bilder zu generieren. Aber keine Sorge, dafür gibt es ein weiteres KI-Modell. Alle diese Modelle arbeiten zusammen, damit du die Antwort auf deine Frage genau so erhältst, wie du es möchtest. Hier liegt die wahre Stärke von BizEye. Je intelligenter die KI-Modelle werden, desto mehr wird auch BizEye davon profitieren!

Nur eine Wiederholung dessen, was oben steht. BizEye kommt mit einem ganzen Arsenal an Plugins. Zusammen mit dem Team aus KI-Modellen können Sie agentische KI erreichen – aber auf eine Weise, die Sie vollständig kontrollieren. Es gibt Plugins, um Daten schnell in Excel verfügbar zu machen (ohne Ihre Umgebung zu verlassen), Plugins zur Automatisierung sich wiederholender Aufgaben in Excel, Plugins, die Ihre Lösung mit der Nutzung intelligenter machen, Plugins zur Umwandlung von Audio in Text (denken Sie an Diktate), Plugins zur Websuche und sogar Plugins, die Ihnen ermöglichen, mit Ihrem eigenen Dateisystem auf Ihrem PC oder Laptop zu interagieren.

Die Liste der Plugins wächst stetig. Nachfolgend finden Sie eine Übersicht der derzeit verfügbaren Plugins:

Assistant knowledge Dieses Plugin ermöglicht es dem Assistenten, allgemeines Wissen zu speichern, das für zukünftige Interaktionen nützlich sein kann. Es ist für allgemeine, wiederverwendbare Informationen gedacht und nicht für benutzerspezifische Details. Administratoren können Speicherorte verwalten, aber Benutzer und gespeicherte Daten können entfernt werden, weshalb es wichtig ist, gespeichertes Wissen effektiv zu strukturieren.

Memory store knowledge Ein memory store (Speicherort) ist eine spezialisierte Funktion innerhalb der Anwendung, die das Wissen des Assistenten erweitert. Administratoren können Speicherorte konfigurieren, um domainspezifische, unternehmensspezifische oder themenbezogene Informationen bereitzustellen. Diese Funktion hilft dem Assistenten, relevantes Wissen über verschiedene Speicherorte zu behalten und zwischen allgemeinen, benutzerspezifischen oder speicherortbezogenen Informationen zu unterscheiden. Es kann beispielsweise verwendet werden, um bestimmte Konzepte oder Begriffe zur Wiederverwendbarkeit zu speichern.

User knowledge Dieses Plugin wird verwendet, um Details über einzelne Benutzer zu speichern, wie ihre Vorlieben, Hintergründe oder andere relevante Informationen. Wenn ein Benutzer darum bittet, dass bestimmte Informationen für zukünftige Interaktionen gespeichert werden, sorgt diese Funktion dafür, dass seine Anfrage erfüllt wird. Dies verleiht BizEye eine persönliche Note für Benutzer, die mit ihm interagieren.

Embedding memory Dieses Plugin bietet Zugriff auf einen semantischen Speicherort, der unstrukturierte Daten enthält. Es ermöglicht abfrageerweiterte Szenarien, bei denen Benutzerabfragen Suchen innerhalb gespeicherter Informationen auslösen, um Antworten mit relevanten Details zu verbessern. Außerdem werden alle Chat-Sitzungen aller Benutzer eingebettet und sind nur für diese Benutzer zugänglich. Dies verbessert die persönliche Note für Benutzer, da der Assistent in der Lage ist, frühere Chat-Sitzungen zu merken.

Entity memory Dieses Plugin gewährt Zugriff auf einen strukturierten Speicherort, der organisierte Daten wie Tabellen, Felder und Beziehungen enthält. Im Gegensatz zur unstrukturierten Speicherabfrage ermöglicht dieses Plugin strukturierte Abfragen ähnlich wie SQL und ermöglicht eine präzise Datenabfrage. Eine Erweiterung dieses Plugins ermöglicht es BizEye, semantische Beziehungen zwischen Entitäten zu erstellen. Selbst wenn Ihre strukturierten Daten auf Schemaebene nicht relational sind, kann dies durch Bereitstellung der richtigen Metadaten in der Speicherortkonfiguration erzwungen werden.

DevOps Dieses Plugin integriert sich mit einer Azure DevOps-Instanz und bietet Zugriff auf Arbeitselemente, Sprints und andere Projektmanagement-Daten. Es ermöglicht das automatische Abrufen relevanter DevOps-Informationen durch API-Aufrufe.

Buddy service Dieses Plugin erleichtert die Zusammenarbeit, indem es sich mit einem Buddy-Service verbindet, der bei bestimmten Aufgaben oder Prozessen hilft. Dies ist das, was im oben genannten Multi-Model-Konzept besprochen wurde und es ermöglicht, ein ganzes "Team von Buddies" zu erstellen, die zusammenarbeiten können, um eine Frage zu beantworten.

Excel Dieses Plugin bietet Funktionen zur Interaktion mit Excel-Dateien und nutzt die ClosedXML-Bibliothek, um verschiedene Operationen durchzuführen. Zusammen mit dem Entitätsgedächtnis-Plugin ermöglicht es Ihnen, Self-Service-BI für Ihre strukturierten Datensätze durchzuführen, ohne dass Power-BI-Berichte darauf basieren müssen. Und das Beste daran ist, dass keine Daten in irgendeiner Form an das KI-Modell weitergegeben werden, sodass keine Datenübertragung stattfindet und es keinerlei Risiken für Datenverletzungen gibt.

Google search Dieses Plugin ermöglicht Internet-Suchen mit Google Custom Search, um Informationen aus Online-Quellen abzurufen. So können Sie auf Echtzeitdaten aus jeder Quelle zugreifen, die im Internet verfügbar ist.

Chat automation Dieses Plugin ist darauf ausgelegt, die Handhabung von Eingabeaufforderungen in Chat-Automatisierungsszenarien zu automatisieren. Es wird normalerweise mit einer Reihe von Anweisungen verwendet, die dem Assistenten bereitgestellt werden. Ziel ist es, einen strukturierten Frage- und Antwortprozess zu erleichtern, wobei sichergestellt wird, dass jede Anweisung ordnungsgemäß behandelt wird, bevor zur nächsten übergegangen wird. Dies überwindet Szenarien, in denen eine große Menge an Daten verarbeitet werden muss, was andernfalls zu dem sogenannten Kontextgedächtnis-Problem führen könnte, bei dem ein KI-Modell nur eine begrenzte Menge an Informationen auf einmal verarbeiten kann. Wenn ein Benutzer eine Automatisierung für eine Aufgabe anfordert, wird dieses Plugin verwendet.

Audio transcription Dieses Plugin bietet die Möglichkeit, Audiodateien in Text umzuwandeln. Unterstützte Formate sind WAV, MP3, OPUS/OGG, FLAC, WMA, AAC, ALAW, MULAW, AMR, WebM, M4A und SPEEX.

Local file system Dieses Plugin ermöglicht die Interaktion mit dem lokalen Dateisystem des Benutzers. Es funktioniert über ein asynchrones Nachrichtensystem zwischen der Anwendung und einem lokal laufenden Agenten. Es bietet die Möglichkeit, Verzeichnisse und Dateien zu lesen und zu erstellen, die auf dem PC oder Laptop des Benutzers gespeichert sind. In Kombination mit anderen Standardfunktionen eines KI-Modells oder eines bereitgestellten Plugins sind keine Grenzen gesetzt.

Brauchen Sie ein Plugin, das nicht in der Liste steht? Lassen Sie es uns wissen!

Nachfolgend finden Sie eine Übersicht über BizEye, ausschließlich aus technischer Perspektive, mit dem Fokus auf die minimal erforderlichen Komponenten. Diese Komponenten wurden sorgfältig ausgewählt, um BizEye so kosteneffizient wie möglich zu gestalten—ohne auf Funktionalität oder Leistung zu verzichten. Alles läuft innerhalb Ihres eigenen Azure-Mandanten, und abgesehen von der BizEye-Webanwendung selbst, wird nichts nach außen hin offengelegt. Dies gewährleistet maximale Funktionalität bei minimalem Aufwand und sorgt gleichzeitig für höchste Sicherheit.

Kernkomponenten: