Vind je onderstaande tekening misschien wat té technisch? Geen probleem! Als IT-architect is het mijn plicht om een goed overzicht te geven van hoe dingen werken. Sommigen van jullie zullen dit zeker kunnen smaken. Hoor jij hier niet bij? Neem dan een kijkje in het volgende gedeelte waar ik uitleg hoe het multi-model concept in mekaar zit en hoe je zelf je eigen team van AI-modellen kan samenstellen.

Authenticatie voor BizEye gebeurt via Azure Entra ID. Dit betekent dat enkel gebruikers die gekend zijn in jouw organisatie toegang kunnen krijgen tot BizEye. Verdere configuratie binnen Azure kan dit op een nog meer granulaire manier regelen, indien gewenst. De Administrator bepaalt welke rollen in BizEye worden ingericht en welke gebruiker welke rol krijgt. Een rol heeft een set van toegewezen rechten, of privileges. Deze rechten bepalen de toegang tot de verschillende functionaliteiten van de toepassing. De Administrator is de persoon die de configuratie van geheugenopslag voor zijn of haar rekening neemt. Geheugenopslag verwijst naar een externe bron waar gegevens zijn opgeslagen en waar via BizEye toegang toe wordt gegeven. Dit kan gaan over gestructureerde gegevens in een databank, of ongestructureerde gegevens uit een set van documenten. Via de ingerichte rollen kan worden bepaald wie toegang heeft tot welke geheugenopslag. Als het hierbij gaat over gestructureerde gegevens, dan kan dit worden ingesteld tot op entiteitsniveau en zelfs tot op veldniveau. Dit leidt tot een zeer flexibele manier om je gegevens algemeen beschikbaar te maken in BizEye en toch te beveiligen zodat ze enkel benaderbaar zijn door personen met de juiste rol.

Een Administrator heeft de mogelijkheid om meerdere verdindingen te configureren in BizEye. Hierdoor stelt hij of zij BizEye in staat om te communiceren met een externe dienst. Vervolgens worden deze verbindingen gebruikt bij het inrichten van memory stores. Door het loskoppelen van deze 2 concepten kan 1 verbinding worden gebruikt door meerdere memory stores, waarbij het toekennen van rollen ervoor zorgt dat de ene rol dingen wel kan zien en andere niet. Hierdoor ontstaat er een enorme flexibiliteit met een minimale inspanning.

De lijst van verbindingen wordt steeds langer. Hieronder een overzicht van de verbindingen die momenteel beschikbaar zijn:

AI-verbindingen Dit type verbinding legt de basis voor de goede werking van BizEye. Een OpenAI verbinding vergt een abonnement bij OpenAI, daar waar Azure OpenAI een abonnement bij Microsoft vereist. OpenAI beperkt je tot de modellen uit de gekende ChatGPT-familie, daar waar Azure OpenAI het voordeel biedt dat er geput kan worden uit een lange lijst van beschikbare AI-modellen, inclusief de modellen van OpenAI. Als je weet dat een model beschikbaar is via open source, dan is de kans heel groot dat het wordt aangeboden via Azure OpenAI in combinatie met Azure AI Foundry. Neem gerust een kijkje in de model catalog op de website van Microsoft. Een ander groot verschil tussen OpenAI and Azure OpenAI is het kostenmodel. Bij de eerste is dat een vast bedrag per maand, terwijl je bij Microsoft betaalt voor wat je gebruikt. Ook een hybride architectuur, waarbij je zelf je eigen AI-modellen inplugt, is mogelijk. BizEye heeft volgende types van AI-verbindingen nodig om goed te kunnen functioneren:
Semantisch geheugen Semantisch geheugen verwijst naar het vermogen om kennis op te slaan en op te halen op een manier die de betekenis van woorden, zinnen of documenten begrijpt. In plaats van exacte woorden te onthouden, begrijpt de AI de relaties tussen concepten, waardoor het relevante informatie kan vinden, zelfs als andere woorden worden gebruikt. Dit gebeurt met embeddings, die tekst omzetten in numerieke representaties die betekenis vastleggen. BizEye heeft volgende types van semantisch geheugen verbindingen, waarvan er minstens 1 nodig is om goed te kunnen functioneren:
Entiteitgeheugen Entiteitgeheugen verwijst naar het vermogen om gestructureerde gegevens over specifieke entiteiten, zoals klanten, producten of werknemers, op te slaan en op te halen. Elke entiteit heeft gedefinieerde velden (bijv. naam, ID, datum van aanmaak) en relaties met andere entiteiten (bestellingen worden geplaatst door een klant, nummers behoren tot een album) die een georganiseerde en efficiënte gegevensbeheer mogelijk maken. Momenteel ondersteunt entity memory toegang verschillende data-opslagoplossingen: Beveiligingsoverwegingen zijn van groot belang bij het benaderen van Entiteitgeheugen. Het schema van elke geheugenopslag wordt afzonderlijk binnen BizEye opgeslagen, waardoor beheerders de mogelijkheid hebben om nauwkeurig toegang tot specifieke entiteiten, velden en zelfs rijen gegevens te regelen. Dit zorgt voor gegevensbeveiliging en vertrouwelijkheid op het meest gedetailleerde niveau. In combinatie met de functionaliteiten van de Excel-plugin worden de mogelijkheden onbeperkt.

Overige Hiernaast zijn er nog een aantal andere verbindingstypes. Net zoals voor entiteitsgeheugen bepalen zij of bepaalde plugins gebruikt kunnen worden of niet. Enkel Document Storage is verplicht voor een goede werking van BizEye:

De Administrator heeft de mogelijkheid om meerdere AI-modellen te configureren in BizEye. Van zodra er meerdere modellen aanwezig zijn in BizEye beginnen deze samen een team te vormen. Je chat sessie begint met een AI-model dat is ingesteld door de Administrator. Als dit AI-model vaststelt dat sommige dingen beter door zijn teamleden kunnen worden opgepikt, dan zal het autonoom raad vragen aan de rest van zijn team en de boel coördineren. Dit gebeurt allemaal onder de motorkap zonder dat jij hier iets speciaal voor hoeft te doen! Zo zijn er modellen die goed zijn in redeneren, maar bv. weer niets op het internet kunnen opzoeken. Een ander model kan dat dan weer wel, maar kan geen plaatjes genereren. Maar geen nood, hiervoor is dan weer een ander AI-model. Al deze modellen zorgen er samen voor dat jij het antwoord krijgt op jouw vraag en op de manier dat jij dat wil. Hierin schuilt ook de echte kracht van BizEye. Naarmate de AI-modellen steeds slimmer worden zal ook BizEye hiervan kunnen profiteren!

Even een herhaling van wat hierboven staat. BizEye komt met een heel arsenaal aan plugins en deze lijst wordt langer en langer. Samen met het team van AI-modellen kan je zo spreken over agentic AI, maar dan op een manier die je zelf volledig in de hand hebt. Zo zijn er plugins om snel gegevens beschikbaar te maken in Excel (zonder dat deze gegevens ooit jouw eigen omgeving verlaten) of om Excel te gebruiken voor automatisering van wederkerende taken, plugins om je oplossing slimmer te maken hoe meer je er gebruik van maakt, plugins om audio om te zetten in tekst (denk aan dictaten), plugins die het web kunnen doorzoeken en zelfs plugins die het toelaten om te spreken met je eigen bestandssysteem, op je eigen PC of laptop.

De lijst van plugins wordt steeds langer. Hieronder een overzicht van de plugins die momenteel beschikbaar zijn:

Assistant knowledge Deze plugin stelt de assistent in staat om algemene kennis op te slaan die nuttig kan zijn voor toekomstige interacties. Het is bedoeld voor brede, herbruikbare informatie en niet voor gebruiker specifieke details. Beheerders kunnen geheugens opslaan en beheren, maar gebruikers en opgeslagen gegevens kunnen worden verwijderd, dus een effectieve structuur van opgeslagen kennis is belangrijk.

Memory store knowledge Een memory store (geheugenopslag) is een gespecialiseerde functie binnen de applicatie die de kennis van de assistent uitbreidt. Beheerders kunnen geheugenopslagen configureren om domein specifieke, bedrijf specifieke of onderwerp gerelateerde informatie te bieden. Deze functie helpt de assistent om relevante kennis over verschillende opslagplaatsen te behouden en onderscheid te maken tussen algemene, gebruiker gerelateerde of geheugenopslag specifieke informatie. Dit kan bijvoorbeeld worden gebruikt om bepaalde concepten of termen voor hergebruik op te slaan.

User knowledge Deze plugin wordt gebruikt om details over individuele gebruikers op te slaan, zoals hun voorkeuren, achtergrond of andere relevante informatie. Als een gebruiker vraagt om specifieke informatie te onthouden voor toekomstige interacties, zorgt deze functionaliteit ervoor dat dit verzoek wordt gehonoreerd. Dit geeft BizEye een persoonlijke touch voor gebruikers die ermee interageren.

Embedding memory Deze plugin biedt toegang tot een semantische geheugenopslag, waarin ongestructureerde gegevens worden bewaard. Hiermee kunnen retrieval-augmented scenario's worden gecreëerd waarbij gebruikersvragen zoekopdrachten binnen opgeslagen informatie activeren om reacties met relevante details te verrijken. Daarnaast worden alle chatsessies van gebruikers opgeslagen en alleen toegankelijk gemaakt voor die gebruikers, wat een persoonlijke ervaring biedt.

Entity memory Deze plugin biedt toegang tot een gestructureerde geheugenopslag met geordende gegevens zoals tabellen, velden en relaties. In tegenstelling tot ongestructureerde geheugenopslag maakt deze plugin gestructureerde zoekopdrachten mogelijk, vergelijkbaar met SQL, om precieze gegevens op te halen. Er is een uitbreiding beschikbaar waarmee BizEye semantische relaties tussen entiteiten kan creëren, zelfs als de gestructureerde gegevens niet relationeel zijn op schema-niveau.

DevOps Deze plugin integreert met een Azure DevOps-instantie en biedt toegang tot werkitems, sprints en andere projectbeheergegevens. Hiermee kunnen relevante DevOps-gegevens automatisch worden opgehaald via API-aanroepen.

Buddy service Deze plugin vergemakkelijkt samenwerking door verbinding te maken met een buddy-service die helpt bij specifieke taken of processen. Dit concept, besproken in het multi-model idee hierboven, stelt je in staat om een volledig "team van buddies" samen te stellen dat kan samenwerken om vragen te beantwoorden.

Excel Deze plugin biedt functies om te interageren met Excel-bestanden en maakt gebruik van de ClosedXML-bibliotheek om diverse bewerkingen uit te voeren. Samen met de entity memory-plugin stelt dit je in staat om zelfbedienings-BI uit te voeren op gestructureerde datasets zonder dat je Power BI-rapporten hoeft te bouwen. Het belangrijkste voordeel is dat er geen gegevens naar het AI-model worden gestuurd, waardoor er geen risico's zijn op een datalek.

Google search Deze plugin maakt internetzoekopdrachten mogelijk via Google Custom Search om informatie uit onlinebronnen op te halen. Dit biedt toegang tot real-time gegevens van elke beschikbare bron op internet.

Chat automation Deze plugin is ontworpen om prompts automatisch te verwerken in chat automatiserings scenario's. Het wordt meestal gebruikt met een reeks instructies die aan de assistent worden gegeven. Het doel is om een gestructureerd vraag-en-antwoordproces te faciliteren, waarbij elke instructie correct wordt afgehandeld voordat naar de volgende wordt overgegaan. Dit voorkomt situaties waarin grote hoeveelheden gegevens moeten worden verwerkt, wat anders zou kunnen leiden tot een contextgeheugenprobleem waarin een AI-model slechts een beperkte hoeveelheid informatie tegelijk kan verwerken.

Audio transcription Deze plugin biedt de mogelijkheid om audiobestanden om te zetten in tekst. Ondersteunde formaten zijn onder andere WAV, MP3, OPUS/OGG, FLAC, WMA, AAC, ALAW, MULAW, AMR, WebM, M4A en SPEEX.

Local file system Deze plugin maakt interactie met het lokale bestandssysteem van de gebruiker mogelijk. Het werkt via een asynchroon berichtenmechanisme tussen de applicatie en een lokaal draaiende agent. Hierdoor kunnen mappen en bestanden op een pc of laptop worden gelezen en aangemaakt. In combinatie met andere AI-mogelijkheden of plugins zijn de mogelijkheden eindeloos.

Nood aan een plugin die niet in het lijstje staat? Laat het weten!

Hieronder volgt een overzicht van BizEye, puur vanuit technisch perspectief, met de nadruk op de minimaal vereiste componenten. Deze componenten zijn zorgvuldig geselecteerd om BizEye zo kostenefficiënt mogelijk te maken—zonder concessies te doen aan functionaliteit of prestaties. Alles draait binnen je eigen Azure-tenant, en behalve de BizEye-webapp zelf, is niets zichtbaar voor de buitenwereld. Dit zorgt voor maximale functionaliteit met minimale inspanning, terwijl de beveiliging waterdicht blijft.

Kerncomponenten: