Vous trouvez le schéma ci-dessous un peu trop technique? Pas de problème! En tant qu’architecte IT, il est de mon devoir de donner une vue d’ensemble claire du fonctionnement des choses. Certains d’entre vous apprécieront certainement cela. Ce n’est pas votre cas? Alors, jetez un œil à la section suivante, où j’explique comment fonctionne le multi-model concept et comment vous pouvez composer votre propre équipe de modèles d’IA.

L’authentification pour BizEye est gérée via Azure Entra ID. Cela signifie que seuls les utilisateurs reconnus au sein de votre organisation peuvent accéder à BizEye. Une configuration supplémentaire dans Azure peut permettre de gérer cela de manière encore plus granulaire, si souhaité. L' Administrator détermine quels rôles sont définis dans BizEye et quel utilisateur est affecté à quel rôle. Un rôle dispose d’un ensemble de droits attribués, ou privilèges. Ces droits définissent l’accès aux différentes fonctionnalités de l’application. L’Administrator est la personne responsable de la configuration du stockage de la mémoire. Le stockage de la mémoire fait référence à une source externe où les données sont stockées et accessibles via BizEye. Cela peut concerner des données structurées dans une base de données ou des données non structurées issues d’un ensemble de documents. Grâce aux rôles configurés, il est possible de déterminer qui a accès à quel stockage de mémoire. S’il s’agit de données structurées, l’accès peut être défini jusqu’au niveau des entités et même au niveau des champs. Cela permet une gestion très flexible de la disponibilité des données dans BizEye tout en garantissant leur sécurité, afin qu’elles ne soient accessibles qu’aux utilisateurs disposant du rôle approprié.

L' Administrator a la possibilité de configurer plusieurs connexions dans BizEye. Cela permet à BizEye de communiquer avec un service externe. Ces connexions sont ensuite utilisées lors de la configuration des memory stores. En séparant ces deux concepts, une connexion peut être utilisée par plusieurs memory stores, avec l’attribution de rôles garantissant que certains rôles peuvent voir certaines choses tandis que d’autres ne le peuvent pas. Cela crée une flexibilité immense avec un effort minimal.

La liste des connexions s'allonge constamment. Voici un aperçu des connexions actuellement disponibles:

Connexions IA Ce type de connexion constitue la base du bon fonctionnement de BizEye. Une connexion OpenAI nécessite un abonnement auprès d’OpenAI, tandis que Azure OpenAI nécessite un abonnement auprès de Microsoft. OpenAI vous limite aux modèles de la famille ChatGPT bien connue, tandis qu’Azure OpenAI offre l’avantage d’accéder à une longue liste de modèles d’IA disponibles, y compris ceux d’OpenAI. Si vous savez qu’un modèle est disponible en open source, il y a de fortes chances qu’il soit proposé via Azure OpenAI en combinaison avec Azure AI Foundry. Consultez le catalogue de modèles sur le site de Microsoft. Une autre grande différence entre OpenAI et Azure OpenAI est le modèle de tarification: OpenAI facture un montant fixe par mois, tandis que Microsoft facture en fonction de l'utilisation. Une architecture hybride, où vous pouvez connecter vos propres modèles d'IA, est également possible. BizEye nécessite les types de connexions AI suivants pour bien fonctionner:
Mémoire sémantique La mémoire sémantique fait référence à la capacité de stocker et de récupérer des connaissances en comprenant le sens des mots, phrases ou documents. Plutôt que de retenir des mots exacts, l’IA comprend les relations entre les concepts, lui permettant de trouver des informations pertinentes même si des mots différents sont utilisés. Cela est réalisé grâce aux embeddings, qui transforment le texte en représentations numériques capturant le sens. BizEye nécessite les types de connexions de mémoire sémantique suivants, dont au moins une est essentielle pour un bon fonctionnement: Mémoire d'entité La mémoire d'entité fait référence à la capacité de stocker et de récupérer des données structurées concernant des entités spécifiques, telles que des clients, des produits ou des employés. Chaque entité a des champs définis (par exemple, nom, ID, date de création), et des relations avec d'autres entités (les commandes sont passées par un client, les chansons appartiennent à un album) qui permettent une gestion des données organisée et efficace. Actuellement, l'accès à la mémoire d'entité prend en charge diverses solutions de stockage de données : Les considérations de sécurité sont primordiales lors de l'accès à la mémoire d'entité. Le schéma de chaque magasin de mémoire est stocké séparément au sein de BizEye, permettant aux administrateurs de contrôler finement l'accès à des entités spécifiques, des champs et même des lignes de données. Cela garantit la sécurité et la confidentialité des données au niveau le plus granulaire. Associées aux fonctionnalités du plugin Excel, les options deviennent illimitées.

Autres En outre, il existe plusieurs autres types de connexions. Tout comme pour la mémoire d'entité, elles déterminent si certains plugins peuvent être utilisés ou non. Seul le Document Storage est nécessaire pour que BizEye fonctionne correctement:

L' Administrator a la possibilité de configurer plusieurs modèles d'IA dans BizEye. Dès que plusieurs modèles sont présents dans BizEye, ils commencent à former une équipe ensemble. Votre session de chat démarre avec un modèle d'IA défini par l' Administrator. Si ce modèle d'IA constate que certaines tâches peuvent être mieux gérées par ses coéquipiers, il consultera automatiquement le reste de son équipe et coordonnera le tout. Tout cela se fait en coulisses, sans que vous ayez à faire quoi que ce soit de spécial! Certains modèles excellent dans le raisonnement, mais par exemple, ne peuvent pas effectuer de recherches sur Internet. Un autre modèle peut le faire, mais ne peut pas générer d’images. Mais pas d’inquiétude, un autre modèle d’IA est là pour ça. Tous ces modèles travaillent ensemble pour vous fournir la réponse à votre question de la manière dont vous le souhaitez. Ici réside la véritable puissance de BizEye. À mesure que les modèles d'IA deviennent plus intelligents, BizEye pourra en bénéficier!

Juste une répétition de ce qui est indiqué ci-dessus. BizEye dispose d’un large éventail de plugins. Combiné à une équipe de modèles IA, vous pouvez parler d’agentic AI, mais d’une manière que vous contrôlez entièrement. Il existe des plugins pour rendre rapidement des données disponibles dans Excel (sans jamais quitter votre environnement), pour automatiser des tâches récurrentes, pour rendre votre solution plus intelligente au fil de son utilisation, pour convertir l’audio en texte (pensez aux dictées), pour explorer le web et même pour interagir avec votre propre système de fichiers, sur votre PC ou votre ordinateur portable.

La liste des plugins continue de croître. Voici un aperçu des plugins actuellement disponibles:

Assistant knowledge Ce plugin permet à l'assistant de stocker des connaissances générales qui peuvent être utiles pour de futures interactions. Il est conçu pour des informations larges et réutilisables plutôt que pour des détails spécifiques à un utilisateur. Les administrateurs peuvent gérer les magasins de mémoire, mais les utilisateurs et les données stockées peuvent être supprimés, il est donc important de structurer les connaissances stockées efficacement.

Memory store knowledge Un memory store (magasin de mémoire) est une fonctionnalité spécialisée au sein de l'application qui étend les connaissances de l'assistant. Les administrateurs peuvent configurer les magasins de mémoire pour fournir des informations spécifiques au domaine, à l'entreprise ou à un sujet particulier. Cette fonctionnalité aide l'assistant à retenir des connaissances pertinentes sur différents magasins de mémoire et à distinguer les informations générales, liées à l'utilisateur ou spécifiques au magasin de mémoire. Elle peut par exemple être utilisée pour stocker certains concepts ou termes pour une réutilisation future.

User knowledge Ce plugin est utilisé pour stocker des détails sur les utilisateurs individuels, tels que leurs préférences, antécédents ou autres informations pertinentes. Si un utilisateur demande que des informations spécifiques soient mémorisées pour de futures interactions, cette fonctionnalité garantit que sa demande est respectée. Cela donnera à BizEye une touche personnelle pour les utilisateurs qui interagissent avec lui.

Embedding memory Ce plugin donne accès à un magasin de mémoire sémantique, qui contient des données non structurées. Il permet des scénarios augmentés par la récupération où les requêtes des utilisateurs déclenchent des recherches dans les informations stockées pour enrichir les réponses avec des détails pertinents. De plus, toutes les sessions de chat de tous les utilisateurs seront intégrées et ne seront accessibles qu'à ces utilisateurs. Cela améliore la touche personnelle pour les utilisateurs, car l'assistant peut se souvenir des sessions de chat précédentes.

Entity memory Ce plugin donne accès à un magasin de mémoire structuré contenant des données organisées telles que des tables, des champs et des relations. Contrairement à la récupération de mémoire non structurée, ce plugin permet des requêtes structurées similaires au SQL, permettant une récupération précise des données. Une extension est disponible pour faire en sorte que BizEye crée des relations sémantiques entre les entités pour vous. Même lorsque vos données structurées ne sont pas relationnelles au niveau du schéma, cela peut être imposé simplement en fournissant les bonnes métadonnées dans la configuration du magasin de mémoire structuré.

DevOps Ce plugin s'intègre à une instance Azure DevOps, offrant l'accès aux éléments de travail, sprints et autres données de gestion de projet. Il permet la récupération automatisée d'informations pertinentes de DevOps via des appels API.

Buddy service Ce plugin facilite la collaboration en se connectant à un service Buddy qui aide dans des tâches ou processus spécifiques. C'est ce qui a été discuté dans le concept multimodal ci-dessus et permet de construire une "équipe de buddies" qui peut travailler ensemble pour répondre à une question.

Excel Ce plugin fournit des fonctions pour interagir avec des fichiers Excel, en utilisant la bibliothèque ClosedXML, afin d'effectuer diverses opérations. Avec le plugin de mémoire d'entité, il vous permettra d'effectuer de l'auto-service BI sur vos jeux de données structurées sans avoir besoin de créer des rapports Power BI dessus. Et le meilleur dans tout ça, c'est qu'aucune donnée ne sera transmise au modèle d'IA de quelque manière que ce soit, ce qui signifie qu'il n'y a aucune donnée en transit, donc aucun risque pour la sécurité des données.

Google search Ce plugin permet des recherches internet en utilisant Google Custom Search pour récupérer des informations provenant de sources en ligne. Cela permet d'accéder à des données en temps réel provenant de toute source disponible sur internet.

Chat automation Ce plugin est conçu pour automatiser la gestion des invites dans des scénarios d'automatisation du chat. Il est généralement utilisé avec un ensemble d'instructions fournies à l'assistant. L'objectif est de faciliter un processus structuré de questions et réponses, en s'assurant que chaque instruction soit correctement traitée avant de passer à la suivante. Cela surmonte des scénarios où une grande quantité de données doit être traitée par l'assistant, ce qui pourrait autrement entraîner ce que l'on appelle le "problème de mémoire du contexte", où un modèle d'IA peut traiter un nombre limité d'informations à la fois. Lorsqu'un utilisateur demande l'automatisation d'une tâche, c'est ce plugin qui sera utilisé.

Audio transcription Ce plugin permet de transcrire des fichiers audio en texte. Les formats supportés incluent WAV, MP3, OPUS/OGG, FLAC, WMA, AAC, ALAW, MULAW, AMR, WebM, M4A et SPEEX.

Local file system Ce plugin permet d'interagir avec le système de fichiers local de l'utilisateur. Il fonctionne via un système de messagerie asynchrone entre l'application et un agent s'exécutant localement. Il offre des capacités pour lire et créer des répertoires et des fichiers sur le PC ou l'ordinateur portable de l'utilisateur. Lorsqu'il est combiné avec toute autre capacité standard d'un modèle d'IA, ou tout plugin fourni, le ciel est la limite.

Besoin d'un plugin qui ne figure pas dans la liste ? Faites-le savoir!

Voici un aperçu de BizEye, uniquement du point de vue technique, en mettant l'accent sur les composants minimaux requis. Ces composants ont été soigneusement sélectionnés pour rendre BizEye aussi rentable que possible—sans sacrifier la fonctionnalité ou les performances. Tout fonctionne dans votre propre locataire Azure, et à l'exception de l'application web BizEye elle-même, rien n'est exposé au monde extérieur. Cela garantit une fonctionnalité maximale avec un minimum d'efforts, tout en maintenant une sécurité optimale.

Composants principaux: