¿Te parece que el diagrama a continuación es un poco demasiado técnico? ¡No hay problema! Como arquitecto de TI, es mi deber proporcionar una visión clara de cómo funcionan las cosas. Algunos de ustedes definitivamente lo apreciarán. ¿No es uno de ellos? Entonces, echa un vistazo a la siguiente sección, donde explico cómo funciona el concepto de multi-modelo y cómo puedes ensamblar tu propio equipo de modelos de IA.

La autenticación para BizEye se maneja a través de Azure Entra ID. Esto significa que solo los usuarios conocidos dentro de tu organización pueden acceder a BizEye. Una configuración adicional dentro de Azure puede regular esto de una manera aún más granular, si lo deseas. El Administrator determina qué roles están configurados en BizEye y a qué usuario se asigna cada rol. Un rol tiene un conjunto de derechos asignados, o privilegios. Estos derechos determinan el acceso a las diversas funcionalidades de la aplicación. El Administrator es la persona responsable de configurar el almacenamiento de memoria. El almacenamiento de memoria se refiere a una fuente externa donde se almacenan y acceden a datos a través de BizEye. Esto puede implicar datos estructurados en una base de datos o datos no estructurados de un conjunto de documentos. A través de los roles configurados, se puede determinar quién tiene acceso a qué almacenamiento de memoria. Si están involucrados datos estructurados, se puede configurar el acceso hasta el nivel de entidad e incluso hasta el nivel de campo. Esto resulta en una forma altamente flexible de hacer que tus datos estén generalmente disponibles en BizEye mientras se asegura de que solo sea accesible para los usuarios con el rol apropiado.

El Administrator tiene la capacidad de configurar múltiples conexiones en BizEye. Esto permite que BizEye se comunique con un servicio externo. Estas conexiones se utilizan al configurar almacenes de memoria. Al separar estos dos conceptos, una conexión puede ser utilizada por múltiples almacenes de memoria, con asignaciones de roles que aseguran que algunos roles puedan ver ciertas cosas mientras que otros no. Esto crea una flexibilidad tremenda con un esfuerzo mínimo.

La lista de conexiones continúa creciendo. A continuación se presenta un resumen de las conexiones actualmente disponibles:

Conexiones de IA Este tipo de conexión forma la base para el correcto funcionamiento de BizEye. Una conexión de OpenAI requiere una suscripción con OpenAI, mientras que Azure OpenAI requiere una suscripción con Microsoft. OpenAI te limita a modelos de la conocida familia ChatGPT, mientras que Azure OpenAI ofrece la ventaja del acceso a una larga lista de modelos de IA disponibles, incluidos los modelos de OpenAI. Si sabes que un modelo está disponible a través de código abierto, hay una alta probabilidad de que esté disponible a través de Azure OpenAI en combinación con Azure AI Foundry. No dudes en consultar el catálogo de modelos en el sitio web de Microsoft. Otra gran diferencia entre OpenAI y Azure OpenAI es el modelo de precios. El primero cobra una tarifa mensual fija, mientras que Microsoft cobra según el uso. También es posible una arquitectura híbrida, donde puedes conectar tus propios modelos de IA. BizEye requiere los siguientes tipos de conexiones de IA para funcionar correctamente:
Memoria semántica La memoria semántica se refiere a la capacidad de almacenar y recuperar conocimiento de una manera que comprende el significado de palabras, oraciones o documentos. En lugar de recordar palabras exactas, la IA comprende las relaciones entre conceptos, lo que le permite encontrar información relevante incluso cuando se utilizan diferentes palabras. Esto se hace mediante embeddings, que convierten el texto en representaciones numéricas que capturan el significado. BizEye requiere los siguientes tipos de conexiones de memoria semántica, al menos una de las cuales es necesaria para un funcionamiento adecuado:
Memoria de entidades La memoria de entidades se refiere a la capacidad de almacenar y recuperar datos estructurados sobre entidades específicas, como clientes, productos o empleados. Cada entidad tiene campos definidos (por ejemplo, nombre, ID, fecha de creación) y relaciones con otras entidades (los pedidos son realizados por un cliente, las canciones pertenecen a un álbum) que permiten una gestión de datos organizada y eficiente. Actualmente, el acceso a la memoria de entidad admite varias soluciones de almacenamiento de datos: Las consideraciones de seguridad son fundamentales a la hora de acceder a la memoria de entidades. El esquema de cada tienda de memoria se almacena por separado dentro de BizEye, lo que permite a los administradores controlar finamente el acceso a entidades específicas, campos e incluso filas de datos. Esto garantiza la seguridad y confidencialidad de los datos a un nivel muy granular. Combinado con las funcionalidades del plugin de Excel, las opciones se vuelven ilimitadas.

Otro Además, existen varios otros tipos de conexiones. Al igual que para la memoria de entidades, determinan si se pueden usar ciertos plugins o no. Solo se requiere Almacenamiento de documentos para que BizEye funcione correctamente:

El Administrator tiene la capacidad de configurar múltiples modelos de IA en BizEye. Tan pronto como hay múltiples modelos presentes en BizEye, comienzan a formar un equipo juntos. Tu sesión de chat comienza con un modelo de IA establecido por el Administrator. Si este modelo de IA determina que ciertas tareas pueden ser manejadas mejor por sus compañeros de equipo, buscará autónomamente consejo del resto de su equipo y coordinará todo. Todo esto sucede en segundo plano, ¡sin que tú tengas que hacer nada especial! Algunos modelos sobresalen en el razonamiento, pero, por ejemplo, no pueden buscar en internet. Otro modelo, sin embargo, puede hacer eso, pero no puede generar imágenes. Pero no te preocupes, hay otro modelo de IA para eso. Todos estos modelos trabajan juntos para asegurarse de que obtengas la respuesta a tu pregunta de la manera que deseas. Aquí radica el verdadero poder de BizEye. ¡A medida que los modelos de IA se vuelven más inteligentes, BizEye podrá aprovechar esto!

Solo una repetición de lo que se declaró anteriormente. BizEye viene con todo un arsenal de plugins. Junto con el equipo de modelos de IA, puedes lograr IA agentiva, pero de una manera que tú controlas por completo. Hay plugins para hacer que los datos estén disponibles rápidamente en Excel (sin salir de tu entorno), plugins para automatizar tareas repetitivas en Excel, plugins que hacen que tu solución sea más inteligente cuanto más la uses, plugins que convierten audio en texto (piensa en dictado), plugins que buscan en la web, e incluso plugins que te permiten interactuar con tu propio sistema de archivos en tu PC o laptop.

La lista de plugins sigue creciendo. A continuación se presenta un resumen de los plugins que actualmente están disponibles:

Assistant knowledge Este plugin permite al asistente almacenar conocimiento general que puede ser útil para interacciones futuras. Está diseñado para información amplia y reutilizable en lugar de detalles específicos de usuarios. Los administradores pueden gestionar almacenes de memoria, pero los usuarios y los datos almacenados pueden eliminarse, por lo que es importante estructurar el conocimiento almacenado de manera efectiva.

Memory store knowledge Un memory store es una función especializada dentro de la aplicación que amplía el conocimiento del asistente. Los administradores pueden configurar almacenes de memoria para proporcionar información específica de dominio, empresa o tema. Esta función ayuda al asistente a retener conocimiento relevante sobre diferentes almacenes de memoria y distinguir entre información general, relacionada con usuarios o específica de almacenes de memoria. Puede, por ejemplo, utilizarse para almacenar ciertos conceptos o términos para reutilización.

User knowledge Este plugin se utiliza para almacenar detalles sobre usuarios individuales, como sus preferencias, antecedentes u otra información relevante. Si un usuario solicita que se recuerde información específica para interacciones futuras, esta funcionalidad asegura que se cumpla su solicitud. Esto le dará a BizEye un toque personal para los usuarios que interactúan con él.

Embedding memory Este plugin proporciona acceso a un almacén de memoria semántica, que contiene datos no estructurados. Permite escenarios de recuperación aumentada donde las consultas de los usuarios desencadenan búsquedas dentro de la información almacenada para mejorar las respuestas con detalles relevantes. Además, todas las sesiones de chat de todos los usuarios se incrustarán y solo serán accesibles para esos usuarios. Esto mejora el toque personal para los usuarios, ya que el asistente es capaz de recordar sesiones de chat anteriores.

Entity memory Este plugin otorga acceso a un almacén de memoria estructurada que contiene datos organizados, como tablas, campos y relaciones. A diferencia de la recuperación de memoria no estructurada, este plugin permite consultas estructuradas similares a SQL, permitiendo la recuperación precisa de datos. Hay una extensión disponible para hacer que BizEye cree relaciones semánticas entre entidades por ti. Incluso cuando tus datos estructurados no son relacionales a nivel de esquema, esto se puede hacer simplemente proporcionando los metadatos correctos en la configuración del almacén de memoria estructurada.

DevOps Este plugin se integra con una instancia de Azure DevOps, proporcionando acceso a elementos de trabajo, sprints y otros datos de gestión de proyectos. Permite la recuperación automatizada de información relevante de DevOps a través de llamadas a la API.

Buddy service Este plugin facilita la colaboración conectándose a un servicio buddy que asiste en tareas o procesos específicos. Esto es lo que se discutió en el concepto de multi-modelo anterior y te permite construir todo un "equipo de buddies" que puede trabajar juntos para responder a una pregunta.

Excel Este plugin proporciona funciones para interactuar con archivos de Excel, aprovechando la biblioteca ClosedXML, para realizar varias operaciones. Junto con el plugin de memoria de entidades, te permitirá realizar BI autoservicio en tus conjuntos de datos estructurados sin necesidad de construir informes de Power BI sobre ellos. Y lo mejor de todo es que ningún dato se pasará al modelo de IA de ninguna manera, por lo que no hay datos en tránsito, lo que significa que no hay riesgos de ninguna violación de seguridad de datos.

Google search Este plugin permite búsquedas en internet utilizando Google Custom Search para recuperar información de fuentes en línea. Esto permite acceder a datos en tiempo real de cualquier fuente que esté disponible en internet.

Chat automation Este plugin está diseñado para automatizar el manejo de prompts en escenarios de automatización de chat. Se utiliza típicamente con un conjunto de instrucciones proporcionadas al asistente. El objetivo es facilitar un proceso de pregunta y respuesta estructurado, asegurando que cada instrucción se aborde correctamente antes de pasar a la siguiente. Esto supera los escenarios donde debe procesarse una gran cantidad de datos por parte del asistente, que de otro modo podrían llevar a lo que se denomina el problema de memoria contextual, donde hay una cantidad máxima de información que un modelo de IA puede procesar a la vez. Cuando un usuario solicita automatización para una tarea, este es el plugin que se utilizará.

Audio transcription Este plugin proporciona la capacidad de transcribir archivos de audio en texto. Los formatos admitidos incluyen WAV, MP3, OPUS/OGG, FLAC, WMA, AAC, ALAW, MULAW, AMR, WebM, M4A y SPEEX.

Local file system Este plugin permite la interacción con el sistema de archivos local del usuario. Funciona a través de un sistema de mensajería asincrónica entre la aplicación y un agente que se ejecuta localmente. Proporciona capacidades para leer y crear directorios y archivos en la PC o laptop del usuario. Cuando se combina con cualquier otra capacidad estándar de un modelo de IA, o con cualquier plugin proporcionado, las posibilidades son infinitas.

¿Necesitas un plugin que no está en la lista? ¡Háznoslo saber!!

A continuación se presenta un resumen de BizEye, puramente desde una perspectiva técnica, centrándose en los componentes mínimos requeridos. Estos componentes han sido cuidadosamente seleccionados para hacer que BizEye sea lo más rentable posible, sin sacrificar funcionalidad o rendimiento. Todo se ejecuta dentro de tu propio inquilino de Azure, y excepto por la propia aplicación web de BizEye, nada está expuesto al mundo exterior. Esto asegura la máxima funcionalidad con un esfuerzo mínimo, manteniendo la seguridad a prueba de fallos.

Componentes principales: