Agents-Flex est un framework Java conçu pour les applications utilisant des modèles de langage (LLM). Il se distingue par sa légèreté, sa simplicité et son design élégant, permettant aux développeurs de créer des applications plus efficacement. Le framework inclut une variété de connecteurs réseau pour les LLM, tels que HTTP, SSE et WS, facilitant la connexion à divers modèles comme OpenAI et LLama.
Il propose également un ensemble riche de modèles de développement et de frameworks de prompt, incluant FEW-SHOT, CRISPE, BROKE, et ICIO, tout en permettant aux développeurs de personnaliser leurs propres modèles de prompt. Le composant de Function Calling est particulièrement flexible, supportant les définitions de méthodes locales, l'analyse, les rappels via LLM, et l'exécution de méthodes locales pour obtenir des résultats.
Pour la gestion des documents, Agents-Flex offre des composants Loader, Parser, et Splitter, chacun avec plusieurs implémentations pour charger des données depuis le web, des fichiers locaux, des bases de données, et divers types de données. Le module Memory est divisé en MessageMemory et ContextMemory, utilisés pour enregistrer les messages de chat et les contextes d'exécution de chaînes, avec la possibilité pour les développeurs d'étendre ce module par héritage.
Le framework inclut également des capacités d'embedding étendues, permettant aux développeurs d'implémenter l'interface Embedding pour étendre leurs algorithmes d'embedding privés. Il supporte plusieurs bases de données vectorielles et permet l'extension des services VectorStore privés. Enfin, Agents-Flex définit une implémentation abstraite des Agents, permettant aux développeurs d'utiliser la chaîne Agents pour créer des applications plus interactives, avec des chaînes séquentielles, asynchrones et en boucle pour gérer divers scénarios.
