Agents

Agents-Flex to innowacyjna Java-rama dla aplikacji LLM. Jest lekka, prosta i oferuje wiele funkcji. Zawiera różne protokoły sieciowe do łączenia z LLM, takie jak HTTP, SSE i WS, ułatwiając deweloperom łączność z różnymi modelami, w tym OpenAI, LLama i innymi. Posiada bogaty zestaw szablonów rozwoju i ram Prompt, takich jak FEW-SHOT, CRISPE, BROKE i ICIO, pozwalając deweloperom na dostosowanie własnych unikatowych szablonów promptów. Ma bardzo elastyczny komponent Function Calling, wspierający definiowanie metod lokalnych, parsowanie, wywołania zwrotne przez LLM oraz wykonywanie metod lokalnych w celu uzyskania wyników. Oferuje także komponenty Loader, Parser i Splitter dla dokumentów, z wieloma implementacjami dla łatwego ładowania danych z sieci, plików lokalnych, baz danych i różnych typów danych. Moduł Memory jest podzielony na MessageMemory i ContextMemory do rejestrowania wiadomości czatu i kontekstów wykonania Chain. Zawiera również szerokie możliwości embeddingu i rozszerzeń, a także wspiera wiele baz danych wektorowych. Definiuje abstrakcyjną implementację Agentów i posiada różne typy łańcuchów, takie jak sekwencyjne, asynchroniczne i pętle, pomagając deweloperom obsługiwać różne scenariusze. Jest dostępny na licencji Apache.