Ava PLS es una innovadora aplicación de escritorio de código abierto diseñada para permitir a los usuarios ejecutar modelos de lenguaje directamente en sus computadoras. Con una interfaz gráfica de usuario (GUI) completa y fácil de usar, Ava PLS simplifica el proceso de trabajar con modelos de lenguaje avanzados, como aquellos basados en llama.cpp, sin la necesidad de conexión a internet o servicios en la nube.
La aplicación está construida sobre una sólida pila tecnológica que incluye Zig y C++ (específicamente llama.cpp), junto con SQLite para la gestión de datos. Además, utiliza Preact y Preact Signals para la interfaz de usuario, y Twind para el estilo, asegurando una experiencia de usuario fluida y atractiva.
Ava PLS es ideal para desarrolladores, investigadores y entusiastas de la inteligencia artificial que buscan explorar y desarrollar aplicaciones basadas en modelos de lenguaje de manera local. Su licencia MIT fomenta la colaboración y el uso en una amplia gama de proyectos, desde personales hasta comerciales.
Para comenzar, los usuarios pueden descargar los últimos artefactos desde Github Actions o construir la aplicación ellos mismos utilizando zig build run o zig build run -Dheadless=true para el modo sin cabeza. Esta flexibilidad en la instalación y configuración hace que Ava PLS sea accesible para una variedad de usuarios, independientemente de su nivel de experiencia técnica.
