LastMile AI se presenta como una solución completa para desarrolladores que buscan optimizar sus aplicaciones de inteligencia artificial. Esta plataforma ofrece herramientas avanzadas para la depuración, evaluación y mejora continua de aplicaciones basadas en IA, permitiendo a los usuarios ajustar modelos evaluadores personalizados, establecer salvaguardias y monitorear el rendimiento de sus aplicaciones en tiempo real.
Una de las características destacadas de LastMile AI es AutoEval, un sistema que permite a los desarrolladores ajustar modelos evaluadores rápidos y personalizados según sus criterios específicos. Este proceso incluye la carga y gestión de datos de la aplicación, como datos de entrada/salida, y la etiquetación por parte de un juez LLM, seguido del ajuste fino de los modelos de evaluación.
Además, LastMile AI está comprometido con hacer del desarrollo de GenAI una ciencia más que un arte. AutoEval viene equipado con métricas de evaluación para aplicaciones RAG y de IA multiagente, junto con un servicio de ajuste fino para diseñar evaluadores personalizados.
La plataforma también introduce alBERTa, un modelo de lenguaje pequeño pero potente, diseñado específicamente para tareas de evaluación. Con 400M de parámetros, alBERTa es capaz de generar puntuaciones numéricas para tareas como la fidelidad, con inferencias en menos de 300ms y la capacidad de funcionar eficientemente en CPU.
LastMile AI no solo se enfoca en la evaluación y mejora de aplicaciones, sino que también ofrece salvaguardias en tiempo real para verificar alucinaciones, toxicidad, seguridad o criterios personalizados dentro del tiempo de ejecución de la aplicación. Además, garantiza la seguridad y privacidad de los datos al permitir la implementación de la plataforma dentro de la VPC del usuario.
Únete a la misión de LastMile AI para transformar el desarrollo de aplicaciones de IA, aprovechando modelos de lenguaje pequeños pero impactantes, personalizables y eficientes para tareas discretas, todo ello con la posibilidad de comenzar de forma gratuita.
