LastMile AI se positionne comme une solution complète pour les développeurs travaillant sur des applications d'intelligence artificielle générative. Cette plateforme offre une suite d'outils conçus pour optimiser le processus de développement, de l'évaluation à la mise en production des applications IA.
Parmi ses fonctionnalités clés, LastMile AI propose AutoEval, un système permettant de créer des modèles d'évaluation sur mesure. Les développeurs peuvent télécharger les données de leur application, utiliser un modèle de langage pour l'étiquetage, et affiner les modèles d'évaluation selon leurs critères spécifiques. Cette approche vise à transformer le développement de l'IA générative en une discipline plus scientifique.
La plateforme inclut également des métriques d'évaluation prêtes à l'emploi pour les applications RAG (Retrieval-Augmented Generation) et les systèmes multi-agents, ainsi qu'un service de fine-tuning pour concevoir des évaluateurs personnalisés. LastMile AI met en avant alBERTa, un modèle de langage compact de 400 millions de paramètres, spécialement conçu pour les tâches d'évaluation. Sa petite taille permet une inférence rapide (moins de 300ms) et une exécution sur CPU, tout en restant efficace pour les tâches personnalisées.
En plus des outils d'évaluation, LastMile AI propose des garde-fous en temps réel pour surveiller les hallucinations, la toxicité, la sécurité ou d'autres critères personnalisés dans les applications. La plateforme peut être déployée au sein de votre propre VPC, garantissant ainsi la sécurité et la confidentialité des données.
LastMile AI s'engage à fournir des modèles de langage spécialisés pour des tâches discrètes, que les développeurs peuvent personnaliser, affiner et exécuter efficacement sur leur propre infrastructure. Avec une documentation complète et des guides API, LastMile AI se présente comme un partenaire technique pour les développeurs cherchant à optimiser leurs applications d'IA générative.
