Le What-If Tool est une solution innovante conçue pour explorer et comprendre le comportement des modèles de machine learning (ML) de manière visuelle, sans nécessiter de codage complexe. Cet outil s'adresse aux développeurs, chercheurs et praticiens en IA qui cherchent à améliorer la transparence et la responsabilité de leurs systèmes ML.
Un des défis majeurs dans le développement et le déploiement de systèmes ML responsables est la compréhension de leur performance sur une large gamme de données d'entrée. Le What-If Tool permet aux utilisateurs de tester les performances dans des situations hypothétiques, d'analyser l'importance des différentes caractéristiques des données, et de visualiser le comportement des modèles à travers plusieurs modèles et sous-ensembles de données d'entrée. Cela inclut également l'évaluation selon différentes métriques d'équité en ML.
L'outil est compatible avec une variété de plateformes et d'intégrations, notamment les notebooks Colaboratory et Jupyter, Cloud AI Notebooks, TensorBoard, et TFMA Fairness Indicators. Il supporte les modèles et frameworks tels que les TF Estimators, les modèles servis par TF serving, les modèles de Cloud AI Platform, et ceux qui peuvent être encapsulés dans une fonction Python. Le What-If Tool est adapté à différents types de données et tâches, y compris la classification binaire et multi-classes, la régression, ainsi que les données tabulaires, d'image et de texte.
En plus de ses fonctionnalités d'analyse, le What-If Tool encourage la communauté à contribuer à son développement et à son amélioration, étant un projet open source accessible sur GitHub. Il propose également des guides pour les développeurs, des notes de mise à jour pour suivre les dernières fonctionnalités et améliorations, et des ressources de recherche pour approfondir la compréhension des aspects techniques et éthiques de l'IA.
Le What-If Tool est un exemple de l'engagement de Google Research envers le développement de technologies d'IA responsables et transparentes, offrant aux utilisateurs les moyens de poser et de répondre à des questions cruciales sur les modèles, les caractéristiques et les points de données.
