What-If Tool은 훈련된 머신러닝 모델의 행동을 시각적으로 탐구할 수 있는 혁신적인 도구입니다. 이 도구를 사용하면 다양한 입력에 걸친 모델의 성능을 테스트하고, 데이터 특징의 중요성을 분석하며, 여러 모델과 입력 데이터의 하위 집합에 걸쳐 모델 행동을 시각화할 수 있습니다. 또한, 다양한 머신러닝 공정성 지표에 대한 모델의 행동을 분석할 수 있습니다.
What-If Tool은 Colaboratory 노트북, Jupyter 노트북, Cloud AI 노트북, TensorBoard, TFMA, Fairness Indicators 등 다양한 플랫폼과 통합되어 있습니다. 이 도구는 TF Estimators, TF serving에 의해 제공되는 모델, Cloud AI Platform 모델, 그리고 파이썬 함수로 래핑할 수 있는 모델과 호환됩니다. 또한, 이진 분류, 다중 클래스 분류, 회귀 분석, 표 형식 데이터, 이미지, 텍스트 데이터 등 다양한 데이터 유형과 작업 유형을 지원합니다.
What-If Tool은 모델, 특징, 데이터 포인트에 대한 질문을 하고 답변할 수 있는 기능도 제공합니다. 이 도구는 누구나 개발하고 개선할 수 있도록 오픈되어 있으며, 최신 업데이트, 새로운 기능, 개선 사항을 확인할 수 있습니다. 또한, IEEE VAST '19에서 발표된 시스템 논문을 통해 What-If Tool의 개발 과정에 대해 읽어볼 수 있습니다.
What-If Tool은 다섯 가지 다른 유형의 공정성을 시도해 볼 수 있는 기능을 제공하며, 이들이 무엇을 의미하는지에 대한 기사도 읽어볼 수 있습니다. Google Research와 함께 What-If Tool의 개발에 참여하고, Github에서 코드를 기여할 수도 있습니다.
