Captum: Modelinterpretatie voor PyTorch
Captum is een toffe oplossing voor de interpretatie van modellen binnen PyTorch. Het ondersteunt de interpretabiliteit van modellen over verschillende modaliteiten, zoals visie, tekst en meer. Gebaseerd op PyTorch, ondersteunt het de meeste soorten PyTorch-modellen en kan het gebruikt worden met minimale aanpassingen aan het oorspronkelijke neurale netwerk. Als een open source, generieke bibliotheek voor onderzoek naar interpretabiliteit is het mega uitbreidbaar en maakt het het eenvoudig om nieuwe algoritmes te implementeren en te benchmarken.
Om Captum te gebruiken, moet je het eerst installeren. Dat kan via conda (aanbevolen) met de opdracht conda install captum -c pytorch of via pip met pip install captum. Daarna kun je een model maken en voorbereiden. In het voorbeeld wordt een ToyModel gedefinieerd en geëvalueerd.
Om de berekeningen consistent te maken, worden willekeurige zaden vastgesteld. Daarna worden invoer- en basislijntensors gedefinieerd en wordt een algoritme gekozen om te instantiëren en toe te passen, zoals Integrated Gradients in dit geval.
Al met al biedt Captum onderzoekers en ontwikkelaars een geweldige tool om de werking en interpretatie van PyTorch-modellen te verbeteren.
