Bilderkennung-mit-Machine-Learning/Explainable-AI.md

-[ . . . Beschreibung von GradCAM . . . ]
+Auf dieser Seite finden sich ein paar Überlegungen zum Thema Erklärbarkeit von KI und Beispiele für unsere beiden Classifier der Farb- und Wappenerkennung.
+
+Inhalt:
+
+[TOC]
+
+# Verwendete Programmbibliothek: pytorch-grad-cam
+
+Wir verwenden das Paket pytorch-grad-cam ([GitHub Repo](https://github.com/jacobgil/pytorch-grad-cam), [Dokumentation mit fortgeschrittenen Tutorials](https://jacobgil.github.io/pytorch-gradcam-book)
+) und möchten so eine visuelle Repräsentation der verschiedenen Klassen, die unsere Netzwerke unterscheiden können (sog. class activation maps), erstellen. Dazu verwenden wir die Funktion HiResCAM.
+
+# Wappen
+
+<figure>
+<img src="../uploads/evaluation/gradcam_A.jpg">
+<img src="../uploads/evaluation/gradcam_B.jpg">
+<img src="../uploads/evaluation/gradcam_C.jpg">
+<img src="../uploads/evaluation/gradcam_N.jpg">
+<figcaption>Abbildung 1: Überlagerung von HiResCAM und Originalbild für den Wappenklassifizierer.</figcaption>
+</figure>
+
+# Farben
+
+<figure>
+<img src="../uploads/evaluation/gradcam_color.jpg">
+<figcaption>Abbildung 2: Darstellung von Originalbild (links) und Überlagerung von HiResCam und Originalbild (rechts) für den Farbklassifizierer.</figcaption>
+</figure>