Im dritten Artikel unserer 4-teiligen Blogserie widmen wir uns dem Thema Explainable AI, das in den letzten Jahren in der Machine Learning Community sehr stark an Bedeutung gewonnen hat. Bei Explainable AI geht es darum, die Vorhersagen eines Modells zu verstehen, was unter anderem zu einem erhöhten Vertrauen in die Modelle führt. Wir diskutieren im Artikel verschiedene Ansätze zur Erklärung von CNN-Netzwerk-Vorhersagen und fokussieren uns auf das Grad-CAM Verfahren.