Explainable AI im Kontext von Image Classification

Beschreibung

• Abteilung: Schlüsseltechnologien
• Referat: Künstliche Intelligenz
• Kontakt: bewerbung@cyberagentur.de
• Thema der Masterarbeit: Verfahren der Künstlichen Intelligenz, insbesondere des Deep Learning, unterlaufen stetigen Entwicklungen und führen zu immer komplexeren Architekturen und Lernverfahren.
• - In sicherheitskritischen Bereichen steht die Nachvollziehbarkeit KI-basierter Verfahren im Fokus, die einen erheblichen Einfluss auf nachgelagerte Entscheidungsprozesse haben kann.
• - Um die Ausgaben komplexer Deep Learning Verfahren transparenter und nachvollziehbarer gestalten zu können, existieren Verfahren der Erklärbarkeit und Interpretierbarkeit, die die zugrundeliegenden Entscheidungsmuster eines Algorithmus untersuchen und relevante Klassifikationsmerkmale sichtbar machen.
• - Im Rahmen einer Masterarbeit sollen verschiedene Methoden der Explainable AI (XAI) identifiziert, untersucht und im Hinblick auf ihre Relevanz im Sicherheitssektor miteinander verglichen werden.
• - Die resultierenden Ergebnisse sollen anschließend in einen funktionsfähigen Prototyp überführt werden, der als Erklärbarkeitskomponente in einen Klassifikationsprozess integriert werden können.
• - Grundlage des angewandten Teils der Masterarbeit ist ein Datensatz, welcher Bilddaten unterschiedlicher Klassen militärischer Fahrzeuge umfasst und für eine exemplarische Implementierung der erarbeiteten Verfahren genutzt werden kann.