Explainable AI im Kontext von Image Classification
Cyberagentur - Agentur für Innovation in der Cybersicherheit
04347 Leipzig
Bewerbungsfrist nicht angegeben
Explainable AI im Kontext von Image Classification
- Abteilung: Schlüsseltechnologien
- Referat: Künstliche Intelligenz
- Kontakt: bewerbung@cyberagentur.de
- Verfahren der Künstlichen Intelligenz, insbesondere des Deep Learning, unterlaufen stetigen Entwicklungen und führen zu immer komplexeren Architekturen und Lernverfahren.
- In sicherheitskritischen Bereichen steht die Nachvollziehbarkeit KI-basierter Verfahren im Fokus, die einen erheblichen Einfluss auf nachgelagerte Entscheidungsprozesse haben kann.
- Im Rahmen einer Masterarbeit sollen verschiedene Methoden der Explainable AI (XAI) identifiziert, untersucht und im Hinblick auf ihre Relevanz im Sicherheitssektor miteinander verglichen werden.
- Die resultierenden Ergebnisse sollen in einen funktionsfähigen Prototyp überführt werden, der als Erklärbarkeitskomponente in einen Klassifikationsprozess integriert werden kann.
- Grundlage des angewandten Teils der Masterarbeit ist ein Datensatz, welcher Bilddaten unterschiedlicher Klassen militärischer Fahrzeuge umfasst und für eine exemplarische Implementierung der erarbeiteten Verfahren genutzt werden kann.
Aufgaben
- Methoden der Explainable AI (XAI) identifizieren, untersuchen und im Hinblick auf ihre Relevanz im Sicherheitssektor vergleichen.
- Ergebnisse in einen funktionsfähigen Prototyp überführen, der als Erklärbarkeitskomponente in einen Klassifikationsprozess integriert werden kann.
- Arbeiten mit dem Datensatz militärischer Fahrzeuge zur exemplarischen Implementierung der erarbeiteten Verfahren.
Anforderungen
- Im Rahmen einer Masterarbeit vorgesehen oder erforderlich.
- Grundkenntnisse oder Interesse an Explainable AI (XAI) und Deep Learning.
- Bereitschaft zur Arbeit an sicherheitsrelevanten Anwendungsfällen.
Wir bieten
- (Keine konkreten Benefits im bereitgestellten Text angegeben)