In den letzten Jahren hat Künstliche Intelligenz (KI) erhebliche Fortschritte gemacht und ganze Branchen revolutioniert, Verfahren rationalisiert und die Entscheidungsfindung verbessert. Mit der Weiterentwicklung und Verbreitung von KI-Systemen ist jedoch ein entscheidendes Problem aufgetaucht – das Problem der »Blackbox«. Dieses Problem stellt den Mangel an Transparenz und Verantwortlichkeit in den Entscheidungsprozessen von KI-Systemen in Frage. Hier kommen Methoden aus dem Bereich der Erklärbare KI (XAI) ins Spiel. Diese ermöglichen es, die Entscheidungsfindung von KI-Algorithmen verständlich zu machen.
In einem Beitrag von Dharmil Mehta auf dem Blog des Fraunhofer IAO 
werden die Bedeutung, die Techniken, die Herausforderungen und die realen Anwendungen von XAI untersucht.