Was geht im „Kopf“ einer KI ab?

Eine der größten Herausforderung sämtlicher KI-basierten Technologien ist die schwierige Nachvollziehbarkeit ihrer Aussagen.
Dies ist ein kritisches Problem für die gesellschaftliche Akzeptanz derartiger Technologien. Wir glauben keinem Tool, wenn wir das Gefühl haben, dass dieses durch reine Willkür entscheidet. Wir stehen also vor der Frage, wie man KI-basierte Systeme interpretierbar macht und die Informationen verständlich vermittelt. Dies ist das Forschungsgebiet der Explainable AI (XAI), einer Gruppe von Technologien, welche KIs nachvollziehbar machen sollen. 

Aufgrund der Komplexität des Themas (es gibt viele verschiedene Arten von KI) ist  XAI immer noch ein Nischenthema in der Forschung. Es hat aber das Potenzial, maschinelle Echtheitsüberprüfungen für KI-basierte Tools zur Text-, Bild- und Ton-Erzeugung zu ermöglichen. Dies wäre die technische Grundlage zur Bekämpfung von systematischen Desinformations- und Fälschungskampagnen. Eventuell könnte hiermit Fake-News aktiv gegengesteuert werden.

Wir gehen auf den Stand der Technik ein, die sowohl technischen als auch rechtlich/organisatorischen/moralischen Herausforderungen zur Umsetzung von Explainable AI ein. Danach: Fragen und Antworten.