BioinformatikWie KI ihre Entscheidungen erklären kann
Künstliche Intelligenz (KI) kann so trainiert werden, dass sie erkennt, ob ein Gewebebild Tumor enthält. Wie sie ihre Entscheidung trifft, bleibt bislang jedoch verborgen. Ein Forschungsteam der Ruhr-Universität Bochum entwickelt einen neuen Ansatz, damit die Entscheidung einer KI erklärbar und somit vertrauenswürdig wird.
Seite [1 von 2]
 | | | Bild 1 von 2 | | | |
Ein neuronales Netz wird zunächst mit vielen Datensätzen trainiert, um tumorhaltige von tumorfreien Gewebebildern unterscheiden zu können (Input von oben in der Grafik). Anschließend bekommt es ein neues Gewebebild aus einem Experiment präsentiert (Input von links). Über induktives Schließen erzeugt das neuronale Netz die Klassifizierung in „tumorhaltig“ oder „tumorfrei“ für das vorliegende Bild. Gleichzeitig erstellt es eine Aktivierungskarte von dem Gewebebild. Die Aktivierungskarte ist aus dem induktiven Lernprozess hervorgegangen und hat zunächst keinen Bezug zur Realität. Dieser Bezug wird hergestellt durch die falsifizierbare Hypothese, dass Bereiche mit hoher Aktivierung genau den Tumorregionen in der Probe entsprechen. Diese Hypothese kann mit weiteren Experimenten überprüft werden. Der
Ansatz folgt somit der deduktiven Logik. © PRODI