Verantwortung nicht in Algorithmen auflösen / ISM-Informatiker Marcus Becker
KI-Black-Box bei Robo Advisor ließe sich öffnen
Autor folgen
Dortmund (ots) - Menschliche Anlageberater können schadensersatzpflichtig werden
- prinzipiell gilt das auch für automatisierte Berater. Doch wer steckt
dahinter? An diesem Beispiel greift Prof. Dr. Marcus Becker eine zentrale Frage
auf, die sich beim Einsatz von künstlicher Intelligenz (KI) immer eindringlicher
stellt. Umso mehr, als die auffällige Intransparenz von KI-Prozessen nahelegt,
dass dies fast methodischen Charakter hat. Der Experte der International School
of Management (ISM) zeigt, wo sich praktisch ansetzen lässt, um KI-Black Boxen
zu öffnen.
Mit Methoden des maschinellen Lernens beschäftigt sich Marcus Becker seit mehr
als fünf Jahren. Bei der Analyse der Lernmethoden von KI fasziniert den
Mathematiker am meisten die Anwendung seiner Disziplin: "Machine Learning
Algorithmen verbinden mehrere Teilbereiche der Mathematik auf überaus elegante
Weise. Was mich überrascht, wie einfach es heutzutage ist, komplexe
Programmier-Codes schnell zu erzeugen - mit Chat GPT sogar ohne die
Programmiersprache zu beherrschen."
- prinzipiell gilt das auch für automatisierte Berater. Doch wer steckt
dahinter? An diesem Beispiel greift Prof. Dr. Marcus Becker eine zentrale Frage
auf, die sich beim Einsatz von künstlicher Intelligenz (KI) immer eindringlicher
stellt. Umso mehr, als die auffällige Intransparenz von KI-Prozessen nahelegt,
dass dies fast methodischen Charakter hat. Der Experte der International School
of Management (ISM) zeigt, wo sich praktisch ansetzen lässt, um KI-Black Boxen
zu öffnen.
Mit Methoden des maschinellen Lernens beschäftigt sich Marcus Becker seit mehr
als fünf Jahren. Bei der Analyse der Lernmethoden von KI fasziniert den
Mathematiker am meisten die Anwendung seiner Disziplin: "Machine Learning
Algorithmen verbinden mehrere Teilbereiche der Mathematik auf überaus elegante
Weise. Was mich überrascht, wie einfach es heutzutage ist, komplexe
Programmier-Codes schnell zu erzeugen - mit Chat GPT sogar ohne die
Programmiersprache zu beherrschen."
Ergebnisse der KI faszinieren Fachwelt wie Öffentlichkeit, die viel Hoffnungen
auf diese Methode setzen, mit der vorhandene Sachverhalte herausgesucht und nach
dem Wahrscheinlichkeitsprinzip auf verblüffend brauchbare Weise kombiniert
werden. Hier hakt Becker ein. Will man diese komplexen Modelle nachvollziehen,
kommen ernste Fragen auf: "Künstliche neuronale Netze zählen zu den sogenannten
Black Box Algorithmen. Wir können im Vorhinein also nicht genau feststellen, wie
das Modell mit gegebenen Input-Informationen umgehen wird."
Fluch und Segen zugleich?
Deshalb regt Becker an, herauszufinden, nach welchen Kriterien der Algorithmus
Informationen als "beste oder passende Sachverhalte" identifiziert. Zumal es
quasi sich selbstverstärkende Algorithmen gibt: "Das geschieht durch
kontinuierliche Wechselwirkungen mit ihrer Umwelt. Hier spielt die Einschätzung
der Wahrscheinlichkeit, in welcher Art und Weise Algorithmen in Zukunft mit
ihrer Umwelt weiter interagieren können, natürlich eine maßgebende Rolle."
Als Stochastiker freut Becker sich darüber, wie gut die Anwendung von
Wahrscheinlichkeitstheorie in der Praxis funktioniert. Aber als Forscher fühlt
er sich auch der Wahrheitssuche verpflichtet. Es geht ihm dabei vor allem um das
Problem der Überprüfbarkeit. Künstlich erzeugte Vorhersagen durch KI sollte man
nicht ungeprüft übernehmen, zumal, wenn es um tragende Entscheidungen geht.
Wichtig wäre ein dokumentierter Nachweis für die Richtigkeit der KI-Ergebnisse:
"Nur so können Black Box Algorithmen als Hebel der menschlichen
Entscheidungskompetenz sinnvoll eingesetzt werden."
auf diese Methode setzen, mit der vorhandene Sachverhalte herausgesucht und nach
dem Wahrscheinlichkeitsprinzip auf verblüffend brauchbare Weise kombiniert
werden. Hier hakt Becker ein. Will man diese komplexen Modelle nachvollziehen,
kommen ernste Fragen auf: "Künstliche neuronale Netze zählen zu den sogenannten
Black Box Algorithmen. Wir können im Vorhinein also nicht genau feststellen, wie
das Modell mit gegebenen Input-Informationen umgehen wird."
Fluch und Segen zugleich?
Deshalb regt Becker an, herauszufinden, nach welchen Kriterien der Algorithmus
Informationen als "beste oder passende Sachverhalte" identifiziert. Zumal es
quasi sich selbstverstärkende Algorithmen gibt: "Das geschieht durch
kontinuierliche Wechselwirkungen mit ihrer Umwelt. Hier spielt die Einschätzung
der Wahrscheinlichkeit, in welcher Art und Weise Algorithmen in Zukunft mit
ihrer Umwelt weiter interagieren können, natürlich eine maßgebende Rolle."
Als Stochastiker freut Becker sich darüber, wie gut die Anwendung von
Wahrscheinlichkeitstheorie in der Praxis funktioniert. Aber als Forscher fühlt
er sich auch der Wahrheitssuche verpflichtet. Es geht ihm dabei vor allem um das
Problem der Überprüfbarkeit. Künstlich erzeugte Vorhersagen durch KI sollte man
nicht ungeprüft übernehmen, zumal, wenn es um tragende Entscheidungen geht.
Wichtig wäre ein dokumentierter Nachweis für die Richtigkeit der KI-Ergebnisse:
"Nur so können Black Box Algorithmen als Hebel der menschlichen
Entscheidungskompetenz sinnvoll eingesetzt werden."