„Künstliche Intelligenz ist nicht nur eine Frage der Technologie, sondern auch der Ethik“
Künstliche Intelligenz eignet sich hervorragend zum Durchforsten und Analysieren von Daten. Ein ideales Werkzeug also für die Finanzwelt. Aber wie setzt man KI verantwortungsvoll und menschenorientiert ein? AI-Spezialist Jim Stolze hat dazu klare Vorstellungen. „Die ethischen Aspekte von KI erfordern besondere Aufmerksamkeit.“
„Vor fünf Jahren hielt ich in Amsterdam einen TEDx-Vortrag über künstliche Intelligenz“, erinnert sich Stolze. „Ich betonte damals, dass die Menschen keine Angst davor haben sollten, dass Roboter unsere Aufgaben übernehmen, sondern dass wir vor allem Angst vor dem ,Roboter in uns selbst‘ haben sollten. Den ganzen Tag über erledigen wir nämlich alle dumme Aufgaben, die uns nicht glücklich machen. Denken Sie etwa an das Abtippen von Zahlen in Tabellenkalkulationen wie Excel. Diese Programme sind besser als Buchhaltung auf Papier. Aber so wie uns Tabellenkalkulation vom Papier befreit hat, wird uns KI von der Tabellenkalkulation befreien.“
Keine Zeit mehr für nervtötende Aufgaben
Das Publikum reagierte zwar begeistert auf Stolzes Vorhersage, war aber noch nicht wirklich überzeugt. „Nachher wurde ich sogar als Techno-Optimist bezeichnet“, erinnert er sich lachend. „Aber inzwischen sind fünf Jahre vergangen. Die Art und Weise, wie Menschen auf KI schauen, hat sich doch ziemlich verändert. Das liegt zum Teil auch daran, dass wir derzeit mit enormem Personalmangel zu kämpfen haben. Je weniger Zeit Menschen während ihrer Arbeit mit dummen Aufgaben verbringen, desto besser. Der Business Case für den Einsatz einer KI-Anwendung ist daher jetzt sehr leicht zu erstellen.“
Zusätzliche Aufmerksamkeit für die ethische Seite
Stolze sieht, dass die Zeit des Experimentierens vorbei ist und dass immer mehr Unternehmen ernsthaft mit KI arbeiten. Er sieht auch, dass diese neue Phase zu neuen Fragen führt. Anfang dieses Jahres beschloss er, das Ruder herumzureißen: Er verkaufte Aigency, ein Unternehmen, das KI-Lösungen entwickelt, und ist seitdem einen Großteil seiner Zeit in dem von ihm mitgegründeten Keuringsdienst van Data (Prüfstelle für Daten) aktiv. „Wir sind sozusagen die ,Weißkittel‘, die bei Unternehmen die Daten auf ,Bias‘ überprüfen. Auch unterziehen wir die eingesetzten Algorithmen Stresstests, bei denen wir die Erklärbarkeit, Reproduzierbarkeit und Fairness prüfen. An dieser zusätzlichen Aufmerksamkeit für die ethische Seite der KI besteht jetzt großer Bedarf. Neben Dateningenieuren und einem Juristen sind daher auch zwei Ethiker und ein Philosoph in unserem Team.“
Sokratische Methode
Auch in der Finanzwelt besteht großer Bedarf an einer solchen zusätzlichen Überprüfung. So wandte sich bereits die niederländische Finanzaufsichtsbehörde AFM (Autoriteit voor Financiële Markten) an Stolze und sein Team – mit der Bitte, eine Blaupause für Finanzdienstleister zu erstellen, die eine KI-Anwendung entwickeln. „Wir sagen nicht, was sie tun sollen, sondern stellen Fragen. Welche Algorithmen verwenden sie? Auf welchen Datensätzen sind diese trainiert? Welche Daten verwenden sie und welche nicht? Wer hat diese Daten bereitgestellt? Und welche Labels wurden verwendet, um die Daten zu identifizieren und zu markieren? Frage für Frage gehen wir so immer tiefer. Die sokratische Methode also. Und das funktioniert gut, denn auf diese Weise finden Unternehmen schnell heraus, was noch beachtet werden muss.“
Wir sagen nicht, was Unternehmen tun sollen, sondern wir stellen Fragen. Welche Algorithmen verwenden sie? Und welche Daten? So gehen wir in die Tiefe.
– Jim Stolze, Mitbegründer Keuringsdienst van Data (Prüfstelle für Daten)
In wenigen Sekunden erledigt
„Im Bereich der künstlichen Intelligenz passieren derzeit in der Finanzwelt interessante Dinge“, fährt er fort. „So ist es bereits möglich, über eine App auf Ihrem Mobiltelefon eine Wohnversicherung abzuschließen. Das Unternehmen hinter dieser App kann dann auf Basis Ihres Standorts und der Daten beispielsweise des Wohnungsmarktes und der Umgebung blitzschnell bestimmen, welchen Betrag Sie zahlen müssen. Der Abschluss der Versicherung ist daher in wenigen Sekunden erledigt.“
Bei diesem Beispiel handelt es sich um supervised learning: Der Algorithmus weiß genau, welche Daten wichtig sind und wie damit umzugehen ist. Bei unsupervised learning wird es oft noch interessanter. In diesem Fall kann ein Algorithmus auf Basis verschiedener Parameter angeben, welche Transaktionen einander ähneln und daraus Cluster bilden. Bleiben Transaktionen übrig, die in keines der Cluster passen und mit denen der Algorithmus eigentlich nicht zurechtkommt? Dann ist das laut Stolze das „Körbchen“, auf das man gerade achten sollte. „Die Chance ist groß, dass Sie dort Informationen finden, die zu neuen Erkenntnissen führen. Ich sehe KI daher auch eher als eine Möglichkeit der Zusammenarbeit zwischen Mensch und Maschine. Künstliche Intelligenz ist nichts Magisches und auch nichts, was ein Eigenleben führen wird. Ich sehe es vor allem als ein mächtiges Werkzeug, das Menschen in vielerlei Hinsicht weiterhelfen kann. In dieser Hinsicht bin ich immer noch ein Techno-Optimist.“
Ich sehe KI eher als eine Möglichkeit der Zusammenarbeit zwischen Mensch und Maschine. Es ist ein mächtiges Werkzeug, das Menschen weiterhelfen kann.
– Jim Stolze, Mitbegründer Keuringsdienst van Data (Prüfstelle für Daten)
Vorhersagen, wann Rechnungen bezahlt werden: die KI-Lösung von Payt
Algorithmen werden immer ausgefeilter. Ebenso die Qualität der Daten. Und während es für Menschen sehr schwierig ist, Tausende von Finanztransaktionen zu durchforsten und dabei nach Abweichungen zu suchen, sind KI-Anwendungen darin gerade sehr gut. Daher hat Payt selbst eine KI-Anwendung entwickelt. „Beim Bau unserer KI-Anwendung haben wir klein und einfach angefangen“, betont Laura Baakman, Software-Ingenieurin bei Payt. „Und das bauen wir jetzt Schritt für Schritt aus. Dabei schauen wir zunächst, wie wir dem Algorithmus beibringen können, so genau wie möglich vorherzusagen, wann Debitoren ihre Rechnung bezahlen werden. Dabei spielen viele verschiedene Faktoren eine Rolle. Um welche Branche handelt es sich? Geht es um Privatpersonen oder Unternehmen? Wir fügen immer mehr Parameter hinzu. Dabei gibt es auch Dinge, die eine Herausforderung darstellen. Das Hinzufügen der Postleitzahl zum Beispiel. Denn ist es wünschenswert, das Viertel, in dem jemand wohnt, miteinzubeziehen? Wir selbst finden es fraglich. Es geht nicht nur darum, was technisch möglich ist, sondern auch darum, wie wir dies auf eine gesellschaftlich verantwortliche Weise tun können.“
Die Praxis
Das KI-Modul von Payt ist seit Anfang 2022 in der Beta-Phase bei einigen Firmenkunden. Bei jeder Rechnung sehen die Mitarbeitenden der Debitorenbuchhaltung, wie hoch die Wahrscheinlichkeit ist, dass eine Rechnung zu spät bezahlt wird und welches das erwartete Zahlungsdatum ist. Mit diesen Informationen kann die Debitorenbuchhaltung ihre Vorgehensweise besser bestimmen. So kann die Mitteilung, dass eine Kundin oder ein Kunde wahrscheinlich zu spät zahlen wird, dazu führen, dass dieser Debitor etwas schneller eine Zahlungserinnerung erhält als üblich. Langfristig wird Payt die Möglichkeit bieten, auf Basis der Zahlungschancenberechnung zu automatisierten Folgeaktionen überzugehen. „Das tun wir jedoch sehr sorgfältig und mit Aufmerksamkeit für alle Aspekte der KI, einschließlich der ethischen. Der Anfang ist gemacht und wir freuen uns darauf, das KI-Modul in naher Zukunft allen Kundinnen und Kunden zur Verfügung zu stellen. Denn eines ist sicher, die Möglichkeiten sind enorm.“
Presseartikel, veröffentlicht auf FD.nl: 03.04.2022
