Haha, dieses Algorithmus Problem ist aber real! (Politik)

DomJay, Köln, Montag, 15.05.2023, 16:47 (vor 954 Tagen) @ FourrierTrans
bearbeitet von DomJay, Montag, 15.05.2023, 17:00

Es ist nicht so schwer zu verstehen.

Schau: Es gibt genügend Beispiele, in denen Algorithmen zu unterschiedlichen Bewertungen kommen, wenn sämtliche Eingabeparameter dieselben sind, eine Person aber in einem Fall ein Mann und im anderen Fall eine Frau ist.

Im Fall der Kreditvergabe ist z.B. völlig egal, ob man den Kredit an den Mann besser auch nicht vergeben hätte oder ob man der Frau den Kredit auch hätte geben sollen: In beiden Fällen wird die Frau objektiv benachteiligt. Und solche Fälle gibt es zuhauf.

Nein wird die Frau nicht. Es ist keine Benachteiligung das individuelle Ausfallrisiko einer Person zu ermitteln. Es geht darum faule Kredite zu verhindern. Wenn ich als Mann mit 75 Jahren einen Kredit über 5 Jahre beantrage werde ich eventuell keinen Bekommen, die Frau aber schon. Warum? Weil es dann plötzlich nicht eine Schwangerschaft oder Elternzeit ist, die relevant wird. Es wird durch die KI erkannt werden, dass ich statisch 1,3 Jahre länger einen Kredit haben möchte als ich leben sollte. Bei der Frau sagt die KI, im Schnitt 83,5 Jahre
also 3 Jahre länger als der Kredit läuft. Wahrscheinlich, da wir beide an der Grenze zur Ablehnung sind, was unsere Außenministerin aber für irrelevant hält, weil Frau oder nicht die Frage ist, wird der Zinssatz bei der Frau der Horror und ich bekomme nichts.

Es ging aber nicht um irgendwelche Beispiele von KI-Problemen, sondern um genau das, was Frau Baerbock genannt hat.
Also noch einmal ganz konkret gemacht. Die HR-Bord Chefin in der Bude, in der ich arbeite, verdient knapp 2,5 Millionen Euro pro Jahr (AG, öffentlich einsehbar), ihr Mann deutlich weniger und hat auch mehr Elternzeit gemacht. Die Dame kriegt also keinen Kredit, wenn sie diesen bei ihrer SPK oder wo auch immer anfragt, weil der Algorithmus sie als Frau identifiziert? Weil das ist es ja, was Frau Baerbock behauptet hat, in sehr wildem Kauderwelsch. Ist das so?

Das ist genau der Schwachsinn. Es ist eine Methode der eigentlich extremen Ränder. Ein Grenzbeispiel, welches es nicht gibt.

Und was ist die Forderung? Da das Risiko der Person nicht verschwindet für die Bank, bliebe ja nur: Kein Kredit für Niemanden.