Soll das jetzt besser KI entscheiden?
VON MORITZ VOSS
Würden Sie eine KI als Ministerin vorziehen? Seit 2025 ist das in Albanien politische Realität. Die erste KI-Ministerin der Welt, Diella, entscheidet über die Vergabe von öffentlichen Aufträgen und soll Korruption verhindern. Die Idee einer KI in der Regierung ist also nicht weit hergeholt, auch weil sie in Behörden längst eingesetzt wird. Entscheidungen sollen so effizienter, neutraler und damit besser als bisher sein. Das klingt verführerisch – erzählt aber nur die halbe Wahrheit.
Tatsächlich übernehmen sogenannte „automatisierte Entscheidungssysteme” (ADM-Systeme) immer häufiger Entscheidungen, die Menschen im Alltag betreffen. Sie entscheiden über Jobbewerbungen, Kreditvergaben oder bei der Vergabe staatlicher Leistungen. Der Vorteil: Sie können große Datenmengen auswerten, Muster erkennen und Verwaltungen entlasten. Doch sie bringen gleichzeitig erhebliche Risiken mit sich.
Dabei hält sich ein gefährlicher Mythos: Die Idee, KI sei neutral. In der Praxis reproduzieren solche Systeme jedoch häufig jene Ungleichheiten, die sie überwinden sollen. Denn sie basieren auf historischen Daten, die alles andere als neutral sind. Wird das zur Grundlage automatisierter Entscheidungen, verschwindet Diskriminierung nicht, sondern wird in der Zukunft fortgeschrieben.
Besonders deutlich wird das beim „Predictive Policing” (vorausschauende Polizeiarbeit). Ein Algorithmus stuft bestimmte Viertel als gefährlich ein. Dort kontrolliert die Polizei dann verstärkt und erfasst deshalb auch mehr Straftaten. Diese Daten bestätigen die Vorhersage des Algorithmus, sodass ein Kreislauf entsteht. So werden bestehende Vorurteile und Diskriminierung gegenüber ärmeren Vierteln verstärkt, während Kriminalität in wohlhabenden Gegenden weniger sichtbar bleibt.
Gefährlich wird es, wenn diese Entscheidungen im Dunkeln bleiben. Viele dieser Systeme funktionieren wie Black Boxes: Es bleibt unklar, welche Daten, Kriterien oder Gewichtungen zu einer Entscheidung geführt haben. Wer aber nicht weiß, warum ein Gebiet stärker überwacht wird, oder eine Sozialleistung abgelehnt wird, kann sich dagegen kaum wehren. Während der Einsatz dieser Systeme wächst, bleibt die Transparenz auf der Strecke.
Genau hier liegt die demokratische Herausforderung. Bisher ist unklar, was passiert, wenn eine Benachteiligung nicht von einem Menschen, sondern einem Algorithmus ausgeht. Ohne ausreichend Schutz und Transparenz drohen Bürgerrechte verletzt und demokratische Rechenschaftspflicht ausgehöhlt zu werden.
Die Antidiskriminierungsbeauftragte, Ferda Ataman fordert deshalb, den Bereich KI und Algorithmen in das Allgemeine Gleichbehandlungsgesetz (AGG) aufzunehmen. Zudem soll es einen Auskunftsanspruch für Betroffene geben, sodass Entscheidungen nachvollziehbar sind. AlgorithmWatch fordert darüber hinaus verpflichtende Folgenabschätzungen, unabhängige Kontrollstellen und Zugang zu Daten für Forschung im öffentlichen Interesse.
Doch Regulierung allein beantwortet nicht die Grundfrage: Wo sollte KI überhaupt mitentscheiden? KI kann helfen, Verfahren effizienter und auch gerechter zu machen. Aber ihre Entscheidungen hängen von Trainingsdaten, Regeln und Nutzung ab. Hier entscheidet sich letztlich, ob das Versprechen besserer Entscheidungen eingelöst wird oder das Vertrauen in die Demokratie verspielt wird.
Diella äußerte sich bei ihrer Antrittsrede dazu übrigens so: „Ich möchte Sie daran erinnern, dass die wirkliche Gefahr für die Verfassung nie die Maschinen waren, sondern die unmenschlichen Entscheidungen der Machthaber.“
ADM-Systeme („Automated Decision-Making Systems“) sind digitale Systeme, die auf Basis von Algorithmen menschliche Entscheidungen automatisieren, unterstützen oder ersetzen. Oft kommt dabei künstliche Intelligenz zum Einsatz. Typische Anwendungsbereiche sind Kreditvergabe, Polizeiarbeit oder Sozialleistungen.