Anzeige
Anzeige
Ki Systeme I Stock 970317224 I Stock
Künstliche Intelligenz verspricht branchenübergreifendes Wachstum und gesellschaftlichen Fortschritt (Bild: iStock)
KI Strategie Führung

KI-Systeme: Schutz vor verzerrten Algorithmen ist ein Wettbewerbsvorteil

Künstliche Intelligenz verspricht branchenübergreifendes Wachstum und gesellschaftlichen Fortschritt. Peter Breuer von McKinsey empfiehlt Organisationen, den Umgang damit zu einem strategischen Teil des Risikomanagements machen - denn nur so können sie verantwortungsbewusst davon profitieren.

Anzeige
Anzeige

Technologische Entwicklung fördert Wohlstand und auch Wohlergehen jenseits des Materiellen. Das globale Bruttosozialprodukt ist 23-mal höher als vor der ersten industriellen Revolution, die Lebenserwartung um 245 Prozent gestiegen und die Arbeitszeit um 49 Prozent gesunken. Doch technologische Entwicklungen bringen auch neue Risiken mit sich, die in gleichem Maße angesprochen werden müssen.

Künstliche Intelligenz (KI) steht aus unterschiedlichen Gründen besonders unterm Brennglas. Setzt ein Kreditkartenunternehmen KI-Technologie ein, um Betrug in praktisch Echtzeit zu erkennen und direkt zu reagieren, hilft das Kunden und Unternehmen. Aber was, wenn der Algorithmus nicht so funktioniert, wie er soll? Was, wenn er etwa Menschen mit bestimmten Namen, Wohnorten oder einem bestimmten Geschlecht deutlich schneller die Karten sperrt als anderen? Die Folgen könnten schwerwiegend sein.

(Un)bewusste Vorurteile ausschalten

KI-Systeme haben zwei grundlegende Schwachstellen: Die eigentlichen Algorithmen und die Datenbasis, auf der sich die Programme selbstständig entwickeln. Beide sind anfällig für dasselbe Problem: (un)bewusste Vorurteile und Unwuchten, sogenannte Biases. Organisationen müssen sich dieser Herausforderung mit einem effektiven KI-Risikomanagement annehmen, wenn sie das Feld nicht ihrer Konkurrenz überlassen wollen.

Anzeige

Die meisten Führungskräfte haben nur wenig Erfahrung damit, wie KI die verschiedenen Elemente ihrer Organisation berührt – von der Softwareseite über die Datenschätze bis hin zur Zusammenarbeit von Menschen und technischen Systemen. Aus diesem Grund haben C-Level es oftmals schwer, potenzielle Risiken und Schwachpunkte ihrer KI-Systeme auszumachen. Das kann fatale Folgen haben. Denn um verzerrte Algorithmen und Biases in der Datenbasis zu verhindern, braucht es vor allem eines: Ein Verständnis dafür, wie komplex, nuanciert und vernetzt das Thema ist.

Viel Potenzial – in beide Richtungen

KI-Systeme haben die Möglichkeit, die Entscheidungsfindung auf allen Ebenen fairer und objektiver zu machen. Das ist nicht nur Theorie: Eine Studie aus dem Jahr 2018 hat beispielsweise festgestellt, dass Entscheidungen im Justizwesen, die auf der Basis von KI-Systemen getroffen werden, Unterschiede bezüglich der Hautfarbe verkleinern können.

Doch dass KI-Systeme menschlichen Fehlentscheidungen vorbeugen, ist kein Automatismus. KI-Systeme können menschliche und gesellschaftliche Vorurteile reproduzieren, wenn sie nicht frei von Verzerrungen sind – und das schneller, als es Menschen möglich wäre. Um dies zu verhindern, ist deshalb ein strategisches Risikomanagement mit Blick auf Vorurteile und Biases innerhalb von KI-Systemen wichtig.

Auch interessant: Schluss mit der KI-Angstmacherei!

Prinzipien für das KI-Risikomanagement

CEOs, Experten und andere Entscheidungsträger sollten sich an erster Stelle Klarheit über das Risiko von verzerrten KI-Systemen und ihren Konsequenzen verschaffen – und bereits an diesem Punkt absehbare Schwachpunkte und Fehlerquellen identifizieren. Dazu braucht es einen multidisziplinären Ansatz, der die Perspektiven aller relevanten Teile der Organisation miteinbezieht.

Wie dies in der Praxis aussehen kann, zeigt etwa das Beispiel einer prominenten – und in diesem Fall anonymisierten – europäischen Bank, die KI-Systeme unter anderem für die Optimierung ihres Call-Centers, ihrer Hypothekenvergabe und ihres Finanzmittel-Managements einsetzt. Der COO der Bank brachte Experten aus den Business-, IT-, Sicherheits- und Risikobereichen zusammen, um Risiken abzuschätzen und zu priorisieren. Das Ergebnis war eine strukturierte Risikoidentifikation, die auf Basis der Priorisierung eine sinnvolle Zuteilung von Zeit und Ressourcen möglich machte. Das ist aber nur der Anfang.

Die komplette Organisation mitnehmen

Wenn Klarheit darüber geschaffen ist, welche Risiken wie dringend behoben werden müssen, braucht es an zweiter Stelle robuste Kontrollsysteme – und zwar durch die gesamte Organisation hinweg. Die Entwicklung der KI-Systeme muss dringend in nachvollziehbare und kontrollierbare Bahnen gelenkt werden – in Kombination mit internen Richtlinien, Testverfahren und Notfallplänen sowie passenden Aus- und Weiterbildungsangeboten für die Mitarbeiter.

Die bereits erwähnte europäische Bank hat dazu belastbare Entscheidungsprinzipien erstellt, die mit ein klares Ziel haben: festzulegen, an welchem Punkt und auf welche Weise KI-Systeme eingesetzt werden können, wenn sie die Finanzsituation der Bankkunden berühren. So muss beispielsweise in bestimmten Situationen ein menschlicher Mitarbeiter die Freigabe erteilen, bevor eine durch KI gewonnene Empfehlung an Kunden weitergegeben wird. Außerdem unterzog die Bank ihr bisheriges Risikomanagement einer intensiven Prüfung, um mögliche Schwachstellen zu beseitigen und nötige Schutzmechanismen auf- und auszubauen.

Es ist wichtig, etwaige risikobasierte Vorkehrungen gegenüber Biases in KI-Systemen an die Risiken anzupassen und das Thema mit der nötigen Tiefe zu durchdringen. Dabei kommt es etwa auf die Komplexität der eingesetzten Algorithmen an, wie umfangreich und vielfältig die verwendeten Daten sind und auch, wo und auf welche Weise Menschen eingreifen. Entsprechend müssen die Vorkehrungen immer individuell gestaltet werden, was weiter die Anforderung an die strategische Planung einer solchen Risiko-Analyse demonstriert.

Biases verhindern wird zum Wettbewerbsvorteil

An Ende gilt, dass es noch viel über das effektive Risikomanagement von KI-Systemen zu lernen gibt – und das wird auch vorerst so bleiben. Die Technologie ist noch relativ neu und entwickelt sich ständig weiter. Eines aber ist bereits jetzt absehbar: Sicherzustellen, dass die Ergebnisse von KI-Systemen ausgewogen, fair und frei von Biases sind, wird einer der zentralen Erfolgsfaktoren von Unternehmen des 21. Jahrhunderts sein. Folgende sechs Schritte können erste, effektive Impulse dafür bieten:

  • Die Chancen und Risiken von KI-Systemen von Anfang an in strategische Überlegungen miteinbeziehen.
  • Prozesse und Maßnahmen etablieren, um KI-Systeme auf Biases zu testen und die notwendigen Anpassungen vorzunehmen.
  • Sachliche Diskussionen über Biases in der menschlichen Entscheidungsfindung anstoßen.
  • Thematisieren, wie Menschen und Maschinen bestmöglich zusammenarbeiten können.
  • Mehr in multidisziplinäre Forschung zu Biases investieren und mehr Daten zugänglich machen.
  • Diversität im KI-Sektor fördern, um die gesellschaftliche Vielfalt abzubilden und dadurch Verzerrungen und Vorurteilen effektiver vorzubeugen.

Organisationen sollten nicht zögern, sich diesem Thema zu widmen. Denn je teurer die Konsequenzen fehlerhafter KI-Systeme werden und je eingehender sich Organisationen mit den Risiken auseinandersetzen müssen, desto mehr wird die Fähigkeit, Biases zu erkennen und zu verhindern zu einem neuen Wettbewerbsvorteil werden. Eine Alternative dazu, dies strategisch aufzugreifen, gibt es nicht.

Das könnte dich auch interessieren: Künstliche Intelligenz braucht kreative Intelligenz

Peter Breuer ist Senior Partner bei der Unternehmens- und Strategieberatung McKinsey. Als herausragender Experte für Big Data Analytics unterstützt er Klienten dabei, Spitzenleistungen entlang der gesamten Wertschöpfungskette zu erzielen.

Lead 4 Cta 1200X1200 V3 July 006
Made in China vs. Made in Germany

China arbeitet an der Zukunft, während wir uns auf der Vergangenheit ausruhen! Bis 2025 will das Reich der Mitte zum Technologieführer weltweit werden. Warum China von der Copy-Cat zum Vorreiter geworden ist und was die EU jetzt noch tun kann, liest du jetzt im aktuellen LEAD Bookazine 2/2019.

Anzeige
Verlagsangebot
Anzeige
Aktuelle Stellenangebote
Alle Stellenangebote
Anzeige