Anzeige
Anzeige
Anzeige
Anzeige
Fotolia 223201510 Subscription Monthly M
E-Commerce KI Künstliche Intelligenz

Ethische Grenzen der künstlichen Intelligenz im Online-Shop

In Berlin ist im September die Datenethikkommission der Bundesregierung an den Start gegangen. Sie soll bis 2019 darüber entscheiden, wie und wann künstliche Intelligenz eingesetzt werden kann und darf. Was bedeutet das für Online-Shop-Software und deren Anbieter in Deutschland? Welche ethischen Konflikte bringt die Optimierung der technischen Möglichkeiten mit sich?

Anzeige
Anzeige
Anzeige

Künstliche Intelligenz (KI) ist allgegenwärtig. Im E-Commerce kann sie dabei helfen, den Umsatz eines Online-Shops durch Personalisierung zu erhöhen, indem sie durch die gezielte Verwendung der gesammelten Daten Mehrwerte für den Kunden erzeugt. So können einem Nutzer etwa in einem Online-Shop Wanderschuhe angezeigt werden, wenn der Trip in die Alpen noch nicht mal geplant ist.

Nun soll eine Datenethikkommission eine Antwort auf ethische Fragen zum Einsatz von KI bei Online-Shops finden. Ein Überblick.

Mit welchen Mechanismen werden in Online-Shops Vorhersagen zum Kauf getroffen?

Bei Webshops geht es weniger darum, explizit Vorhersagen zum Kauf zu treffen, als vielmehr den Kunden schnell zu Produkten zu führen, die ihn interessieren könnten, und ihn bei der Kaufentscheidung zu unterstützen.

Hier wird natürlich KI eingesetzt. Künstliche Intelligenz existiert schon lange und ist in den vergangenen Jahren leistungsstärker geworden, was vor allem an der verbesserten Hardware liegt.

Anzeige

Dabei sollte man grundsätzlich zwei Ansätze unterscheiden: Das Interesse der sogenannten „starken KI“ ist es, eine allgemeine, der menschlichen ähnliche Intelligenz zu schaffen. In diese Richtung geht es, wenn etwa Big Data-Verfahren eingesetzt werden, um möglichst viele detaillierte Nutzerdaten zu sammeln. Diese werden aus allen möglichen Kanälen bezogen, um den Nutzer zu modellieren und so zu antizipieren, was er braucht. Diese Herangehensweise findet man häufig bei der Platzierung von Werbung.

Call To Action 1200X1200 Lead September
Fokussier dich!

Die neue LEAD-Ausgabe entführt dich in die Welt der Fotografie. Welche Rolle sie und ihre digitale Weiterverwertung heute spielen und was es für Möglichkeiten gibt, erfährst du in 3 spannenden Geschichten im Heft. Aber auch Themen wie E-Sports, künstliche Intelligenz und Marketingtechnologien sind Teil der aktuellen Ausgabe. LEAD 03/18 erhältst du am Kiosk, als E-Paper oder im Abo.


Sogenannte „schwache KI-Systeme“ dagegen nutzen selbst-lernende Verfahren und semantische Methoden dazu, spezifische Detailprobleme zu lösen. Im Bereich des Online-Shoppings kann das so aussehen, dass sich das KI-System auf die Verhaltensspuren beschränkt, die ein Nutzer in einem spezifischen Webshop hinterlässt; auf Grundlage von umfangreichen Produktdaten versuchen diese KI-Systeme herauszufinden, was der Nutzer sucht.

Entwickelt man diesen Ansatz weiter, erreicht man eine „dialogbasierte KI“. Diese dialogbasierte KI lernt jeweils in Echtzeit aus den situativen Reaktionen eines Kunden auf Vorschläge, die ihm das System gemacht hat.

Sie imitiert eigentlich das Verhalten eines menschlichen Verkäufers in einem realen Geschäft, ist also eine Art „digitaler Verkäufer“. Gefüttert ist diese Art der KI vor allem mit Branchenwissen. Die Verarbeitung von Wissen dieser Art nutzt auch semantische Verfahren. Aber auch in der Platzierung von Werbung könnte dialogbasierte KI erfolgreich eingesetzt werden.

Welche ethischen Bedenken gibt es beim Einsatz von KI im Online-Shop?

Für mich ist der kategorische Imperativ ein guter Ratgeber beim Umgang mit KI. Oder anders ausgedrückt: „Nimm dein Gegenüber als Person ernst“. Die ethische Weichenstellung gibt eigentlich schon die Wahl des Ansatzes vor. Nutze ich einen dialogbasierten Ansatz, so ist die Privatsphäre des Kunden automatisch gewahrt.
Denn ich reduziere dabei die gesammelten Kundendaten auf ein Minimum.

Der Betreiber dialogbasierter Empfehlungs-Services, die meistens als „software as a service“ angeboten werden, kennt in der Regel die Identität eines betreffenden Kunden überhaupt nicht und braucht sie auch nicht zu kennen: sie wird dem Service als eine zufällige, künstlich generierte Zeichenkette (hashkey) übermittelt.

Das Nutzerverhalten wird dabei nicht Shop-übergreifend getrackt. Wie schon gesagt, braucht man im Gegenzug bei dialogbasierten Ansätzen sehr differenzierte Produktdaten, die aber die Privatsphäre des Kunden nicht berühren.

Das bereits erwähnte „Angebot von Wanderschuhen“ funktioniert bei dialogbasierter KI natürlich nicht. Hierfür muss ich mich auf gesammelte Kundendaten beziehen. Und dann wird die ethische Grundlage schnell prekär. Denn diese Vorgehensweise nimmt meines Erachtens den Kunden als Person mit entsprechenden Persönlichkeitsrechten nicht ernst.

Im Übrigen halte ich es für einen Mythos, dass Empfehlungen, die mittels extensiver Nutzung von Kundendaten generiert werden, besser nutzbar seien als dialogbasierte Empfehlungen. Entsprechende Vergleiche, die wir durchgeführt haben, zeigten eher das Gegenteil. Dialogbasierte Methoden sind im E-Commerce keine Exoten, sondern durchaus gängig.

Teaserbild Neu
Minimal-Onliner oder Technik-Enthusiast?

Tinder ersetzt die Bar, Alexa die Sekretärin. Die digitale Welt ist mit der realen Welt längst eins geworden. Nur will die Realität nicht jeder wahrhaben. Wie souverän bewegst du dich im vernetzten Leben?

Welchen Beitrag kann die Datenschutzethikkommission der Regierung leisten?

Meines Erachtens nützt es nichts, immer mehr Einzelregeln zum Umgang mit Daten einzuführen; man sollte vielmehr einen Blick auf die Wurzeln des Gesamtgeschehens werfen.

Die Gretchen-Frage ist, ob wir ein humanistisches Menschenbild fördern wollen oder ob wir einer aus der Bahn geratenen Technik- und Wissenschaftsgläubigkeit, namentlich dem Transhumanismus, folgen, wie ihn etwa manche Denker und Unternehmen des Silicon Valley vertreten.

Diese Denkrichtung sieht technologischen Fortschritt als Erweiterung der menschlichen Möglichkeiten. Meiner Ansicht nach ist diese philosophisch naiv, verspricht aber enorme Gewinne. Wenn man schon „nach der Mutter aller Probleme“ fragt, dann ist das für mich der ungebremste Siegeszug des Transhumanismus, der uns in Form der „starken KI“ in einer neuen Eskalationsstufe entgegenschlägt.

Der kürzlich in China eingeführte „Social Score“ etwa sollte uns eine eindringliche Warnung sein, wohin ungebremste Technik führen kann. Dialogbasierte KI, wie wir sie beispielsweise in Online-Shops einsetzen, kann im Gegenzug als Beispiel dafür dienen, dass KI auch ethisch vertretbar eingesetzt werden kann.

Mit der Weiterentwicklung solcher KI-Systeme können wir uns eine Identität schaffen, die nicht nur ein Wettbewerbsvorteil ist, sondern sich auch mit unseren humanistischen Idealen vereinbaren lässt.

Über den Autor: Michael Bernhard ist Geschäftsführer des Karlsruher Unternehmens epoq internet services GmbH, das er gemeinsam mit Thorsten Mühling gegründet hat. Nach seinem Studium der Physik und Philosophie konzentrierte er sich auf das Thema künstliche Intelligenz. In den letzten 25 Jahren entwickelte er viele neue Verfahren und Algorithmen in diesem Bereich, die auch beim Software-as-a-Service-Hersteller epoq zum Einsatz kommen. Er tritt für einen Umgang mit künstlicher Intelligenz ein, der die Privatsphäre des Nutzers respektiert.

Anzeige
Anzeige
Verlagsangebot
Anzeige
Anzeige
Aktuelle Stellenangebote
Alle Stellenangebote