Erfolgreiches Wirtschaften mit ökologischer, sozialer und gesellschaftlicher Verantwortung verbinden – bei kaum einem Thema ist diese Werteorientierung so wichtig wie bei Künstlicher Intelligenz (KI). Um diesem Anspruch gerecht zu werden, hat die Otto Group einen strategischen Guide für Responsible AI entwickelt. Fünf Grundprinzipien sollen künftig den verantwortungsvollen Einsatz von KI leiten. Über die Entstehung und Relevanz einer Orientierungshilfe für das KI-Zeitalter.
Mit den richtigen, kundenorientierten Use Cases verspricht künstliche Intelligenz großes wirtschaftliches Potenzial – nicht zuletzt auch im Handel. Die Otto Group hat dies früh erkannt und bereits konkrete Anwendungen entlang ihrer Wertschöpfungsketten etabliert. Gleichzeitig ist sich das Unternehmen auch seiner Verantwortung im Umgang mit der disruptiven Technologie bewusst, ganz im Sinne der Shareholder-Vision „Responsible commerce that inspires”. CEO Alexander Birken betont daher:
KI wird den E-Commerce der Zukunft entscheidend prägen – wenn wir ihr vertrauen können. Verantwortung ist der Schlüssel, um dieses Vertrauen aufzubauen – ein Prinzip, das das Handeln der Otto Group seit Jahrzehnten prägt. Auch im KI-Zeitalter bleibt dies unverändert. Ein verantwortungsvoller Umgang mit KI bedeutet, Innovation mit ethischen Prinzipien zu verbinden, um eine nachhaltige Zukunft für alle zu gestalten.
Im Auftrag des Konzern-Vorstands hat der Fachbereich Tech Strategy der Otto Group dieser Haltung folgend gemeinsam mit Data- und KI-Expert*innen aus der gesamten Unternehmensgruppe den „Responsible AI Guide“ entwickelt. Er soll künftig konzernweit als Kompass für den verantwortungsvollen Umgang mit künstlicher Intelligenz dienen. Was das konkret bedeutet, verrät Melissa Kühn aus der Otto Group Tech Strategy im Interview:
Warum habt ihr gemeinsam diesen neuen strategischen Guide entwickelt? Was war eure Motivation?
Melissa: KI ist eine riesige Chance, bringt aber auch eine große Verantwortung mit sich. Wir wollen sicherstellen, dass unsere KI-Projekte nicht nur technologisch fortschrittlich und wirtschaftlich sinnvoll sind, sondern auch ethisch und verantwortungsvoll. Verantwortung zu übernehmen, ist Teil der DNA der Otto Group. In einer neuen digitalen Ära, geprägt von KI, ist es unser Selbstverständnis, dass wir auch hier verantwortungsvoll handeln. Der Responsible AI Guide ist eine praxisnahe Handlungshilfe, um sich die vielen Aspekte einer verantwortungsvollen KI bewusst zu machen und in die Umsetzung zu bringen.
Wie habt ihr den Guide entwickelt? Immerhin ist die Otto Group dezentral organisiert und die Bedürfnisse der Konzerngesellschaften können recht unterschiedlich sein.
Melissa: Die KI-Anwendungsfälle sind zwar je nach Geschäftsmodell verschieden, aber im Kern lassen sich die Prinzipien für verantwortungsvolle KI sehr gut übertragen. Wir haben eng mit KI-Expert*innen aus der gesamten Otto Group zusammengearbeitet, um die Prinzipien und eine praxisnahe Checkliste zu entwickeln, die den Konzerngesellschaften übergreifend weiterhilft. Der Responsible AI Guide ist als Startschuss zu verstehen und wird mit neuer Regulatorik, technologischem Fortschritt und den Erfahrungen aus Ethik-Maßnahmen und Pilotprojekten regelmäßig weiterentwickelt und vertieft. Es war uns wichtig, eine klare Richtung vorzugeben und uns gemeinsam als Otto Group auf den Weg zu machen.
Was genau beinhaltet denn der Guide?
Melissa: Der Guide ist in fünf Hauptprinzipien unterteilt: Fairness, Transparenz, Datenschutz, Nachhaltigkeit und Governance. Jedes dieser Prinzipien wird durch eine Checkliste mit konkreten Empfehlungen ergänzt. Bei Fairness geht es unter anderem darum, ungewünschten Bias in den Daten und Algorithmen zu erkennen und zu minimieren. Zum Beispiel versteckte Vorurteile und Stereotype in den Trainingsdaten, die dann von der KI reproduziert werden könnten. Bei Transparenz geht es beispielsweise darum, transparent zu machen, wenn ein Mensch mit einer KI kommuniziert und die Entscheidungsprozesse so nachvollziehbar wie nötig und möglich zu machen.
An welchen Stellen in einem KI-Projekt kann der Guide zum Tragen kommen?
Melissa: Der Guide soll den Teams als Kompass dienen, der sie durch den gesamten Prozess eines KI-Projektes begleitet. Es geht darum, die Prinzipien von Anfang an mitzudenken und regelmäßig zu überprüfen, ob man auf dem richtigen Weg ist. Denn: Ein verantwortungsvoller Umgang mit künstlicher Intelligenz bedeutet, in allen Projektphasen Entscheidungen anhand unserer Werte und Prinzipien zu treffen – von der Konzeption über das Design bis hin zur Entwicklung, Implementierung und Nutzung. Die Teams sind eingeladen, basierend auf den Empfehlungen im Guide, ihre eigenen Prozesse und Strukturen zu entwickeln, die zu ihrer Arbeitsweise und ihren KI-Anwendungsfällen passen.
Und woran würden wir merken, dass der Responsible AI Guide hilfreich und damit erfolgreich ist?
Melissa: In einer idealen Welt würden wir mit Gewissheit sagen, dass alle Mitarbeiter*innen für faire und ethische KI sensibilisiert sind, die Entscheidungen unserer KI-Systeme so transparent wie möglich sind und wir KI überwiegend dafür einsetzen, die Menschen zu entlasten und Ressourcen zu schonen. Unsere Kund*innen und Mitarbeiter*innen würden mehr Vertrauen in uns und unsere KI-Produkte haben, weil sie wissen, dass wir verantwortungsvoll damit umgehen.
Im Bereich KI passiert derzeit sehr viel, die Entwicklungsgeschwindigkeit ist enorm – wie beeinflusst das den Guide? Wie geht’s damit weiter?
Melissa: Wir wissen, dass die Entwicklungsgeschwindigkeit hoch ist, und trotzdem kommen disruptive Einsatzmöglichkeiten von KI noch schneller als wir erwartet haben. Wir lernen täglich dazu, wie und wofür wir KI nutzen können. Die Regulatorik und die Transformationsfähigkeit von Organisationen kommen da nicht schnell genug hinterher. Unser Responsible AI Guide ist ein lebendiges Dokument, das wir regelmäßig überprüfen und anpassen, damit er mit den neuesten Entwicklungen Schritt hält. Die Grundprinzipien von Ethik und Verantwortung bleiben bestehen, aber die Diskussionen über Anwendungsfälle und die bestmögliche Umsetzung unserer Werte werden sich konstant verändern. Es ist wichtig, dass wir flexibel bleiben und neue Erkenntnisse und Technologien unvoreingenommen bewerten.
Vielen Dank für diese Einblicke, Melissa!
Melissa Kühn arbeitet im Otto Group Holding Fachbereich Tech Strategy an der konzernweiten KI-Strategie und ist Expertin für Responsible AI.
Ihre inhaltlichen Schwerpunkte sind Verantwortung, Transformation und Zukunftstechnologien. Zuvor hat sie sich als Digital Responsibility Managerin im CR-Bereich der Otto Group für eine umweltfreundliche Gestaltung der digitalen Transformation des Unternehmens eingesetzt.
