data ethics

Priorisieren Sie Datenethik für langfristigen Erfolg

Jedes Unternehmen benötigt ethische Standards, um wettbewerbsfähig zu bleiben.

Über Moral lässt sich streiten – insbesondere beim komplexen Thema der Datenethik. In diesem neuen Bereich der ethischen Analyse wird untersucht, wie Unternehmen Daten unter Anwendung des Do-No-Harm-Ansatzes nutzen. In einer perfekten Welt hätte die Nutzung von Daten Vorteile für Kunden, Mitarbeiter und sonstige Interessengruppen.

Daten werden von einer Reihe von Organisationen mit jeweils unterschiedlichen Werten genutzt – von Regierungen bis hin zu Unternehmen. Diese Werte sollten der Ausgangspunkt für ein Programm zur Datenethik sein, das nach seiner Einführung für Transparenz bei der Datennutzung sorgt. Ein klar formuliertes Datenethikprogramm ermöglicht es Unternehmen, zu entscheiden, welche Punkte mit ihren Werten übereinstimmen und welche abweichen.

In den vergangenen fünf bis zehn Jahren haben sich Unternehmen darauf konzentriert, so viele Daten wie möglich zu sammeln. Die erfassten Daten werden dann zum Erstellen von Analysen oder in Machine-Learning-Workflows eingesetzt. Die Ansammlung großer Datenmengen kann ein Sicherheitsrisiko darstellen, wenn die Daten nicht korrekt verwaltet werden. Bei personenbezogenen Daten führt dies zu Datenschutzbedenken.

Meiner Erfahrung nach priorisieren die meisten Unternehmen Datenethik nicht – und das ist Teil des Problems. Der Fokus liegt in der Regel darauf, wie ein Unternehmen Daten nutzen kann, um einen Mehrwert für Aktionäre oder Kunden zu schaffen. Facebook beispielsweise gewinnt kontinuierlich Erkenntnisse aus Daten, um einen Mehrwert für seine Werbetreibenden zu schaffen – aber werden dabei auch ethische Standards eingehalten?

Warum Sie ein Datenethikprogramm brauchen

Unternehmen, die ein Datenethikprogramm bereitstellen, werden einen Wettbewerbsvorteil haben. Diese Unternehmen werden sich das Vertrauen von Kunden sichern, indem sie belegen, dass sie Datenschutz priorisieren und vollständige Transparenz mit einer ethischen Daten-Supply-Chain bieten können.

In einer ethischen Datenlieferkette verfolgt ein Unternehmen die Daten auf ihrem gesamten Weg und kann jede Phase genau erklären, während es gleichzeitig Compliance gewährleistet. Es geht um alle Phasen, die Daten von der Erfassung bis zum Ziel durchlaufen – z. B. die Optimierung eines Kundenerlebnisses oder die Verwendung von Daten für eine Geschäftsentscheidung.

Unternehmen, die nur an die unmittelbaren wirtschaftlichen Auswirkungen der Datennutzung denken, werden immer weiter zurückfallen. Fortschrittliche pansophische Unternehmen, die über ein Datenethikprogramm verfügen und ihre Kunden und Stakeholder sowie ihre Umweltverpflichtungen verstehen, sind für Kunden attraktiver. Zudem möchten Fachkräfte in der Technologiebranche für Unternehmen arbeiten, die ihren Werten entsprechen. Bewerber achten bei der Jobsuche vermehrt darauf, ob ein Unternehmen ein einsehbares Datenethikprogramm hat.

Apple behauptet von sich, einen ethischen Vorteil zu haben, was seine Daten angeht: Das Unternehmen gibt an, keine personenbezogenen Daten zu erfassen. Apple nutzt diese Botschaft als Unterscheidungsmerkmal, um sich von der Konkurrenz abzuheben.

Best Practices für Ihr Datenethikprogramm

Die Erläuterbarkeit von Daten sowie eine ethische Daten-Supply-Chain sind nur zwei der verschiedenen Elemente eines umfassenden Datenethikprogramms. Mit „Erläuterbarkeit von Daten“ ist Transparenz hinsichtlich der Nutzung von Daten und Algorithmen gemeint. So wird z. B. Aufschluss darüber gegeben, wie Entscheidungen von Machine-Learning-Modellen getroffen werden. Dies wiederum kann zur Erkennung von Verzerrungen beitragen. Die Anwendung von Datenerläuterbarkeit sorgt für die erforderlichen gegenseitigen Kontrollen für eine ethische Nutzung von Daten. So entsteht Transparenz im Hinblick auf Daten-Pipelines und darauf, wer wann und wie welche Daten nutzt.

Unternehmen beginnen gerade damit, sich im Vorfeld Gedanken über Datennutzung zu machen, um eine ethische Datenlieferkette zu entwickeln. Welches Problem sollen die Daten lösen? Welches Kundenerlebnis wird mit den Daten geschaffen? Müssen wir diesen Datensatz überhaupt erheben?

Die Offenlegung von Daten muss ebenfalls bedacht werden. Unternehmen müssen ermitteln, welche Daten für die verschiedenen Benutzer zugänglich sind und wie diese Daten verwendet werden. Es muss Schutzmaßnahmen geben, um den Datenzugriff aus ethisch fragwürdigen Gründen zu verhindern. Ein Angestellter in der Retailbranche sollte beispielsweise nicht in der Lage sein, auf die Kaufgewohnheiten einzelner Kunden zuzugreifen und diese einzusehen. Daten sollten auf individueller Ebene geschützt werden – diese Aussage spricht für die Anonymisierung von Daten, insbesondere im personenbezogenen Bereich. So könnten viele ethische Herausforderungen bewältigt werden.

So implementiert man ein Datenethikprogramm

Unterstützung seitens der Unternehmensleitung ist der erste Schritt auf dem Weg zur Einrichtung eines Datenethikprogramms. Die Führungsriege muss die Erwartung setzen, dass ethische Standards langfristig gewahrt werden. Im Rahmen von Mitarbeiterschulungen muss festgelegt werden, welche Handlungen im Hinblick auf Daten annehmbar und welche verboten sind. Zudem muss ein Datenethikausschuss eingerichtet werden, dem Vertreter verschiedener Unternehmensfunktionen angehören, die zur Entscheidungsfindung in strittigen Datennutzungsfällen beitragen können.

Bei einzelnen Projekten oder Initiativen sollten Sie frühzeitig mit der Planung beginnen, da es einfacher ist, Kontrollmechanismen gleich am Anfang einzuführen. Dazu gehört auch die genaue Gestaltung der Datenlieferkette, damit die richtigen Daten an den richtigen Stellen erfasst werden.

Auf Machine-Learning-Verzerrungen achten

Machine Learning wird immer wichtiger für Unternehmen. Unter anderem können damit Prozesse optimiert und ein höherer Mehrwert geschaffen werden. Zu den zentralen Ergebnissen unseres Jährlichen Forschungsberichts zu KI und Machine Learning 2022 gehörte die Erkenntnis, dass KI/ML jetzt die zweitwichtigste Technologie für IT-Strategie darstellt. Noch wichtiger ist lediglich Cybersicherheit. Wir sehen tagtäglich Beispiele dafür, wie weitverbreitet Machine Learning in unserem Leben geworden ist – von virtuellen Assistenten wie Alexa und Siri über Musikempfehlungen bis hin zum Vervollständigen von E-Mail-Text. Machine-Learning-Algorithmen werden von Menschen geschaffen. Es ist zwar möglich, diesen Prozess mithilfe von Code zu erweitern, doch es sind nach wie vor Menschen beteiligt.

Wo Menschen beteiligt sind, besteht die Gefahr der Voreingenommenheit – oft ganz unbeabsichtigt. Unternehmen sollten den Erstellungsprozess von Machine-Learning-Modellen sorgfältig untersuchen, um Voreingenommenheit zu verhindern. Es müssen Kontrollen eingerichtet sein. Ist die Datenstichprobe etwa groß genug? Sind die Daten repräsentativ für die betroffenen Gruppen? Mithilfe dieser Art von Fragen können Unternehmen sicherstellen, dass später keine betrieblichen Störungen auftreten.

Wenn Unternehmen diese Faktoren nicht berücksichtigen, kann es auch gesellschaftliche Folgen haben, keine ethische Datenstrategie zu haben. So verweigern beispielsweise Fintech-Unternehmen mit voreingenommenen Machine-Learning-Modellen möglicherweise geeigneten Bewerbern die Kredit- oder Darlehensgenehmigung. Die Voreingenommenheit kann auf Faktoren wie Ethnie, Geschlecht oder sozioökonomischem Status basieren. Die Korrelation ergibt vielleicht in einigen Fällen Sinn, in anderen Fällen könnte sie jedoch als ungerecht empfunden werden.

Dies war kürzlich der Fall bei einer Kreditkarte, die Apple und Goldman Sachs gemeinsam herausbrachten. Ein Softwareentwickler und seine Frau gaben dieselben Daten an, aber aufgrund geschlechtsspezifischem Ungleichgewichts erhielt der Ehemann einen Kreditrahmen, der 20 Mal höher war als der seiner Frau.

Der Aufstieg des Chief Ethical Officer

Viele große Technologieunternehmen wie Facebook und Google beschäftigen heute Datenethikteams. Und manche Unternehmen haben sogar eine/n Chief Ethical Officer eingestellt. Sind diese Teams und Führungskräfte jedoch in der Lage, Änderungen zu bewirken? Worin besteht ihr Edikt? Oder sind diese Rollen einfach eine Reaktion auf Druck von außen? Derzeit ist unklar, ob diese Teams wirklich effektiv sind, und wir werden gespannt mitverfolgen, wie sich diese Rollen entwickeln.

Alle Entitäten zur Verantwortung ziehen

Kunden müssen Fragen zur Nutzung ihrer personenbezogenen Daten stellen. Viele Leute wären wahrscheinlich überrascht, wenn sie erfahren würden, auf wie viele verschiedene Arten und Weisen Unternehmen Daten aus Klicks, Websites und Anwendungen erfassen und diese Daten möglicherweise sogar mit anderen Unternehmen teilen. Jede Anmeldung mit einem Passwort wird verzeichnet. Privatpersonen sollten Datennutzungshinweise lesen, um Aufschluss darüber zu erhalten, wie Unternehmen Daten nutzen.

Indem wir unsere Datennutzung verstehen und hinterfragen, können wir alle Beteiligten zur Verantwortung ziehen. Wir müssen sicherstellen, dass Unternehmen ihre Daten auf ethische Weise nutzen, da dies nicht nur Einzelpersonen, sondern auch die Gesellschaft beeinflusst.

 

Join the Conversation: Find Solve on Twitter and LinkedIn, or follow along via RSS.

Stay on top of what's next in technology

Learn about tech trends, innovations and how technologists are working today.

Subscribe

Modern CDO

Das Internet of Behaviors: Was ist das und wie beunruhigt sollten wir sein?

About the Authors

Nihar Gupta

General Manager, Data Services

Nihar Gupta

With over 10 years of experience working with high-growth SaaS/Tech companies, Nihar helps companies achieve their growth objectives through strategic partnerships, corporate development efforts, and executing cross-functional strategic initiatives. He brings significant breadth of experience across strategy, finance, product, and sales and marketing.

Read more about Nihar Gupta