Digitale Ethik für Transparenz, Fairness, Chancengleichheit und Sicherheit

14. April 2023 / Gespräch mit Sabine Singer, MBA, Digital Ethics Coach

Sabine Singer ist passionierte Expertin für technische Innovationen und ihr Herz schlägt für die Verbindung von Mensch und Technologie, um nachhaltige, wertvolle und zukunftsweisende Geschäftsmodelle zu schaffen. Bei der Data Excellence Konferenz hat sie in ihrer Keynote „Digitale Ethik für nachhaltige digitale Geschäftsmodelle in Zeiten von ChatGPT & Co“ das so wichtige Thema der digitalen Ethik aufgegriffen. 

ADV: Das Gender Pay Gap ist ein bereits anerkanntes, wenn leider noch nicht gelöstes, Problem. Nun gerät das Gender Data Gap verstärkt ins Blickfeld. Was genau beschreibt der Begriff? Welche Konsequenzen hat er für die Frauen – und die Gesellschaft?

Sabine Singer: Das Gender Data Gap ist ein ernstzunehmendes Phänomen, das die Ungleichheit zwischen den Geschlechtern in Datensammlungen repräsentiert. Diese Ungleichheit führt zu einer verzerrten Darstellung der Realität und beeinträchtigt somit natürlich auch die Zuverlässigkeit von generativen KI-Modellen. 

Ein Beispiel, das dies verdeutlicht, ist die Spracherkennungstechnologie. Systeme wie Siri oder Alexa haben Schwierigkeiten, weibliche Stimmen zu erkennen. Bekannt ist auch der Fall von Amazon: Bei der Verwendung von KI-gestützter Software im Recruiting wurden Bewerberinnen benachteiligt. Trotz Erkennung des Problems konnte der Fehler nicht mehr korrigiert werden, die teuer entwickelte Software musste außer Betrieb genommen werden. 

Sogar in der medizinischen Diagnostik gibt es Probleme. Krankheiten werden nicht erkannt, weil Studiendaten von weiblichen Patientinnen unterrepräsentiert sind.

Die Standard-Größen von Klaviertastaturen, chirurgische Handschuhe, Sicherheitskleidung, etc. sind nicht passend für Frauen.

KI-Modelle, die auf einseitigen Mustern oder alten Daten basieren, schreiben die Ungerechtigkeiten der „old economy“ fest. Das führt zu einer fortlaufenden Marginalisierung von Frauen und diskriminiert unterrepräsentierte Gruppen. Dazu kommt, dass bei steigender Datenmenge samt hoher Rechenleistung schnell sogenannte „black-boxes“ entstehen, also KI-Modelle, deren Ergebnisse nicht nachvollziehbar oder justierbar sind.

Wir sollten uns der Tatsache bewusst sein, dass die bestehenden Datensätze die Vorurteile und Fehler der Vergangenheit nicht nur automatisieren, sondern auch skalieren. 

Diversität in der Gestaltung von Strategien und das laufende, sorgfältige Überprüfen von Datenquellen ist somit unerlässlich für eine zukunftsorientierte Ausrichtung.

ADV: Datenqualität und Datenintegrität in Zeiten sich rasant entwickelnder Large Language Models: Weshalb werden sie immer wichtiger und was müssen Unternehmen oder Organisationen beachten, um diese zu gewährleisten?

Sabine Singer: Seit der Einführung von OpenAI’s „ChatGPT“ und dem generativem KI-Modell GPT-4 schießen wöchentlich hunderte von neuen KI-Apps aus dem Boden. Diese Modelle werden mit riesigen Datensätzen trainiert. Mit jedem „Prompt“, also mit jeder Fragestellung, die in diesen Anwendungen eingegeben wird, lernen die Modelle dazu. Laut dem KI-Experten Alan Thompson verdoppelt sich aktuell das digitalisierte ‚Wissen‘ der Menschheit alle 14 Tage. Eine hohe Datenqualität und -integrität sind also unerlässlich, um transparente Ergebnisse zu gewährleisten. Unternehmen müssen sorgfältig ihre Datenquellen auswählen und regelmäßig auf mögliche Vorurteile und Diskriminierungen (sogenannte biases) überprüfen. Die Verwendung von Technologien und Tools zur effektiven Datenvalidierung und -überprüfung ist hierbei von entscheidender Bedeutung.

Neben der Gewährleistung einer hohen Datenqualität und -integrität gilt es, vor Manipulation und Sicherheitsrisiken zu schützen. Sowohl Kunden als auch Mitarbeiter:innen verlieren schnell das Vertrauen in Geschäftsmodelle, deren Umgang mit den ihnen anvertrauten Daten nicht transparent ist. Insbesondere im Umgang mit personenbezogenen Daten ist streng auf die Einhaltung von Privatheit zu achten. 

Daten sind nicht 0 und 1 oder Zahlenreihen im Excel, Daten sind Emotionen und spiegeln das Verhalten unserer Mitmenschen. Wir sind in der Verantwortung, dieses Vertrauen behutsam zu wahren.

ADV: Sie setzen sich dafür ein, Bewusstsein für digitale Ethik zu schaffen. Wo sehen Sie aktuell die größten Gefahren für einen ethischen Gebrauch digitaler Mittel? Wie können wir diesen Gefahren begegnen?

Sabine Singer: Digitale Ethik rückt getrieben durch den Hype um chatGPT in den Mittelpunkt der gesellschaftlichen Diskussion. Ein zweites Mal in kurzer Zeit erleben wir, was exponentielles Wachstum heißt. Und auch dieses Mal geht uns um das Wohl der Allgemeinheit. Unreglementiert wachsende KI-Modelle bergen eine enorme Gefahr des Missbrauchs, der Diskriminierung sowie einer Machtverschiebung. Sie haben das Potential, unsere Demokratie und eine gerechte Marktwirtschaft massiv zu gefährden. Laut einer Studie von Goldman Sachs werden bis zu 300 Millionen Jobs durch die Automatisierung ersetzt. Ganze Branchen sind betroffen, allen voran das Bildungswesen. Das „Future of life“-Institut fordert in einem offenen Brief ein Aussetzen der Weiterentwicklung von KI für die nächsten 6 Monate. Diese Petition wird von vielen KI-Experten selbst und unter anderen von bekannten Namen wie Gary Marcus, Elon Musk oder dem Historiker Yuval Harari unterstützt. Damit sollen Regierungen Zeit haben, um einen Konsens über eine global gültige Regulierung zu finden. 

Ich halte das für einen vergeblichen Versuch. Exponentielles Wachstum lässt sich nicht aufhalten. Die öffentliche Diskussion über unser Wertesystem und digitale Ethik jedoch ist fundamental wichtig und zwingend erforderlich.

Wir dürfen nicht darauf warten, dass uns Gesetze und Regulierungen vorschreiben, was richtig ist. Wir sind nun alle selbst in der Pflicht, unser Wertesystem zu überdenken und uns zu überlegen, wie wir unser soziales Miteinander pflegen wollen. Nachhaltige Geschäftsmodelle fokussieren nicht auf rücksichtsloses Wachstum, sondern auf Nachhaltigkeit und Würde.

ADV: Digitalisierung und KI haben eine Entwicklung angestoßen, deren Rasanz viele Menschen nicht mehr folgen können. Wie können wir als Gesellschaft jene Chancen, die sich daraus ergeben, erkennen und nutzen?

Sabine Singer: Das Wiener Manifest für digitalen Humanismus, das den Menschen in den Mittelpunkt von technologischer Entwicklung stellt, bietet uns hierzu schon einen guten Nordstern für einen nachhaltigen, digitalen Werte-Kompass. Mit dem Standard IEEE  7000 für das ethische Design von Softwareprojekten finden wir einen weiteren wertvollen Rahmen, wie wir Digitalisierung verantwortungsvoll meistern. Dieser wurde sogar von der WU Wien, federführend durch Frau Professor Sarah Spiekermann, mitentwickelt. Sowohl die UNESCO als auch die EU empfehlen digital ethische Richtlinien wie Transparenz, Fairness, Gleichheit von Chancen und vor allem Sicherheit – von Daten, Systemen und Prozessen.

Prompten ist das neue Googeln. Und es ist ein wenig wie das Schreiben von „Briefen ans Universum“. Man sollte genau wissen, was man will. Wer ein gefestigtes, inneres Wertesystem hat, über ein gutes Wissen zum Thema Daten und seinen eigenen digitalen Footprint verfügt, kann –  in Kombination mit klugem, kritischem Prüfen und Nachdenken – durchaus die Vorteile im Einsatz von KI erkennen. Aus Wissen sinn- und wertvolle Schlüsse abzuleiten, ist immer noch eine herausragende Fähigkeit von uns Menschen. 

Digitale Verantwortung ist eine Entscheidung.

Vielen Dank für das Gespräch!