So lässt sich Vertrauenswürdigkeit für KI-basierte Anwendungen schaffen
Die richtige Vorgehensweise

So lässt sich Vertrauenswürdigkeit für KI-basierte Anwendungen schaffen

Porträtfoto von Ulla Coester, Unternehmerin
Am

Die Menschen sind zunehmend offen für KI-basierte Anwendungen in Unternehmen. Um die Akzeptanz für KI-basierte Lösungen positiv zu beeinflussen ist eine hohe Vertrauenswürdigkeit erforderlich. Unternehmen sollten diese Kenntnis nutzen – nicht zuletzt, um die Loyalität ihrer Kunde zu steigern. Doch der Aufbau der Vertrauenswürdigkeit erfordert dabei eine gezielte Vorgehensweise, bei der die verschiedenen Aspekte gleichwertig unternehmensspezifisch analysiert und in einer Strategie umgesetzt werden müssen.

Als Basis für eine entsprechende Konzeption empfiehlt sich das Vertrauenswürdigkeitsmodell. In diesem Artikel werden in Fortführung von Teil 2 „Warum Vertrauen für Unternehmen so wichtig ist“ der Artikelserie „Künstliche Intelligenz“ – aus Gründen der Lesbarkeit/Verständlichkeit – einige Passagen noch einmal aufgegriffen.

Grundlage: Aufbau des Vertrauenswürdigkeitsmodells

Die Zusammenhänge zum Aufbau von Vertrauen sind in dem Vertrauenswürdigkeitsmodell (Abb. 1) dargestellt und werden nachfolgend anhand der einzelnen Aspekte erläutert.

Vertrauenswürdigkeitsmodell

Abb. 1: Vertrauenswürdigkeitsmodell (in Anlehnung an Dr. Nils Backhaus [1])

Vertrauen, Vertrauensgeber und Vertrauensnehmer

Vertrauen bezeichnet unter anderem die subjektive Überzeugung der Richtigkeit von Handlungen. Grundsätzlich ist Vertrauen notwendig zur Reduzierung von Komplexität und immer dann erforderlich, wenn der Anwender mit einer ungewissen oder unsicheren Situation konfrontiert wird oder der Ausgang seiner Handlung risikobehaftet sein kann. In der Digitalisierung müssen Anwender (Vertrauensgeber) die Bereitschaft haben die Handlungsweise von Unternehmen (Vertrauensnehmer) nicht infrage zu stellen, auch wenn sie sich damit einem bestimmten Risiko aussetzen. Insbesondere bei KI-basierten Lösungen ist ein wichtiger Aspekt, dass Vertrauen beim Anwender in erster Linie aufgrund der Vertrauenswürdigkeit eines Unternehmens und/oder deren Anwendungen entstehen kann.

Institutionelles Vertrauen

Eine Grundvoraussetzung dafür, dass Menschen KI-basierte IT-Lösungen nutzen, ist das Versprechen eines Mehrwerts. Das bedeutet im Umkehrschluss, wenn für die Anwender kein Wertzuwachs durch den Einsatz entsteht, sind sie kritischer in ihrer Beurteilung und dadurch weniger bereit, sich auf das jeweilige Produkt per se zu verlassen.

Aber es sind noch weitere Mechanismen notwendig, um Anwender in die Lage zu versetzen, ihre genuine Vertrauensfähigkeit auf KI-basierte IT-Lösungen zu extendieren. Denn es muss Unternehmen gelingen, interpersonales Vertrauen – also das Vertrauensverhältnis zwischen Menschen – auf ihre jeweilige KI-basierte Lösungen zu übertragen. Somit kann das institutionelle Vertrauen als Ergebnis einer Transferleistung bezeichnet werden, da im Regelfall Vertrauen im Verhältnis zwischen zwei Personen aufgrund der Fähigkeit zur Empathie entsteht und zudem auch, weil die individuell relevanten Kriterien – etwa Mimik oder Gestik des Gegenübers – direkt nachprüfbar sind.

Bei KI-basierten IT-Lösungen ist diese Option nicht gegeben, allein unter dem Aspekt, dass sich deren Verhalten beziehungsweise Funktionsweise nicht unbedingt kontrollieren lässt. Von daher kann Vertrauen in erster Linie durch das Unternehmen selber, über die KI-basierte IT-Lösung aber auch über die Vertrauenswürdigkeit der Domäne beeinflusst werden.

Wahrgenommene Vertrauenswürdigkeit

Vertrauenswürdigkeit basiert auf der Annahme, dass es möglich ist, sich auf etwas Bestimmtes verlassen zu können. Im Regelfall beruht die wahrgenommene Vertrauenswürdigkeit auf offensichtlichen Funktionalitäten der KI-basierten IT-Lösung sowie Maßnahmen des Unternehmens, die dem Anwender (als Vertrauensgeber) entweder aufgrund des ersten Eindrucks oder aus eigener Erfahrung oder über Dritte bekannt sind.

Daran wird deutlich, dass es für Unternehmen zunehmend wichtig wird, eine Vertrauensgrundlage zu schaffen, indem sie relevante Aspekte der Vertrauenswürdigkeit sowohl für die KI-basierte IT-Lösung als auch das Unternehmen explizit darstellen, damit die Anwender Vertrauen aufbauen können.

Vertrauensfähigkeit

Grundsätzlich ermöglicht Vertrauensfähigkeit, Personen oder auch Unternehmen, zu vertrauen beziehungsweise ihnen etwas zuzutrauen. Basierend auf der individuellen Prägung eines Menschen oder dessen Vorerfahrung ist die Fähigkeit jeweils unterschiedlich dominant ausgebildet.

In diesem Sinne hat die wahrgenommene Vertrauenswürdigkeit einen Einfluss auf die Vertrauensfähigkeit des Anwenders und kann sich positiv auf diese auswirken.

Unternehmen

Als Unternehmen gelten Hersteller oder Anbieter von KI-basierten Technologien, -Produkten oder -Diensten. Die genannten Kategorien werden als KI-basierte IT-Lösungen zusammengefasst.

Anwender

Unter Anwender werden alle subsummiert, die KI-basierte Technologien, -Produkten oder -Diensten nutzen, also auch Anwenderunternehmen.

IT-Lösung

Eine IT-Lösung ist entweder eine allgemeine Anwendung mit entsprechenden KI-basierten Algorithmen/Mechanismen oder eine explizite KI-Anwendung.

Allgemeine Vorbedingung: Vertrauenswürdigkeit der Domänen

Für Unternehmen ist prinzipiell von Vorteil unabhängig zu agieren, um auf Basis einer hohen Anwender-Orientierung Wettbewerbsvorteile generieren zu können. Doch oftmals ist es nicht einfach oder sogar unmöglich, eine Vorreiterrolle einzunehmen und dadurch den Markt zu gestalten. Denn vielfach kann über die Vertrauenswürdigkeit eines einzelnen Unternehmens nicht ein generelles Vertrauen etwa in einen innovativen Ansatz grundsätzlicher KI-basierte IT-Lösungen geschaffen werden.

Von daher ist es für Unternehmen notwendig in die Vertrauenswürdigkeit von Domänen zu investieren. Mit anderen Worten: teilweise kann es von Vorteil sein kollaborativ mit anderen Herstellern Werte zu kreieren oder Wertevorstellungen umzusetzen, um die gesamte Branche – respektive Domäne – zu entwickeln und so im Weiteren die erfolgreiche Einführung von neuen Geschäftsmodellen oder Technologien zu gewährleisten. Im Prinzip gibt es mehrere Optionen, um eine Vertrauenswürdigkeit für (neue) Technologien und KI-basierte IT-Lösungen zu schaffen.

Nachfolgend einige Beispiele in Bezug auf Domänen:

1. Schaffung von Rahmenbedienungen 

Der Staat schafft die Randbedingungen zum Beispiel mit der Etablierung eines neuen Rechtsrahmen für KI durch die Europäische Kommission, indem Domänen-spezifisch eine Regulierung vorgegeben wird, wie Unternehmen den Einsatz von Technologien und KI-basierten IT-Lösungen zu gestalten haben.

2. Motivierung von Ökosystemen

Ein Beispiel in diesem Bereich stellt Self-Sovereign Identities (SSI) dar. Mit SSI soll die Basis für ein europäisches Ökosystem zur Ausgabe und Verifizierung sowohl digitaler Identitäten als auch definierter Nachweise aufgebaut werden. Darüber ließen sich relevante Ziele verwirklichen – unter anderem der Schutz der Privatsphäre. Denn so könnten Anwender zukünftig selbst bestimmt entscheiden, welcher Anwendung sie wann beispielsweise ihre digitalen Identitätsdaten zur Verfügung stellen. Letztendlich führt der souveräne Umgang mit den eigenen Daten auch dazu, dass die Abhängigkeit von einzelnen monopolierten Anbietern minimiert wird, womit das Ziel einer unabhängigen schnelleren Digitalisierung forciert wird. Ein weiterer Vorteil: Überholte Geschäftsmodelle ließen sich so durchgängig ablösen, zum Beispiel „Unfreiwillig Bezahlen mit den eigenen Daten“.

Allerdings ist es nicht immer im Sinne von Konsortien oder des Staates die Vertrauenswürdigkeit als wichtigstes Kriterium anzuerkennen. So werden teilweise Maßnahmen ergriffen, die hier eher kontraproduktiv sind und zu einer Schwächung der Domäne führen, zum Beispiel im Bereich Sicherheit:

3. Schutzmechanismen des Staates

Um die Sicherheit der Bürger zu gewährleisten ergreift der Staat zunehmend Maßnahmen wie Videoüberwachung mit Gesichtserkennung. Beispielsweise setzte die Polizei in Hamburg auf Biometrie um die Vorkommnisse rund um den G20-Gipfel zu überwachen. Zu den staatlichen Überwachungsmechanismen zogen die Experten der Edinburgh International Justice Initiative (EIJI) in einem Ende Juli 2021 veröffentlichten Bericht für die Bürgerrechtsorganisation European Digital Rights (EDRi) am Beispiel von Deutschland, den Niederlanden und Polen folgendes Fazit: „Der Einsatz biometrischer Massenüberwachung in öffentlichen Räumen hat in den letzten Jahren zugenommen und wurde schleichend gängige Praxis“ [2].

Im Speziellen: Vertrauenswürdigkeit der IT-Lösung

Die Vertrauenswürdigkeit der Domäne unterstützt die Vertrauenswürdigkeit von einzelnen KI-basierten IT-Lösungen. Zum Beispiel im Bereich Cyber-Sicherheit. Wenn allgemein anerkannt ist, dass sich durch die Analyse der Kommunikationsdaten mithilfe von KI die Erkennungsrate von Angriffen über das Internet erhöhen lässt, wird sich dies im ersten Schritt positiv auf alle im Markt befindlichen KI-basierten IT-Lösungen auswirken. Damit ein Hersteller dieses Vertrauen dediziert auf seine Lösung übertragen kann, spielen mehrere Aspekte eine relevante Rolle: Transparenz, Leistungsfähigkeit und Zweckprägnanz.

Aspekt: Transparenz einer IT-Lösung

Die Bereitschaft zur Transparenz zeigt in erster Linie darin, dass ein Unternehmen die Bedürfnisse der Anwender ernst nimmt und bereit ist offen zu kommunizieren – also alle relevanten Maßnahmen ergreift, um ihn beim Aufbau von Vertrauen zu unterstützen. Dies bedeutet jedoch keinesfalls, jedes Details – etwa bezüglich des Algorithmus – der KI-basierten IT-Lösung oder aller damit einhergehenden geschäftlichen Aktivitäten preisgeben zu müssen. Sondern, dass alle relevanten Informationen zur Verfügung gestellt werden, die für den Anwender erforderlich sind, um im gegebenen Kontext eine valide Entscheidung über die Vertrauenswürdigkeit der KI-basierten IT-Lösung treffen zu können.

Insgesamt fällt der Informationsqualität somit eine entscheidende Rolle zu – sie sollte partizipativ und besonders ausgewogen sein, also die Interessen aller Parteien gleichermaßen berücksichtigen. In der Vergangenheit war diese Form der Kommunikation nicht erforderlich. Aufgrund des mittlerweile hohen Komplexitätsgrades ist es jedoch unumgänglich so zu agieren, um das Vertrauen zu stärken und über die daraus entstehende Akzeptanz die Bereitschaft zur Nutzung zu erhöhen. Hier zeigt sich die, im Prinzip konstante, Wechselwirkung zwischen Vertrauen und Vertrauenswürdigkeit: Ein Unternehmen ist auf die Akzeptanz der Anwender angewiesen. Andererseits ist es für den Anwender – aufgrund potenzieller Beeinflussungsmöglichkeiten durch intelligente Anwendungen – zunehmend wichtiger, dass sein Bedürfnis nach Autonomie und Privatsphäre auch angemessen respektiert wird.

Beipackzettel KI-basierte IT-Lösung: Eine Möglichkeit der Transparenz ist zum Beispiel die Bereitstellung eines Beipackzettels, mit Aussagen unter anderem zur Kontrollierbarkeit und potenziellen Auswirkungen der KI-basierten Anwendung. Wichtig ist zudem aufzuzeigen, welche Risiken daraus möglicherweise resultieren und wie Anwender damit umgehen können.

Aspekt: Leistungsfähigkeit einer IT-Lösung

Die Leistungsfähigkeit einer KI-basierten IT-Lösung ist das, was der Anwender unmittelbar erfassen und auch kontrollieren kann. Von daher ergeben sich daraus die messbaren Kriterien für dessen Beurteilung, inwieweit er sich bei der Erreichung des beabsichtigten Einsatzzweckes unterstützt fühlt und wie gut die KI-basierte IT-Lösung tatsächlich dafür geeignet ist. Als Bewertungsmaßstab sind hier unter anderem Stabilität und Berechenbarkeit zu nennen. Von hoher Relevanz ist dabei auch, dass sich in der Leistungsfähigkeit der KI-basierten IT-Lösung die Kompetenz des Unternehmens dokumentiert. Denn letztendlich entsteht mangelnde Leistungsfähigkeit durch Fehler im Kompetenz- oder Strategiebereich. Daran zeigt sich somit sowohl die Verbindung als auch Wechselwirkung zwischen der Vertrauenswürdigkeit der KI-basierten IT-Lösung und dem Unternehmen. Als Bewertungsmaßstab kann einem Anwender unter anderem die Bedienbarkeit oder die Leistungsfähigkeit der KI-basierten Anwendung dienen.

Bedienbarkeit: Sind KI-basierte Anwendungen einfach oder sogar intuitiv zu bedienen und deren Management für den Anwender einfach zu handhaben.

Leistungsfähigkeit der KI-basierten Anwendung: Wie präzise sind die Ergebnisse beziehungsweise wie qualitativ hochwertig sind die jeweiligen Analysen oder auch, wie schnell lassen sich Modelle adaptieren, um eine kontinuierliche Aktualität zu gewährleisten.

Aspekt: Zweckprägnanz einer IT-Lösung

Die Zweckprägnanz manifestiert sich im Verwendungszweck der KI-basierten IT-Lösung. Für Unternehmen bedeutet dies, dass bei der Entwicklung Funktion und Intention der jeweiligen Anwendung zielgenau definiert sind. Daraus resultierend sollte in der Konsequenz der Einsatzzweck der KI-basierten IT-Lösung für den Anwender klar offensichtlich sein. Aus diesem Grund gilt es darauf zu achten, dass deren Zweck – auch durch den Einsatz charakteristischer Eigenschaften – leicht und unmittelbar erfasst werden kann.

Im Umkehrschluss bedeutet dies jedoch keinesfalls, dass mit der Zweckprägnanz eine geringe Funktionalität einhergehen muss. Des Weiteren ist es notwendig, jede relevante Änderung oder Erweiterung der KI-basierten IT-Lösung offen darzulegen – vor allem dann, wenn dadurch der originäre Verwendungszweck nicht mehr eindeutig erkennbar ist.

Bietet eine KI-basierte IT-Lösung neben der eigentlichen Anwendung weitere Funktionen an, die nur im Sinn des Unternehmens oder dritter Parteien sind, müssen auch diese klar dargestellt und beschrieben werden. Beispiele dafür sind:

Offenlegen des Geschäftsmodells: Das mithilfe des Geschäftsmodells „Bezahlen mit persönlichen Daten“ sensitive Daten der Anwender gesammelt und für individualisierte Werbung genutzt und/oder lukrativ an Dritte verkauft werden muss unmissverständlich kommuniziert werden.

Einblick geben in neue Features: Das innovative Erkennungssystem von Apple, mit dem alle Daten auf dem iPhone nach Kinderpornografie durchsucht werden sollen, um deren Verbreitung zu stoppen, hat zwar einerseits einen hohen gesellschaftlichen Wert stellt aber zugleich für jeden Anwender einen Eingriff in seine Privatsphäre dar. Allein aus dem Grund, da – erst einmal anlasslos – der Abgleich auf dem Endgerät stattfindet. Da es darüber zudem auch prinzipiell möglich ist, beliebig nach anderen Inhalten zu suchen, kann damit sogar für bestimmte Gruppen (in einigen Ländern) eine echte Gefährdung einhergehen [3].

Gravierende Abweichungen von der Zweckprägnanz müssen folglich für den Anwender unmittelbar transparent gemacht werden, damit er selbst bestimmt eine Entscheidung bezüglich des weiteren Gebrauchs treffen kann.

Im Speziellen: Vertrauenswürdigkeit der Unternehmen

Bei der Entscheidung zur Nutzung neuer Technologien sind nicht ausschließlich die Aspekte der jeweiligen KI-basierten IT-Lösung ausschlaggebend. Im Gegenteil – die Reputation des Unternehmens spielt hierbei ebenfalls eine wichtige Rolle. Da sich aktuell zeigt, dass ein Vertrauen in IT-Technologien, -Anwendungen und -Dienste prinzipiell (noch) nicht uneingeschränkt gerechtfertigt ist, sind die Unternehmen gefordert weitere Bedingungen zu erfüllen, um den Grad ihrer Vertrauenswürdigkeit zu steigern.

Hierzu müssen sowohl Hersteller als auch Diensteanbieter ihre Strategie nach außen sichtbar machen, um die Basis für den Aufbau von Vertrauen bei den Anwendern zu schaffen.

In der Umsetzung bedeutet dies, ihr Handeln an den definierten Kriterien Zutrauen, Zuverlässigkeit, Integrität und Sicherheit auszurichten. Maßgeblich für deren Definition ist dabei, dass die unternehmensspezifische Vertrauenswürdigkeit rational bewertbar gestaltet wird, um dem Anwender die Möglichkeit zu geben, die entsprechenden Parameter schnell und einfach beurteilen zu können.

Aspekt: Zutrauen in ein Unternehmen

Zutrauen ist ein relevantes Kriterium für die Vertrauenswürdigkeit. Generell kann dieses im Hinblick auf die Funktionalität dadurch erzeugt werden, dass Unternehmen sowohl über die Fähigkeit als auch über die entsprechenden Mittel verfügen, um verlässliche sowie sichere KI-basierte IT-Lösungen, respektive Dienste und Anwendungen, bereitzustellen.

In diesem Kontext ist es wichtig, eine Strategie zu entwerfen, um dieses Kriterium sowohl zu erfüllen als auch in einer Zutrauens-Leitlinie dokumentieren zu können. Hierzu muss unter anderem ein Konzept erstellt werden bezüglich der Parameter, die zwingend erfüllt sein müssen. In diesem Kontext sind dann beispielhaft folgende Faktoren von hoher Relevanz:

Mitarbeiter: Parameter zur Ausbildung, Qualifizierung und Weiterbildung der Mitarbeiter: Haben die Mitarbeiter Mathematik oder Informatik mit Schwerpunkt Data Science studiert oder eine entsprechende fachliche Weiterbildung; welche Erfahrungen haben sie im Bereich KI-basierte IT-Lösungen; über welche Zusatzqualifikation verfügen sie.

Qualitätsstandards: Parameter zur Entwicklung und Produktion: Beschreibung des Entwicklungsprozesses; Definition der begleitenden Qualitätssicherung inklusive Durchführung; Spezifizierung des Lebenszyklus-Management.

Betriebsmittel: Parameter zur Qualität und Quantität von Software und Hardware: Beschreibung der Standards, die es zu erfüllen gilt, damit die – für das geschäftliche Handeln und hier insbesondere für Forschung und Entwicklung‘ – eingesetzten IT-Systeme allen Anforderungen gerecht werden; hier muss zum Beispiel festgelegt werden, wie viel Ressourcen zur Berechnung der Modelle zur Verfügung stehen oder wie groß die Kapazitäten für die Speicherung der notwendigen Datenmengen sein müssen; die exakte Benennung der Qualitätskriterien obligatorisch.

Aspekt: Zuverlässigkeit eines Unternehmens

Mit Zuverlässigkeit ist gemeint, dass KI-basierte IT-Technologien sowie IT-Lösungen nur die Prozesse ausführen, die seitens der Anwender gewünscht sind, beziehungsweise die er erwartet und dies möglichst hundertprozentig verlässlich. Zuverlässigkeit impliziert somit auch, dass Unternehmen grundsätzlich wohlwollend sind. Das bedeutet, dass sie im besten Sinne ihrer Anwender handeln, sich also an deren Bedürfnissen orientieren, statt ihre eigenen Interessen vorrangig in den Mittelpunkt zu stellen.

Ein Beispiel hierfür ist, dass sie offensichtliche Schwachpunkte ihrer Anwender nicht instrumentalisieren, um dadurch einen (finanziellen) Vorteil zu erzielen und es somit unterlassen, ihnen Schaden zuzufügen. Dies wäre im Rückschluss möglich, indem die Schwäche eines Kunden für hochwertige Markenprodukte ausgenutzt wird: Dem Anwender werden regelmäßig teure Produkte immer ohne Preisnachlass angeboten, da er, anhand seines Kaufverhaltens, entsprechend klassifiziert wurde.

Kein Unternehmen ist perfekt, von daher bedingt Zuverlässigkeit auch die Bereitschaft zur Weiterentwicklung. Um momentan noch bestehende Defizite zu kompensieren, müssen Hersteller daher Mechanismen integrieren, mittels derer sie proaktiv den Grad ihrer Zuverlässigkeit beständig optimieren können und im Weiteren dann diese Entwicklungsschritte adäquat darstellen. Ein Idealzustand ist dann erreicht, wenn das Anwendervertrauen kongruent der faktischen Zuverlässigkeit des Unternehmens respektive der KI-basierten IT-Lösung entspricht. Dies bedeutet im Umkehrschluss, dass Unternehmen ihre Vertrauenswürdigkeit riskieren oder verlieren, wenn deren Handeln nicht mit ihrer Außendarstellung übereinstimmt.

Wie müssen Unternehmen hier zukünftig agieren – was sollte in deren Zuverlässigkeits-Management einfließen? Nachfolgend einige Faktoren die dabei von Relevanz sind:

Kooperativ handeln, um die wahren Bedürfnisse der Anwender besser identifizieren zu können und bei Problemstellungen den Anwender individuell unterstützen.

Die Übernahme einer Gesamtverantwortung im Schadensfall oder Rückrufaktionen bei identifizierten Problemen sind Beispiele für ein kooperatives Handeln. Das bedeutet, Hersteller müssen – wenn möglich auf direktem Weg – ihre Anwender bei Erkennen von gravierenden Problemen umgehend informieren. Wird diese Information zuerst von anderen Quellen zum Beispiel über Soziale Medien veröffentlicht oder in den Fachmedien diskutiert, mindert dies die Vertrauenswürdigkeit der Hersteller.

Verantwortlich handeln, um durch den richtigen Einsatz von Funktionen – die primär zum Vorteil der Anwender sind – für diese einen Mehrwert zu schaffen. Allgemein bedeutet verantwortlich handeln im Hinblick auf KI-basierte Anwendungen, alle Vorgaben zu erfüllen, um die hohe Qualität der Eingabe-Daten sicherzustellen. Das fängt an bei der Vollständigkeit, geht über Repräsentativität bis hin zur Korrektheit der Daten. Wesentlich ist zudem, dass eine Person im Unternehmen dafür verantwortlich ist, dass alle Maßnahmen getroffen werden, um dies zu garantieren. [4]

Aber nicht nur die Auswahl der Daten ist von hoher Relevanz, sondern auch der verantwortungsvolle Umgang damit. Es gibt einige KI-basierte Anwendungen, bei denen es zur Disposition stehen sollte, ob die Möglichkeiten der Datenanalyse de facto im besten Sinne für die Menschen eingesetzt werden. „Zum Beispiel, wenn Google Street View dafür Verwendung finden soll, die Unfallwahrscheinlichkeit von Personen aufgrund ihres Wohnsitzes vorherzusagen, um daraus entsprechende Versicherungspolicen abzuleiten. Denn offenbar hat sich die Standort-Variable als ein überraschend guter Indikator für diesen Zweck herauskristallisiert, wie das Forschungsteam Łukasz Kidziński, Stanford University und Kinga Kita-Wojciechowska, Universität Warschau herausfand“ [5].

Aspekt: Integrität eines Unternehmens

Integrität zeigt sich darin, dass seitens der Hersteller und Diensteanbieter alle Faktoren berücksichtigt werden, die jeweils die relevanten Aspekte der Vertrauenswürdigkeit beinhalten und hier insbesondere die ethischen Dimensionen beachtet. Dies bedeutet, dass ein Hersteller als Vertrauensnehmer prinzipiell in der Lage ist alle Versprechen, die er abgegeben hat, überhaupt einhalten zu können und auch tatsächlich einhält sowie generell dazu bereit ist, sowohl Normen als auch Werte der Gesellschaft zu berücksichtigen.

Insbesondere die ethische Ausrichtung von Unternehmen wird zukünftig noch stärker auf dem Prüfstand stehen. Dies lässt sich anhand verschiedener Studien belegen: zum Beispiel dadurch, dass 93 Prozent der Anwender in Deutschland einen ethisch vertretbaren Einsatz von IT-Technologie fordern. Von daher sollte Wahrhaftigkeit in allen geschäftlichen Aktivitäten konsequenterweise zu einem Muss deklariert werden. Eine eindimensionale rein technisch-orientierte Denkweise, ohne Berücksichtigung ethischer Aspekte und Werte wird zunehmend weniger – oder sogar nur kurzfristig – rentabel sein, da das Verhalten der Anwender volatil ist und sie sich schnell durch negative Ereignisse oder Posts beeinflussen lassen. Aber auch dem Aspekt, dass das Potential zur Vertrauensfähigkeit bei den Anwendern unterschiedlich stark ausgeprägt und somit die Grundhaltung relativ schwer kalkulierbar ist fällt in diesem Zusammenhang eine wichtige Bedeutung zu.

Von daher gilt es für Unternehmen – als einer der wichtigsten Schritte – hier eine Integritäts-Maxime zu entwerfen, mit klaren Bekenntnissen zu ihrem Geschäftsmodell und im Weiteren den unternehmensspezifischen Aspekten. Dazu gehört definitiv, die ethischen Anforderungen klar zu adressieren. Einige ethische Anforderungen werden nachfolgend exemplarisch vorgestellt:

Schutz der Privatsphäre: Diese Forderung beinhaltet zum einen den guten Umgang mit Kundendaten, etwa sofortige Löschung, wenn diese nicht mehr benötigt werden und auch, diese Daten durch Verschlüsselung zu schützen sowie zum anderen das Versprechen, die Daten der Anwender nicht für weitere wirtschaftliche Zwecke zu verwerten.

Rechenschaftspflicht: Mit der Rechenschaftspflicht wird unter anderem auf die Nachprüfbarkeit der Qualität von KI-basierten IT-Lösungen abgehoben. Zudem sollte für Unternehmen die Überprüfung eingesetzter Technologien, inklusive entsprechender Offenlegung von eventuell negativen Auswirkungen auf die Gesellschaft, obligatorisch sein.

Verantwortungsvoller Umgang mit KI: Dies beinhaltet unter anderem, dass Unternehmen alles tun, um den einzelnen Anwender aber ebenso die Gesellschaft insgesamt vor Schaden zu bewahren, also auch drauf zu verzichten, die Gewinnerzielung über das Wohlbefinden der Menschen zu stellen. Also ein Verhalten zu unterlassen, dass aktuell eine frühere Mitarbeiterin von Facebook ihrem ehemaligen Arbeitgeber vor dem US-Kongress zum Vorwurf macht: „‚Die Unternehmensführung weiß, wie Facebook und Instagram sicherer gemacht werden können. Sie nimmt aber nicht die notwendigen Änderungen vor, weil sie ihre astronomischen Profite über die Menschen gestellt hat.“ Das habe Folgen für Menschen, Demokratie und Gesellschaft. Der Konzern soll zum Beispiel Filter gegen Falschinformationen nach dem US-Wahlkampf abgeschaltet haben, um mehr Nutzer anzulocken‘ [6].

Aspekt: Sicherheit des Unternehmens

Das Anerkennen der Bedeutung von Cyber-Sicherheit sowie deren Umsetzung gewährleistet, dass KI-basierte IT-Technologien, respektive Dienste und Anwendungen, im Internet risikoarm zu nutzen sind. Dieser Anspruch ist jedoch (noch) eine Fiktion da unter anderem Ransomware, DDoS- oder Phishing-Angriffe heute an der Tagesordnung sind. Alltäglich genutzte Dienste, wie E-Mail-Programme, Online-Banking oder Online-Shops, bieten bei weitem nicht den Level an Vertrauenswürdigkeit der notwendig ist, um damit insbesondere kritische Geschäftsprozesse sicher abwickeln zu können.

Von daher benötigen Unternehmen eine adäquate und ausformulierte IT-Sicherheits-Richtlinie, um im Sinne der Kunden den bestmöglichen Schutz zu gewährleisten. Die kontinuierliche Umsetzung gemäß aktueller Sicherheitsanforderungen ist notwendig, da Anwender im Allgemeinen nicht dazu in der Lage sind, sich angemessen zu schützen. Unter anderem haben die folgenden Faktoren im Kontext der Sicherheit einen hohen Stellenwert:

Eine Cyber-Sicherheitsstrategie ausarbeiten: Eine Cyber-Sicherheitsstrategie ist ein längerfristig ausgerichtetes, planvolles Vorgehen mit dem Ziel, die vorhandenen Risiken eines Angriffes auf digitale Werte des Unternehmens so gering wie möglich zu halten. Da deren Darstellung die Vertrauenswürdigkeit eines Unternehmens erhöht, sollte die prinzipielle Strategie auch nach außen kommuniziert werden.

Eine Zertifizierung der KI-basierten IT-Lösung durchführen: Die Zertifizierung von Qualität und Vertrauenswürdigkeit der KI-basierten IT-Lösungen muss durch qualifizierte unabhängige Organisationen erfolgen, die nach definierten Kriterien überprüfen und testieren. Kriterien ergeben sich zum Beispiel aus den Bereichen Datenschutz oder Fairness sowie den Entwicklungs- und Qualitätssicherungsprozessen. Die Zertifizierung der KI-basierten IT-Lösung aber auch die des Unternehmens ist eine wichtige Maßnahme zur Vertrauensbildung.

Eine regelmäßige Überprüfung der Produkte und des Unternehmens vornehmen: Das Ziel hierbei ist, Schwachstellen aktiv und kontinuierlich mithilfe von Penetrationstests und Red-Teams zu identifizieren, damit diese so schnell als möglich durch Updates eliminiert – und dadurch nicht für Angriffe verwendet – werden können. Dies gilt sowohl für die angebotenen KI-basierten IT-Lösungen als auch für die Unternehmen und deren Zulieferer. Dadurch lässt sich ein – für den Anwender jederzeit nachweisbares – hohes Sicherheitsniveau des Entwicklungsprozesses erreichen.

Darstellung der verwendeten Cyber-Sicherheitsmaßnahmen: Hier sollten die Hersteller aufzeigen, was sie tun, um sowohl die jeweilige KI-basierte IT-Lösung als auch ihr Unternehmen vor Cyber-Sicherheitsrisiken zu schützen. Anders als beim „Beipackzettel“ ist es hier empfehlenswert, Beschreibungen und Hintergrundinformationen detaillierter darzustellen. Zum Beispiel darüber zu informieren, wie sie vorgehen, um die großen Datenmengen, die im Rahmen der KI-basierten Anwendungen notwendig sind, sicher und vertrauenswürdig zu speichern.

Fazit: Vertrauenswürdigkeit wird zum Wettbewerbsvorteil

Es gibt eine Vertrauenskrise – das lässt sich nicht leugnen: „80 Prozent der Deutschen haben derzeit wenig oder gar kein Vertrauen in die großen Digitalkonzerne. Das hat eine Umfrage unter 5.000 Internetnutzern in Deutschland ergeben, die das Meinungsforschungsinstitut Civey im Auftrag der Next Conference durchgeführt hat“ [7].

Wie sich eine nachlässige Handlungsweise auswirken kann, lässt sich zum Beispiel anhand der negativen Reaktionen auf die Cambridge Analytica-Affäre belegen oder daran, wie heftig momentan Instagram in der Kritik der Medien steht – im Umkehrschluss ist also ein verantwortungsvolles Vorgehen insbesondere auch mit Hinblick auf den internationalen Aspekt von großer Bedeutung, allein um sich von den asiatischen und amerikanischen Lösungsanbietern abzuheben, die diesen Punkt sträflich vernachlässigen, da dieser Ansatz (noch) nicht zu ihrem Geschäftsmodell passt.

Folglich besteht genau aus diesem Grund für deutsche Unternehmen die Chance sich über ihre Vertrauenswürdigkeit zu positionieren. Allein unter dem Gesichtspunkt, dass ein verantwortungsvolles ethisches und somit vertrauenswürdiges Handeln mit ökonomischen Interessen nicht inkompatibel, sondern – im Gegenteil –, dass werteorientiertes Verhalten langfristig im ökonomischen Interesse der Unternehmen ist. Denn Anwender sowohl in Deutschland als auch international verlangen zunehmend, dass KI-Technologie ethisch vertretbar eingesetzt wird.

Lesen Sie weiter in unserer Artikelserie „Künstliche Intelligenz“:

Teil 1: Warum Vertrauenswürdigkeit und KI unbedingt zusammengehören
Teil 2: IT-Systeme: Warum Vertrauen für Unternehmen so wichtig ist
Teil 3: So lässt sich Vertrauenswürdigkeit für KI-basierte Anwendungen schaffen

©istockphoto/Mauricio Graiki

Über die Autoren

Porträtfoto von Ulla Coester, Unternehmerin

Ulla Coester Als Gründerin/CEO des Unternehmens xethix-empowerment.com leitet sie Prozesse zur digitalen Ethik sowie Digitalisierungsprojekte. Zudem ist sie Lehrbeauftragte für digitale Ethik an der Hochschule Fresenius, Köln und Mitglied der Standardization Evaluation Group 10 (SEG 10) im IEC: Ethics in Autonomous and Artificial Intelligence Application.
Zum Autorenprofil

Porträtfoto von Norbert Pohlmann, Professor für Informationssicherheit und Leiter des Instituts für Internet-Sicherheit - if(is) an der Westfälischen Hochschule in Gelsenkirchen sowie Vorstandsvorsitzender des Bundesverbands IT-Sicherheit – TeleTrusT und im Vorstand des Internetverbandes - eco.

Prof. Dr. Norbert Pohlmann Norbert Pohlmann ist Professor für Cyber-Sicherheit und Leiter des Instituts für Internet-Sicherheit – if(is) an der Westfälischen Hochschule in Gelsenkirchen sowie Vorstandsvorsitzender des Bundesverbands IT-Sicherheit – TeleTrusT und im Vorstand des Internetverbandes – eco.
Zum Autorenprofil

Kommentare

Kommentar schreiben:

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

Themenspecial: Outsourcing