Warum Vertrauenswürdigkeit und KI unbedingt zusammengehören
Artikelserie: Künstliche Intelligenz, Teil 1

Warum Vertrauenswürdigkeit und KI unbedingt zusammengehören

Porträtfoto von Norbert Pohlmann, Professor für Informationssicherheit und Leiter des Instituts für Internet-Sicherheit - if(is) an der Westfälischen Hochschule in Gelsenkirchen sowie Vorstandsvorsitzender des Bundesverbands IT-Sicherheit – TeleTrusT und im Vorstand des Internetverbandes - eco.
Am

Die Künstliche Intelligenz (KI) ist eine der Technologien, die aufgrund unterschiedlicher Interessenlagen teilweise sehr kontrovers diskutiert wird. Dadurch sowie durch die zunehmende Komplexität entsteht eine uneinheitliche Einstellung bei den Nutzern gegenüber der KI: Von blindem Vertrauen über indifferent bis hin zu unverhältnismäßiger Ablehnung. Da hierdurch der Einsatz neuer Technologien verzögert oder gar verhindert werden kann, müssen Unternehmen jetzt agieren um dies vermeiden.

Die Gegebenheiten im Jahr 2020 haben dazu geführt, dass hohe Investitionen getätigt wurden, um die Digitalisierung in den Unternehmen voranzutreiben. Was sich neben den positiven Aspekten jedoch gezeigt hat war, dass die – daraus resultierend – zunehmend komplexe IT-Infrastruktur neue Herausforderungen für alle Beteiligten mit sich bringt.

Wissen über Wirkweise innovativer IT-Technologie sinkt

Diese Erkenntnis lässt sich gleichwohl auf die Indienstnahme innovativer Technologien wie etwa KI übertragen, denn auch hier ist ein Resultat, dass die gesamte Internet-/IT-Infrastruktur vielschichtiger und somit intransparenter wird. Aufgrund dieser Entwicklung entsteht ein gravierendes Dilemma: gegenläufig zu dem steigenden Einsatz innovativer IT-Technologie sinkt das Wissen über deren Wirkweise, Hintergründe und Zusammenhänge. Da dieser Effekt verstärkt Endnutzer tangiert, könnte sich als Reaktion darauf das konkret auf ihr Verhalten auswirken und zu folgender Handlungsalternative führen – entweder unverhältnismäßige Ablehnung der Technologie und entsprechender Dienste oder blindes Vertrauen.

Info:Was genau ist überhaupt KI?

Künstliche Intelligenz (kurz: KI, engl. Artificial Intelligence) ist ein Zweig der Informatik, der sich mit der Entwicklung von Computersystemen befasst, die selbstständig Funktionen ausführen können, für die normalerweise menschliche Intelligenz erforderlich ist, beispielsweise logisches Denken, Problemlösung, Lernen aus Erfahrung oder Spracherkennung.

Die Forschung zur künstlichen Intelligenz verbindet Elemente der Computerwissenschaften mit kognitiver Psychologie. Das Forschungsgebiet der KI wird kontrovers diskutiert, da es schwer ist, die Ziele klar zu formulieren, und es keine Einigkeit darüber gibt, ob die Ziele erreichbar sind.

Beides steht einem sinnvollen Reifeprozess hin zu neuen Anwendungen oder innovativen Dienste und somit der Nachhaltigkeit einer dienlichen Digitalisierung im Weg. Warum ist dem so? Dass eine große Anzahl Verweigerer neuer Technologien wie KI negative Auswirkungen hat, leuchtet zweifelsohne ein. Im Gegensatz dazu erscheint Vertrauen – selbst blindes – auf den ersten Blick zielführend, da Vertrauen ja grundsätzlich positiv konnotiert ist.

Denn gemäß dem Soziologen Niklas Luhmann ist Vertrauen ein Mechanismus der Komplexitätsreduktion[1] – also etwas, wodurch sich das Leben leichter gestalten lässt. Bei einer weiteren Präzisierung der Interpretation im Sinne des Philosophen und Soziologen Georg Simmel, der „Vertrauen als einen Zustand zwischen Wissen und Nicht-Wissen, als eine Hypothese künftigen Verhaltens“, auf die Menschen ihr konkretes Handeln gründen[2] sieht, erschließt sich offensichtlich folgendes: Die Relevanz von Vertrauen für Einsatz und Anwendung innovativer Technologien.

Warum Vertrauenswürdigkeit bei KI relevant ist

Was aber unterstreicht die Notwendigkeit, dass dieses sowohl gerechtfertigt als auch nachvollziehbar sein muss? Die Hypothese, dass eine Prämisse – und damit ein entscheidender Erfolgsfaktor über den ein hoher Grad an Zustimmung zu erreichen ist – hierbei zukünftig die Vertrauenswürdigkeit der Hersteller, Anbieter und Technologien sein wird, lässt sich inter alia erst einmal allgemein aus dem evidenten ableiten: Die Art und Weise wie die großen Technologie-Konzerne agieren stößt zunehmend in weiten Kreisen auf Kritik.

Dass eine skeptische Einschätzung seitens Regierungen sowie der Gesellschaft insgesamt vonnöten und letztendlich auch begründet zu sein scheint, lässt sich vielfach belegen. Unter anderem durch die Gegenreden in der im Jahr 2020 erfolgten Anhörung von Apple, Google, Amazon und Facebook. Hier wurde etwa der Gründer von Amazon befragt, „ob Amazon Daten von Händlern nutze, die Waren auf der Plattform des Konzerns verkaufen, um ihnen mit ihren eigenen Produkten Konkurrenz zu machen“[3]. Die Antwort von Jeff Bezos lautete sinngemäß, dass es dagegen zwar Regeln gäbe, er aber nicht garantieren könne, ob diese auch eingehalten würden. Aussagen wie diese sind nicht dazu geeignet, Vertrauen bei den Kunden aufzubauen – im Gegenteil, hierdurch wird deutlich gemacht, dass die Vertrauenswürdigkeit keinen allzu hohen Stellenwert hat.

Ein Häkchen zu viel kann Vertrauen leicht zerstören

Inwieweit eine Haltung wie diese heutzutage mittelfristig gesehen noch Bestand haben kann ist fraglich, da vieles schneller nicht nur an die Öffentlichkeit dringt, sondern auch unmittelbar über Social Media-Kanäle ausführlich diskutiert und kommentiert wird. Eine Erfahrung, die beispielsweise im vergangenen Jahr O2 machen musste. Das Unternehmen wollte im Rahmen eines Pilotprojektes den O2-Kundinnen und -Kunden ermöglichen, einen Vertrag abzuschließen – auch wenn sie zuvor im Schufa-Check durchgefallen waren – indem mit einer weiteren Einwilligung über ein kleines Häkchen die Schufa die Erlaubnis erhalten sollte, die sensiblen Kontoauszüge für andere Zwecke umfangreich auszuwerten.[4]

Verkaufen wollte die Schufa diesen Blick in die Kontobewegung eigentlich als Chance für Kunden, um ihre Bonität zu verbessern, die sie aufgrund einer negativen Bewertung bei derselben haben.[5] Die Idee scheiterte genau an dem Häkchen, das einen Einblick in die Privatsphäre gestatten würde. Nach einer entsprechenden Berichterstattung zweier TV-Sender, brach in den einschlägigen Kanälen ein Sturm der Empörung los – was O2 dazu veranlasste, sich unmittelbar von diesem Projekt zu distanzieren, um einem potentiell geschäftsschädigenden Verlust der Vertrauenswürdigkeit entgegenzuwirken.

Eine generelle Aufgabe für die Unternehmen

Daran wird insgesamt deutlich, dass jetzt ein Diskurs eingeleitet werden muss, um Klarheit zu schaffen. Dabei ist mehr zu bedenken als das zukünftige Nutzenpotential der KI, die Eintrittswahrscheinlichkeit einer Singularität oder allgemein deren Relevanz für den wirtschaftlichen Erfolg in Europa. Ebenso gilt es, die Auswirkungen auf die Entwicklung der Gesellschaft sowie eine adäquate Gewichtung weiterer relevanter Faktoren, wie etwa ethische Aspekte, in Betracht zu ziehen.

Aber in all diesen Punkten sind bislang Experten unterschiedlicher Meinung, was insbesondere im Sinne der Nutzer kontraproduktiv ist. Von daher ist jetzt der Zeitpunkt die Fragestellung zu beantworten, was notwendigerweise zu tun ist, um Vertrauen und damit Akzeptanz bei den Nutzern aufzubauen. Fest steht allerdings, dass es mittelfristig unumgänglich ist die Unabdingbarkeit der Vertrauenswürdigkeit anzuerkennen sowie vertrauensbildende Maßnahmen zu etablieren. Denn letztendlich sind die innovativen Möglichkeiten, die eine vernetzte Informations- und Wissensgesellschaft mit sich bringen, lediglich dann optimal nutzbar, wenn das damit einhergehende Risiko für alle Beteiligten – aber vorrangig für die Nutzer – nicht nur minimal, sondern auch kalkulierbar ist.

Vertrauensbereitschaft in KI und Technologie vorhanden

Doch was bedeutet Vertrauen eigentlich? Allgemein könnte dieser Begriff als der Glaube daran, dass es möglich ist sich auf jemanden (Hersteller/Anbieter) oder auf etwas (Technologie) zu verlassen definiert werden. Weiterhin ist Vertrauen das Zutrauen in eine relativ bestimmte beziehungsweise erahnte Zuverlässigkeit, Fähigkeit und/oder Tugendhaftigkeit. Vertrauen gilt als hoffnungsvoller Vorschuss hinsichtlich bestimmter Erwartungen[6] . Daraus lässt sich in Bezug auf innovative Technologien ableiten, dass diese allgemein vertrauenswürdig sind, wenn sie sich immer in der erwarteten Weise für den beabsichtigten Zweck verhalten.

Je unvorhersehbarer die Zukunft, desto essentieller wird Vertrauen in zeitlicher, sozialer und sachlicher Hinsicht

Kai Uwe Hellmann

Soziologe

Prinzipiell anerkannt ist, dass Vertrauen die Grundvoraussetzung für die Weltwirtschaft ist – allein aufgrund der Tatsache, dass viele Geschäftsmodelle ohne Vertrauen unmöglich wären. Eine plausible Erklärung dafür, warum der Vertrauenswürdigkeit im Kontext von innovativer Technologie zukünftig eine hohe Bedeutung beigemessen werden muss lieferte der Soziologe Kai-Uwe Hellmann bereits 2004: „Je unvorhersehbarer die Zukunft, desto essentieller wird Vertrauen in zeitlicher, sozialer und sachlicher Hinsicht“[7] . Damit lässt sich die Prämisse der Vertrauenswürdigkeit auf den Einsatz innovativer Anwendungen und Diensten unmittelbar übertragen.

Die Zukunft ist weniger planbar

Warum? Zum einen, weil die Zukunft auch aufgrund der, in immer kürzeren Intervallen entwickelten, innovativen Technologien zunehmend unvorhersehbar wird, da auch selbst unter Wissenschaftlern keine Einigkeit darüber herrscht, ob beziehungsweise wann die Singularität erreicht oder ob es tatsächlich leistungsstarke Quantencomputer geben wird. Dass dies Auswirkungen hat zeigt sich an den Ergebnissen des aktuellen Online-Vertrauens-Kompass (ovk) des ‚Bundesverband Digitaler Wirtschaft’ (BVDW) in der 46 Prozent der Befragten angeben: „Die schnelle Veränderung unserer Lebensbedingungen durch zunehmende Technisierung und Vernetzung macht mir Angst“[8] .

Die Nutzung jeglicher Technologie führt zu einer Risikohandlung

Zum anderen müsste es im Prinzip, allein unter der Annahme, dass der Vertrauensbegriff nur unscharf von anderen Terminologien wie Glaubwürdigkeit oder Verlässlichkeit zu trennen ist, schwer fallen neuen Technologien, respektive den Anwendungen und Diensten zu vertrauen – denn deren Funktionsweise, beziehungsweise welche Rechenvorgänge genau in ihnen stattfinden, lässt sich im besten Fall noch von Experten nachvollziehen. Den Gedanken fortsetzend könnte sich daraus dann folgendes ableiten lassen: mit der Nutzung jeglicher Technologie begehen Menschen potentiell eine Risikohandlung.

Denn eine solche zu vollziehen bedeutet primär, die Entscheidung für eine Handlung zu treffen, ohne vollständiges Wissen über deren Ergebnis zu besitzen. Was zwar – notabene – auf nahezu alle Handlungen zutrifft, aber im Regelfall nicht bewusst ist, denn kaum einer würde seine Alltagshandlungen als riskant bezeichnen. Selbst dann nicht, wenn keine Sicherheit darüber besteht, dass sie im Sinne des Handlungsziels gelingen. Erst in dem Moment, wenn im Falle des Misslingens einer Aktion zugleich die Gefahr eines Verlusts besteht, also der Einzelne tatsächlich spürbar ‚etwas aufs Spiel setzt’, wird das Risiko als solches auch empfunden.

Unternehmen müssen dem angekratzten Vertrauen entgegenwirken

Die Gewährleistung von Vertrauen – auch dem blinden – erfolgt somit rein subjektiv. Das bedeutet im Umkehrschluss, dass das Verhalten der Nutzer volatil ist. Selbst wenn sie einem Dienst momentan Vertrauen schenken, gibt es keine Garantie dafür, dass dieser Umstand beliebig lange währt. Eine Verhaltensänderung kann jederzeit erfolgen, beispielsweise durch einen plakativen Vorfall, wie etwa dem Missbrauch von Daten durch Facebook im Rahmen der Cambridge Analytica-Affäre. Vorkommnisse wie diese werden nicht nur sofort publik, sie tragen allgemein dazu bei, eine negative Einstellung in Bezug auf Datensammlung und deren Verwertung zu kreieren.

Aber was kann ein Unternehmen tun, um in diesem Kontext ein potentielles Risiko nicht nur zu erkennen, sondern auch zu minimieren? Die alleinige Betrachtung von allgemeinem Zahlenmaterial – beispielsweise, dass 91 Prozent der Teilnehmer einer Studie sagen, „ihnen [ist] der Schutz ihrer persönlichen Daten im Netz wichtig [..]“ oder 81 Prozent „online möglichst anonym bleiben wollen und daher zum Beispiel nur wenig in sozialen Netzwerken teilen“[9] – hilft nur bedingt weiter.

Unternehmen stehen konkret vor der Aufgabe, regelmäßig zu evaluieren, was zu tun ist, um Vertrauenswürdigkeit zu schaffen und diese auch glaubhaft unter Beweis stellen zu können. Denn um das Vertrauen dauerhaft zu erhalten, muss nicht nur die Vertrauenswürdigkeit der Unternehmen den Vorstellungen der Nutzer entsprechen, sondern es sind darüber hinaus exakt jene Maßnahmen individuell zu ergreifen, mit denen sich belegen lässt, dass dem jeweils angebotenen Dienst oder Produkt vertraut werden kann.

Welche Vorgehensweise hier adäquat ist und welche Maßnahmen im Einzelnen zu ergreifen sind, wird in den nächsten Artikeln diskutiert und detailliert dargestellt.

Lesen Sie weiter in unserer Artikelserie „Künstliche Intelligenz“:

Teil 1: Warum Vertrauenswürdigkeit und KI unbedingt zusammengehören
Teil 2: IT-Systeme: Warum Vertrauen für Unternehmen so wichtig ist

[1] Niklas Luhmann, Vertrauen: Ein Mechanismus der Reduktion sozialer Komplexität, 1968
[2] Georg Simmel, Soziologie (1908). Gesamtausgabe, hg. von O. Rammstedt, Bd. 11, 1992
[3] https://www.focus.de/digital/digital-news/anhoerung-vor-dem-us-ko…cebook-haben-die-vier-tech-riesen-zu-viel-macht_id_12263014.html
[4] https://www.basicthinking.de/blog/2021/03/29/schufa-verkauf-us-investor/
[5] https://www.basicthinking.de/blog/2020/11/27/schufa-check-now-hintergrund/
[6] https://www.wertesysteme.de/vertrauen/
[7] Solidarität, Sozialkapital und Systemvertrauen Formen sozialer Integration, Kai-Uwe Hellmann[8] Online-Vertrauens-Kompass 2020 https://www.bvdw.org/themen/publikationen/detail/artikel/online-vertrauens-kompass/
[9]https://www.bvdw.org/der-bvdw/news/detail/artikel/vertrauen-im-…ht/?source=inxmail-mailing&medium=dmx&content=novemberr-ausgabe

Foto/Thumbnail: ©istockphoto/metamorworks

Über die Autoren

Porträtfoto von Norbert Pohlmann, Professor für Informationssicherheit und Leiter des Instituts für Internet-Sicherheit - if(is) an der Westfälischen Hochschule in Gelsenkirchen sowie Vorstandsvorsitzender des Bundesverbands IT-Sicherheit – TeleTrusT und im Vorstand des Internetverbandes - eco.

Prof. Dr. Norbert Pohlmann ist Professor für Informationssicherheit und Leiter des Instituts für Internet-Sicherheit - if(is) an der Westfälischen Hochschule in Gelsenkirchen sowie Vorstandsvorsitzender des Bundesverbands IT-Sicherheit – TeleTrusT und im Vorstand des Internetverbandes - eco.
Zum Autorenprofil

Porträtfoto von Ulla Coester, Unternehmerin

Ulla Coester Als Gründerin/CEO des Unternehmens xethix-empowerment.com leitet sie Prozesse zur digitalen Ethik sowie Digitalisierungsprojekte. Zudem ist sie Lehrbeauftragte für digitale Ethik an der Hochschule Fresenius, Köln und Mitglied der Standardization Evaluation Group 10 (SEG 10) im IEC: Ethics in Autonomous and Artificial Intelligence Application.
Zum Autorenprofil

Kommentare

Kommentar schreiben:

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.