Welche
Bedingungen müssen erfüllt sein müssen, damit Unternehmen
KI-Herstellern vertrauen und deren KI-Lösungen nutzen? Diese Frage steht
im Fokus des Forschungsprojekts „TrustKI
– Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume“, das
seit letztem Jahr am Institut für Internet-Sicherheit – if(is) der
Westfälischen Hochschule läuft. In diesem Rahmen wurde Ende letzten
Jahres die Anwender-Studie TrustKI durchgeführt,
um zu ermitteln, was aus Sicht von Anwenderunternehmen relevant ist,
damit sie einem KI-Hersteller vertrauen können.
Generell lässt sich feststellen, dass den
Anwenderinnen und Anwendern von KI-Lösungen der Aufbau eines reellen
Vertrauensverhältnisses, basierend auf der Vertrauenswürdigkeit des
KI-Anbieters, sehr wichtig ist. Eine
Erklärung dafür liegt nach Ansicht von Prof. Norbert Pohlmann auf der
Hand: „Die Veränderungen, die mit der zunehmenden Nutzung von
Künstlicher Intelligenz einhergehen, werden absehbar sowohl die
Gesellschaft insgesamt als auch jeden einzelnen Menschen immer stärker
betreffen.“ Virtuelle Assistenten wie „ChatGPT“ oder „Microsoft Copilot“
zeigen bereits heute eindrucksvoll, wie zügig die Marktdurchdringung
von KI-Anwendungen vonstattengeht und welche Effekte daraus resultieren.
Daher lässt sich leicht nachvollziehen, dass das Bedürfnis der
Anwendenden nach Vertrauenswürdigkeit und damit einhergehend bestimmten
Werten deutlich zugenommen hat.
Nachfolgend einige bemerkenswerte Ergebnisse, die Anwenderinnen und Anwender als wichtig erachten:
- Die
befragten Anwenderunternehmen erwarten von KI-Anbietern ein
wahrhaftiges Commitment. Nach Ansicht der Teilnehmer hilft eine
prägnante und transparente Kernbotschaft, damit KI-Anbieter ihre
Vertrauenswürdigkeit glaubwürdig darstellen und nachhaltig manifestieren
können. - Gleichzeitig müssen die KI-Anbieter ihrer (ethischen)
Sorgfaltspflicht nachkommen und im Sinne der Anwender wohlwollend
agieren. Dies lässt sich nach Ansicht der Teilnehmer in
unterschiedlichen Dimensionen nachweisen. Hierzu gehört beispielsweise,
die Durchführung einer Folgenabschätzung dahingehend, ob und in welchem
Maße Probleme bei der Nutzung der KI-Lösung auftreten können. - Ein
durchgängig relevanter Aspekt ist aus Sicht der befragten
Anwenderunternehmen die IT-Sicherheit. Die aktuellen Herausforderungen
im Rahmen der Nutzung von KI erfordern unter anderem, dass IT-Sicherheit
ein integraler Bestandteil der Unternehmenskultur ist.
Hier finden Sie die ausführlichen Studienergebnisse sowie den Forschungsbericht.
