News-Mitteilungen

Studienergebnisse der Anwender-Studie TrustKI

Logo Anwender-Studie TrustKI

Welche
Bedingungen müssen erfüllt sein müssen, damit Unternehmen
KI-Herstellern vertrauen und deren KI-Lösungen nutzen? Diese Frage steht
im Fokus des Forschungsprojekts 
„TrustKI
– Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume“, das
seit letztem Jahr am Institut für Internet-Sicherheit – if(is) der
Westfälischen Hochschule läuft. In diesem Rahmen wurde Ende letzten
Jahres die Anwender-Studie TrustKI 
durchgeführt,
um zu ermitteln, was aus Sicht von Anwenderunternehmen relevant ist,
damit sie einem KI-Hersteller vertrauen können. 

 

Generell lässt sich feststellen, dass den
Anwenderinnen und Anwendern von KI-Lösungen der Aufbau eines reellen
Vertrauensverhältnisses, basierend auf der Vertrauenswürdigkeit des
KI-Anbieters, sehr wichtig ist.
Eine
Erklärung dafür liegt nach Ansicht von Prof. Norbert Pohlmann auf der
Hand: „Die Veränderungen, die mit der zunehmenden Nutzung von
Künstlicher Intelligenz einhergehen, werden absehbar sowohl die
Gesellschaft insgesamt als auch jeden einzelnen Menschen immer stärker
betreffen.“ Virtuelle Assistenten wie „ChatGPT“ oder „Microsoft Copilot“
zeigen bereits heute eindrucksvoll, wie zügig die Marktdurchdringung
von KI-Anwendungen vonstattengeht und welche Effekte daraus resultieren.
Daher lässt sich leicht nachvollziehen, dass das Bedürfnis der
Anwendenden nach Vertrauenswürdigkeit und damit einhergehend bestimmten
Werten deutlich zugenommen hat.
 

 

Nachfolgend einige bemerkenswerte Ergebnisse, die Anwenderinnen und Anwender als wichtig erachten:

  • Die
    befragten Anwenderunternehmen erwarten von KI-Anbietern ein
    wahrhaftiges Commitment. Nach Ansicht der Teilnehmer hilft eine
    prägnante und transparente Kernbotschaft, damit KI-Anbieter ihre
    Vertrauenswürdigkeit glaubwürdig darstellen und nachhaltig manifestieren
    können.
  • Gleichzeitig müssen die KI-Anbieter ihrer (ethischen)
    Sorgfaltspflicht nachkommen und im Sinne der Anwender wohlwollend
    agieren. Dies lässt sich nach Ansicht der Teilnehmer in
    unterschiedlichen Dimensionen nachweisen. Hierzu gehört beispielsweise,
    die Durchführung einer Folgenabschätzung dahingehend, ob und in welchem
    Maße Probleme bei der Nutzung der KI-Lösung auftreten können.
  • Ein
    durchgängig relevanter Aspekt ist aus Sicht der befragten
    Anwenderunternehmen die IT-Sicherheit. Die aktuellen Herausforderungen
    im Rahmen der Nutzung von KI erfordern unter anderem, dass IT-Sicherheit
    ein integraler Bestandteil der Unternehmenskultur ist.

Hier finden Sie die ausführlichen Studienergebnisse sowie den Forschungsbericht.



WEITERE
ARTIKEL