Die rasante Verbreitung von Generativer KI stellte Organisationen wie die Gewerkschaft Unia, die täglich mit besonders schützenswerten Personendaten arbeiten, vor grosse Herausforderungen. Es fehlte an klaren Prozessen, um die Risiken von KI-Projekten fundiert zu bewerten. Dies führte zur Gefahr einer unkontrollierten Nutzung öffentlicher Tools durch Mitarbeitende («Schatten-IT»), was erhebliche rechtliche Risiken barg und die zentrale Problemstellung dieser, im Auftrag der Unia erstellten, Arbeit bildete.

Um ein praxisrelevantes Artefakt zu entwickeln, wurde der Ansatz der gestaltungsorientierten Forschung gewählt. Eine umfassende Literaturanalyse zu rechtlichen Grundlagen (DSG, DSGVO) und technischen Standards (NIST, ISO) bildete die Basis. Darauf aufbauend wurden qualitative Experteninterviews geführt, um reale Herausforderungen zu verstehen. Zusätzlich wurde eine Online-Umfrage (n=52) durchgeführt, um den Kenntnisstand und die Nutzung von KI in der Praxis quantitativ zu erfassen.

Die empirische Untersuchung bestätigte den dringenden Handlungsbedarf: Über die Hälfte der Befragten (57 %) agiert in einer Grauzone ohne bekannte Regeln für den KI-Einsatz. Obwohl der Datenschutz als grösste Sorge gilt, zeigen 30 % der Mitarbeitenden ein riskantes Verhalten bei der Eingabe interner Daten. Das zentrale Ergebnis der Arbeit ist das «KI-Risiko-Cockpit», ein funktionaler, Excel-basierter Prototyp. Dieses Instrument führt Anwendende durch einen strukturierten Prozess zur Bewertung von KI-Vorhaben in den vier Dimensionen Juristisch, Menschlich, Organisatorisch und Technisch. Basierend auf einem detaillierten Fragenkatalog berechnet das Tool vollautomatisch eine Gesamtrisikostufe (Minimal, Begrenzt, Hoch oder Unannehmbar) und generiert davon abhängige, konkrete Handlungsempfehlungen, wie etwa die Durchführung einer Datenschutz-Folgenabschätzung. Das Cockpit schafft so eine dokumentierte und fundierte Entscheidungsgrundlage und schlägt die entscheidende Brücke zwischen technologischem Potenzial und fehlender Governance.