KI Compliance Check
Risiken von KI-Verfahren und regulatorischer Hintergrund
KI-Verfahren sind heute omnipräsent. Die Frage, ob sie genutzt werden sollen, stellt sich schon lange nicht mehr. Sie sind eine Realität und wir treffen sie im Alltag immer häufiger an. Mit der Implementierung und dem Einsatz von KI wachsen die Risiken aber sowohl für die Anbieter wie auch die Anwender. Während die meisten Technologielösungen in einem fast rechtsfreien Raum entstanden sind, ist dies bei KI nicht mehr der Fall. Eine Vielzahl von Vorgaben wie der EU AI Act oder die Datenschutzgesetze schränken bei der Nutzung oder Entwicklung ein. Doch wie können solche Risiken mitigiert. bzw. optimiert werden? Man spricht deshalb auch von KI-Lifecyclen, denn KI-Verfahren müssen prozessiert und ordnungsgemäss abgewickelt werden.
Risikooptimierter KI-Einsatz – Wir machen Ihre KI Verfahren compliant
EXPERTISE
Schlüsselfragen zum KI-Einsatz
Muss ich bei meiner Lösung gesetzliche Vorgaben beachten, wenn ja, welche?
Kann ich sie problemlos in anderen Ländern einsetzen?
Ist die datenschutzkonform?
Was muss ich beachten, wenn ich Personendaten bearbeite?
Wem gehören die generierten Daten?
Welche Sicherheitsrisiken und Bedrohungen ergeben sich?
Wie sicher muss mein KI-Prozess sein und worauf muss ich achten?
Wieso ist Prompt Engineering notwendig und was sind die spezifischen Risiken?
Muss ich das Verfahren nachvollziehbar machen, wenn ja, wie?
Welche KI-Architekturmodelle gibt es und auf welche Risiken muss man achten?
Angebot
Unser Angebot
Wir beraten Sie beim Aufbau und Einsatz von KI-gestützten Verfahren, indem wir:
Die vorhandenen Konzepte und Verfahren beurteilen
Datenschutz-Folgenabschätzungen durchführen
Eine Risikobewertung der geplanten Lösung erstellen
Empfehlungen für die Modifikation abgeben und beschreiben
Empfehlungen zu Handen der Entscheidungsträger abgeben
Nachkontrollen im Betrieb durchführen und Verbesserungen vorschlagen
Expertise
Unser Know-How
Das krm verfügt über Daten- und Risikoexperten der ersten Stunde. Wir befassen uns seit 2002 mit Information Lifecycle Management und dem korrekten Umgang mit Daten. Unserer Berater verfügen über jahrelange Erfahrung als Cyber-Sicherheitsexperten, Auditoren oder Records Manager und Entwickler von automatisierten Prozessen. Wir haben eine KI-basierte Lösung zur Identifikation von Personendaten entwickelt und automatisierte Identifikationsverfahren umgesetzt. Wissen Sie z.B. dass eine Datenschutz-Folgenabschätzung in vielen Fällen zwingend durchgeführt werden muss?
Risiko
KI -Lifecycle spezifische Risikothemen
Selektion des richtigen KI-Tools
KI Security, Sicherheitskonzepte
Datenschutz Risikobeurteilungen
KI-Lifecycle Management
Prompt Engineering
KI-Versionsmanagement
KI-Risikoanalyse und Threat Management
Data Ownership, IP und Data Use Concepts
Secondary Data Use
Einsatzkonzepte für KI
Datenlöschung im Kontext KI und GenAI
Transparenz und Nachvollziehbarkeit von verwendeten Verfahren und Prozessen (Blackbox vs. Whitebox)
KI-Ethik
Themen
Beratungsthemen (Auszug)
Gesundheitswesen (Aussonderung und Klassifikation)
Bildung von Patientendossiers und Metadaten-Validierung sowie semantische Bearbeitung von Patientendossiers. Zuweisung von Metadaten aus verschiedenen Taxonomien/Ontologien. Lifecycle Management der Daten von der physischen Form bis zur elektronischen Vernichtung. Gewährleistung der Datenintegrität auf technischer wie auch inhaltlicher Ebene.
Datenschutz
Konzept und Bau eines KI-basierten Systems zur Erkennung und Identifikation von Personendaten (PID Cockpit). Erkennung und Markierung kritischer Metadaten sowie Umsetzung der datenschutzspezifischen Anforderungen.
Human Resources (Risikobeurteilung / Datenschutzfolgenabschätzung)
- Risikoanalysen und Datenschutz-Folgeschätzungen von KI-basierten HR-Werkzeugen zur Beurteilung von Mitarbeitenden und zur Erstellung von Beurteilungen und Zufriedenheitsanalysen (z.B. mittels Sentimentsanalysen).
- Umfassende Datenschutz-Folgenabschätzungen von systemen, welche KI-Verfahren nutzen.
Banking (KI unterstützte Auswertung von Kundeninformationen)
Digitalisierte oder digital erfasste Kundeninformationen aus Ausweisen, amtlichen Formularen und Onlineformularen können mit KI ausgewertet und validiert werden. Dies ermöglicht weitgehend automatisierte Prozesse bei Standardfällen. Das notwendige Kontrollsystem ist anspruchsvoll – wir wissen, wie man’s macht.
Datenbereinigung, Einsatz der Semantischen Middleware PoolParty
Wir sind seit mehreren Jahren Partner der Firma Semantic Web Company und beraten beim Einsatz von PoolParty (Semantische Middleware). Auch hier werden z.B. LLMs zur Corpusanalyse und Taxonomie-/Ontologiebildung eingesetzt. Im konkreten Anwendungsfall geht es um die Datenlöschung/-bereinigung.
Vorbereitet
Checkliste
Zeigt 10 wichtige Fragen zum rechtskonformen Einsatz von KI-Technologien:
- Sind besonders schützenswerte Personendaten involviert? Haben Sie eine Datenschutz-Folgenabschätzung durchgeführt?
- Sind Ihre Daten richtig anonymisiert?
- Ist die Datengrundlage bekannt und die Qualität gesichert?
- Sind die Trainingsdaten ausreichend und richtig?
- Ist der KI-Prozess und die KI-Algorithmen nachvollziehbar und gegenüber dem Anwender/der Person transparent?
- Kann man Diskriminierung, Vorurteile und falsche Resultate ausschliessen/eingrenzen?
- Sind Kontrollprozesse etabliert, damit die Anforderungen überprüft werden können (z.B. Einsatz 4-Augen Prinzip bei der Datenprüfung „Human in the Loop“).
- Fällt ihr System in eine regulierte Risikoklasse (nach AI Act)?
- Wie prüfen sie, ob sie mit der Verwendung der Daten keine Urheberrechte verletzen?
- Kennen Sie die Verarbeitungsketten (wer ist in die Bearbeitung der Daten involviert)?
BLOG
Alles zum Thema KI
Die KI-Wertschöpfungspyramide: Wie Unternehmen den maximalen Nutzen aus KI ziehen
Autor: Michael Rumpf 1. Ausgangssituation: Die wachsende Bedeutung von KI in Unternehmen Künstliche Intelligenz (KI) ist längst kein Zukunftsthema mehr – sie ist im Hier und Jetzt angekommen. Unternehmen weltweit setzen auf KI, um Prozesse zu optimieren, Kosten zu...
KI ist wie ein Fussballspiel – es geht nicht ohne Regeln!
Benötigt die Schweiz ein KI Gesetz? KI ist wie ein Fussballspiel – es geht nicht ohne verbindliche Regeln! Ich vertrete die Meinung, dass die Schweiz so rasch als möglich eine Regulierung der Verfahren zur künstlichen Intelligenz in Gang bringen muss. Das zögerliche...
JETZT KONTAKT AUFNEHMEN
Anrufen: +41 44 888 10 11
oder per Mail an info@krm.swiss