Cortina Consult Logo
Cortina Consult
KI-Glossar

KI-Glossar

Die KI-Verordnung erscheint auf den ersten – und womöglich auch auf den zweiten Blick- einschüchternd und abschreckend. Aber wie bei einer Reise gilt auch in der KI-Compliance: Sind erst einmal die wichtigsten Begriffe verstanden, geht der Rest deutlich leichter.

Klicken Sie einfach auf einen Begriff aus unserem interaktiven Glossar und erhalten Sie neben der Definition aus der KI-VO auch nützliche Beispiele.

coco ki glossar map

AI Act

AI Officer

Anbieter

Betreiber

Bußgelder

Cybersicherheit

Einheitlicher Ansprechpartner

EU-Konformitätserklärung

Folgenabschätzung

KI Kategorien

KI-Managementsystem

KI-Modelle für allgemeine Zwecke

KI-Regulierungssandbox

KI-System

Konformitätsbewertung

Menschliche Aufsicht

Qualitätsmanagementsystem

Recht auf Erläuterung

Technische Dokumentation

Transparenzpflichten

Verhaltenskodex

Alle KI Begriffe im Überblick

AI Act
AI Officer / KI-Kompetenzteam
Anbieter
Betreiber
Bußgelder
Cybersicherheit
Einheitlicher Ansprechpartner
EU-Konformitätserklärung
Grundrechtliche Folgenabschätzung
Kategorien von KI-Systemen
KI-Managementsystem
KI-Modelle für allgemeine Zwecke
KI-Regulierungssandbox
KI-System
Konformitätsbewertung
Menschliche Aufsicht
Qualitätsmanagementsystem
Recht auf Erläuterung
Technische Dokumentation
Transparenzpflichten
Verhaltenskodex (Praxisleitfäden)
Kontakt
Cortina Consult
Hafenweg 24
48155 Münster
+49 251 95 20 37 - 40
post@cortina-consult.de
Über uns
Über Cortina
Karriere
Projekte & Referenzen
Impressum
Datenschutzerklärung
Datenschutzeinstellungen
AGB und AVV
Service
Bußgeldrechner
Meldung Datenschutzvorfall
DSGVO-Beschwerde Generator
Datenschutzerklärung Generator
Kostenloser Website-Check
DSGVO Gesetzestext
Newsletter
Unternehmensgruppe
Cookiebox Logo
©2024 Cortina Consult GmbH
Cortina Consult Symbol Weiss
Cortina Datenschutz Siegel
Nach oben scrollen

AI Act

Der AI Act ist die EU-Verordnung zur Regulierung künstlicher Intelligenz. Sie zielt darauf ab, die Entwicklung und Nutzung von KI-Systemen in der EU zu regulieren und sicherzustellen, dass diese sicher und vertrauenswürdig sind. Die Verordnung tritt am 01.08.2024 in Kraft, ab dem 02.02.25 folgen die ersten Anwendungen, z.B. in Form von Verboten für bestimmte KI-Systeme.

AI Officer / KI-Kompetenzteam

AI Officer auch KI-Beauftragter; in der Organisation mit der rechtskonformen Implementierung und Überwachung von KI betraute Person(en).

Anbieter

Als Anbieter wird in der KI-VO eine Person bezeichnet, die ein KI-System entwickelt oder entwickeln lässt und es in Verkehr bringt, zum Beispiel OpenAI und Microsoft, die die Anwendung ChatGPT vermarkten. Für Anbieter besteht eine Vielzahl von Anforderungen, die in der KI-Verordnung festgehalten sind, z.B: Transparenzpflichten. Das bedeutet: KI-Systeme müssen vom Anbieter so konzipiert sein, dass die Interaktion mit ihnen und der daraus resultierende Output als künstlich generiert erkennbar ist. (Art. 50, Abs. 1).

Betreiber

Ein Betreiber ist eine natürliche oder juristische Person, Behörde oder sonstige Einrichtung, die ein KI-System unter ihrer Kontrolle verwendet, zum Beispiel also auch Sie, wenn Sie in Ihrem Unternehmen KI verwenden. (Art. 3, Abs. 4). Betreiber müssen sicherstellen, dass die KI-Systeme gemäß den Vorgaben des Anbieters und der KI-VO eingesetzt werden. Sie sind also über die Anbieterpflichten wie auch über eigens festgelegte Betreiberpflichten an die KI-VO gebunden. So muss ein Unternehmen z.B. transparent offenlegen, dass es sich bei dem Chatbot auf einer Website um eine KI handelt. Außerdem sind sie verpflichtet, ihre Angestellten in Sachen KI zu schulen. (Art. 4)

Bußgelder

Bei Verstößen gegen den KI-VO drohen den Verantwortlichen hohe finanzielle Sanktionen, die bis zu 30 Millionen Euro oder 6% des weltweiten Jahresumsatzes betragen können. Sie dienen als Abschreckung und sollen die Einhaltung der Verordnung sicherstellen. (Art. 99).

Cybersicherheit

Ein Sammelbegriff, der nicht nur KI beinhaltet, aber durch sie eine neue Facette bekommt. Cybersicherheit umfasst alle Maßnahmen zum Schutz von digitalen Systemen vor unbefugtem Zugriff und Manipulation. Dies umfasst technische und organisatorische Vorkehrungen zur Gewährleistung der Integrität und Vertraulichkeit von bspw. KI-Systemen und deren Daten.

Einheitlicher Ansprechpartner

Einheitlicher Ansprechpartner auch „notifizierende Behörde“ genannt; Es handelt sich um eine von den Mitgliedstaaten benannte Stelle für die Kommunikation mit der Kommission. Diese Stelle erleichtert den Informationsaustausch und die Koordination zwischen nationalen Behörden und der EU-Kommission. (Art. 70). 

EU-Konformitätserklärung

Bei der EU-Konformitätserklärung handelt es sich um ein Dokument, das die Übereinstimmung eines KI-Systems mit den Anforderungen der KI-VO bestätigt. Es wird vom Anbieter ausgestellt und ist eine Voraussetzung für das Inverkehrbringen von Hochrisiko-KI-Systemen. (Art. 47)

Grundrechtliche Folgenabschätzung

(Grundrechtliche) Folgenabschätzung bezeichnet die Bewertung der möglichen Auswirkungen von Hochrisiko-KI-Systemen auf Grundrechte von Betroffenen. Sie hilft, potenzielle negative Auswirkungen von KI zu identifizieren und zu minimieren. (Art. 27).

Kategorien von KI-Systemen

Um den rechtlichen Rahmen zu konkretisieren, beinhaltet die KI-VO eine Einteilung in verbotene Praktiken, Hochrisiko-KI, KI mit begrenztem Risiko und KI mit minimalem Risiko. Diese Kategorisierung bestimmt die anwendbaren Anforderungen und Pflichten.

  • Verbotene Praktiken (Social Scoring, Biometrik, Verhaltensmanipulation) (Art. 5)
  • Hochrisiko-KI (Kreditwürdigkeitsprüfung, Recruiting Software) (Art. 6)
  • KI mit begrenztem Risiko (Deepfakes, Chatbots) (Art. 50)
  • KI mit minimalem Risiko (Newsletter-Systeme, Streaming-Empfehlungen) (Art. 95)

KI-Managementsystem

Ein KI-Managementsystem ist ein strukturierter technischer und organisatorischer Rahmen für die verantwortungsvolle Überwachung von KI-Technologien in einer Organisation.

KI-Modelle für allgemeine Zwecke

KI-Modelle für allgemeine Zwecke sind KI-Modelle, die für verschiedene Aufgaben eingesetzt werden können, werden auch als General Purpose AI (GPAI) bezeichnet. Dazu zählt bspw. ChatGPT von Open AI. GPAI unterliegt den Transparenz- und Berichtspflichten aufgrund ihrer potenziell weitreichenden Auswirkungen.

KI-Regulierungssandbox

KI-Regulierungssandbox auch „Reallabore“ genannt; werden von den zuständigen Behörden eines oder mehrerer Mitgliedstaaten oder vom Europäischen Datenschutzbeauftragten eingerichtet und stellen eine kontrollierte Umgebung dar, um die Entwicklung, Erprobung und Validierung von KI-Systemen vor ihrem Inverkehrbringen nach einem spezifischen Plan zu erleichtern. (Art. 57-59)

KI-System

Ein KI-System ist eine Software, die mit Techniken der künstlichen Intelligenz entwickelt wurde und Outputs wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen erzeugen kann. Der Begriff umfasst eine breite Palette von KI-Anwendungen. (Art. 3)

Konformitätsbewertung

Eine Konformitätsbewertung ist ein Verfahren zur Überprüfung, ob ein KI-System die Anforderungen der KI-VO erfüllt. Es ist obligatorisch für Hochrisiko-KI-Systeme vor deren Inverkehrbringen. (Art. 43)

Menschliche Aufsicht

Menschliche Aufsicht ist eine mögliche und wichtige Maßnahme zur Gewährleistung der Sicherheit von KI-Systemen ist die menschliche Aufsicht. Sie soll sicherstellen, dass KI-Systeme unter angemessener menschlicher Überwachung und Kontrolle bleiben und somit z.B. keine völlig unabhängigen Entscheidungen oder Auswertungen vornehmen. (Art. 14)

Qualitätsmanagementsystem

Ein Qualitätsmanagementsystem ist ein System zur Sicherstellung der Qualität und Konformität von Hochrisiko-KI-Systemen. Es umfasst Prozesse und Verfahren zur kontinuierlichen Verbesserung und Überwachung der KI-Systeme.

Recht auf Erläuterung

Recht auf Erläuterung beschreibt das Recht von Einzelpersonen, Erklärungen zu KI-gestützten Entscheidungen zu erhalten. Es fördert die Transparenz und Nachvollziehbarkeit von KI-Entscheidungen.

Technische Dokumentation

Technische Dokumentation beschreibt die detaillierte Aufzeichnungen über die Entwicklung und Funktionsweise eines KI-Systems. Sie ist erforderlich für Hochrisiko-KI-Systeme und dient der Nachvollziehbarkeit und Überprüfbarkeit. (Art. 11)

Transparenzpflichten

Transparenz ist eine Verpflichtungen für Anbieter und Betreiber von KI, konkret die zur Offenlegung von Informationen über die genutzten KI-Systeme. Dadurch soll die Nachvollziehbarkeit und das Vertrauen in KI-Systeme erhöht werden. (Art. 50)

Verhaltenskodex (Praxisleitfäden)

Der Verhaltenskodex (Praxisleitfäden) sind freiwillige Richtlinien für die Entwicklung und den Einsatz von KI-Systemen. Sie können von Anbietern und Betreibern entwickelt werden, um Best Practices zu fördern. (Art. 56)

Sie haben Fragen?
– Wir beraten Sie gerne
Jörg ter Beek externer Datenschutzbeauftragter
Jörg ter Beek
Datenschutzexperte & DSB
+49 251 95 20 37 - 40
jtb@cortina-consult.de
Unsere Lösungen
Cortina Consult Logo

Impressum | Datenschutz