Die Verordnung (EU) 2024/1689 über künstliche Intelligenz — kurz KI-Verordnung oder EU AI Act — ist am 1. August 2024 in Kraft getreten und gilt seitdem gestaffelt. Sie reguliert KI-Systeme nicht pauschal, sondern nach dem Risiko ihres konkreten Einsatzes und verteilt die Pflichten auf verschiedene Rollen entlang der Wertschöpfungskette.
Für Sie als Kunde ist vor allem eine Unterscheidung entscheidend: Die neuland.ai AG ist Anbieter der Plattform neuland.ai HUB, Sie sind Betreiber in Ihrem eigenen Unternehmen. Beide Rollen tragen unterschiedliche Pflichten — und beide sind erfüllbar. Diese Seite beschreibt, welche das sind, wofür der neuland.ai HUB bestimmt ist und welche Anwendungen ausdrücklich ausgeschlossen sind.
Rollenverteilung
Anbieter
neuland.ai AG
- Entwicklung und Bereitstellung der KI-Plattform neuland.ai HUB unter eigenem Namen
- Festlegung und Dokumentation der Zweckbestimmung nach Art. 3 Nr. 12 KI-VO
- Technische Dokumentation der eingesetzten Modelle und ihrer Herkunft
- Transparente Kennzeichnung von KI-generierten Inhalten in der Oberfläche
- Bereitstellung der Informationen, die Sie als Betreiber für Ihre Pflichten brauchen
- Auswahl und vertragliche Bindung der eingesetzten Modell- und Infrastrukturanbieter
Betreiber
Ihr Unternehmen
- Einsatz des neuland.ai HUB im Rahmen der Zweckbestimmung und der Nutzungsbedingungen
- Sicherstellung ausreichender KI-Kompetenz der Mitarbeitenden (Art. 4 KI-VO)
- Menschliche Aufsicht über die Ergebnisse — insbesondere vor Entscheidungen mit Außenwirkung
- Information der betroffenen Personen, soweit im konkreten Anwendungsfall erforderlich
- Wahrnehmung der Beteiligungsrechte des Betriebsrats, soweit einschlägig
- Prüfung, ob der eigene Anwendungsfall in eine höhere Risikoklasse fällt
Setzen Sie den neuland.ai HUB unter eigenem Namen oder eigener Marke ein oder verändern Sie die Zweckbestimmung wesentlich, können Sie nach Art. 25 KI-VO selbst zum Anbieter werden. Sprechen Sie uns in diesem Fall an — wir unterstützen bei der Abgrenzung.
Risikoklassifizierung
Die KI-Verordnung reguliert KI-Systeme nach vier Risikostufen — je höher das Risiko des konkreten Einsatzes, desto strenger die Pflichten.
Inakzeptables Risiko
Verboten · Art. 5 KI-VO
Praktiken, die Grundrechte verletzen, sind vollständig untersagt.
z. B. Social Scoring, Emotionserkennung am Arbeitsplatz, manipulative Techniken
Hohes Risiko
Strenge Auflagen · Art. 6, Anhang III
Erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte — zulässig nur mit Konformitätsbewertung, Risikomanagement und menschlicher Aufsicht.
z. B. Bewerberauswahl, Leistungsbewertung von Beschäftigten, Kreditwürdigkeitsprüfung
Begrenztes Risiko
Transparenzpflichten · Art. 50 KI-VO
KI-Systeme, mit denen Menschen interagieren oder die Inhalte erzeugen. Nutzende müssen erkennen können, dass KI im Einsatz ist.
z. B. KI-Assistenten, KI-generierte Inhalte
Minimales Risiko
Keine besonderen Pflichten
Alle übrigen KI-Systeme — die Verordnung stellt keine zusätzlichen Anforderungen.
z. B. Spamfilter, Rechtschreibhilfen
Der neuland.ai HUB als Plattform: begrenztes Risiko — kein Hochrisiko-KI-System
- Der neuland.ai HUB ist ein KI-System für allgemeine Zwecke: ein Arbeitsbereich für Textverarbeitung, Recherche, Dokumentenanalyse und Auswertung entlang der vom Verantwortlichen definierten Prozesse.
- Die Plattform trifft keine automatisierten Entscheidungen über Personen. Ergebnisse werden als Vorschlag ausgegeben; die Entscheidung liegt beim Menschen.
- Die Zweckbestimmung schließt die in Anhang III Nr. 4 KI-VO genannten Beschäftigungs-Anwendungen ausdrücklich aus — insbesondere die Beobachtung und Bewertung von Leistung und Verhalten Beschäftigter. Der Ausschluss ist als Anlage Bestandteil des AVV.
- Es findet keine biometrische Identifizierung, kein Social Scoring und keine Emotionserkennung am Arbeitsplatz statt — die nach Art. 5 KI-VO verbotenen Praktiken sind ausgeschlossen.
- Daraus folgen für den neuland.ai HUB die Transparenzpflichten nach Art. 50 KI-VO: Nutzende erkennen jederzeit, dass sie mit einem KI-System arbeiten.
Zweckbestimmung und ausgeschlossene Anwendungen
Ob ein KI-System als Hochrisiko-System gilt, hängt nach der KI-VO davon ab, wofür es „bestimmungsgemäß verwendet werden soll“. Maßgeblich ist damit die Zweckbestimmung, die der Anbieter festlegt (Art. 3 Nr. 12 KI-VO). neuland.ai legt sie wie folgt fest — und grenzt sie ausdrücklich ab.
Wofür der neuland.ai HUB bestimmt ist
Fachliche Unterstützung
Unterstützung fachlicher Tätigkeiten: Textverarbeitung, Recherche sowie Analyse und Auswertung von Dokumenten und Daten.
Automatisierung von Arbeitsschritten
Automatisierung wiederkehrender Arbeitsschritte innerhalb der vom Verantwortlichen definierten Geschäftsprozesse.
Der Mensch entscheidet
Ausgabe von Ergebnissen ausschließlich als Vorschlag — die Entscheidung trifft stets ein Mensch.
Beschäftigtendaten nur zur Administration
Verarbeitung von Beschäftigtendaten ausschließlich zur Bereitstellung und Administration der Plattform (Nutzerkonten, Authentifizierung, Rechteverwaltung, Sicherheitsprotokollierung) sowie insoweit, als Beschäftigte die Plattform im Rahmen ihrer Tätigkeit nutzen und dabei Inhalte eingeben.
Ausdrücklich ausgeschlossene Anwendungen
Die folgenden Anwendungen gehören nicht zur Zweckbestimmung des neuland.ai HUB. Sie sind weder als Funktion vorgesehen noch vertraglich gestattet:
Beobachtung und Bewertung von Leistung und Verhalten Beschäftigter
Anhang III Nr. 4 lit. b KI-VO
Der neuland.ai HUB ist nicht dafür bestimmt, die Leistung oder das Verhalten von Beschäftigten zu beobachten oder zu bewerten. Nutzungs- und Protokolldaten werden ausschließlich zu Zwecken der Informationssicherheit, der Fehleranalyse und des Nachweises der Systemintegrität ausgewertet — nicht zur Leistungs- oder Verhaltenskontrolle einzelner Beschäftigter.
Entscheidungen über die Bedingungen von Arbeitsverhältnissen
Anhang III Nr. 4 lit. b KI-VO
Keine Verwendung für Entscheidungen über Begründung, Bedingungen, Vergütung, Beförderung oder Beendigung von Arbeitsverhältnissen.
Zuweisung von Aufgaben nach individuellem Verhalten oder persönlichen Merkmalen
Anhang III Nr. 4 lit. b KI-VO
Keine Zuweisung oder Priorisierung von Aufgaben auf Grundlage des individuellen Verhaltens oder persönlicher Merkmale oder Eigenschaften von Beschäftigten.
Einstellung und Auswahl natürlicher Personen
Anhang III Nr. 4 lit. a KI-VO
Keine Verwendung für gezielte Stellenanzeigen, das Analysieren und Filtern von Bewerbungen oder das Bewerten von Bewerberinnen und Bewerbern.
Emotionserkennung am Arbeitsplatz
Art. 5 Abs. 1 lit. f KI-VO
Der neuland.ai HUB erkennt oder erschließt keine Emotionen von Beschäftigten. Diese Praxis ist nach der KI-VO verboten und technisch nicht Bestandteil der Plattform.
Biometrische Identifizierung, biometrische Kategorisierung und Social Scoring
Art. 5 Abs. 1 lit. c und g, Anhang III Nr. 1 KI-VO
Keine biometrische Identifizierung oder Kategorisierung natürlicher Personen und keine Bewertung oder Einstufung von Personen anhand ihres sozialen Verhaltens.
Weitere Hochrisiko-Bereiche des Anhangs III
Anhang III Nr. 2, 3, 5–8 KI-VO
Keine bestimmungsgemäße Verwendung als Sicherheitsbauteil kritischer Infrastruktur, im Bildungswesen, zur Bonitäts- oder Risikobewertung natürlicher Personen, in der Strafverfolgung, im Migrations- und Asylwesen oder in der Rechtspflege.
Verbindlich vereinbart, nicht nur beschrieben
Die Zweckbestimmung legt neuland.ai als Anbieter fest (Art. 3 Nr. 12 KI-VO) — sie ist keine Option, sondern Teil der Produktdefinition. Deshalb ist die Anlage „Zweckbestimmung nach der KI-VO und Ausschluss von Hochrisiko-Anwendungen“ Bestandteil des AVV-Exports. Der Ausschluss wirkt vertraglich in beide Richtungen: neuland.ai stellt die entsprechenden Funktionen nicht bereit, und der Verantwortliche ist zu einer solchen Nutzung nicht berechtigt.
Verändert der Verantwortliche die Zweckbestimmung so, dass ein Hochrisiko-KI-System entsteht, gilt er nach Art. 25 Abs. 1 lit. c KI-VO selbst als Anbieter und trägt die damit verbundenen Pflichten. Eine Erweiterung der Zweckbestimmung bedarf einer gesonderten schriftlichen Vereinbarung — sprechen Sie uns dazu bitte vorab an.
Hinweis zur Mitbestimmung: Da der neuland.ai HUB nicht zur Überwachung von Leistung und Verhalten der Beschäftigten bestimmt ist, ist die Plattform keine hierauf gerichtete technische Einrichtung. Ob im Einzelfall dennoch Beteiligungsrechte des Betriebsrats bestehen — etwa nach § 87 Abs. 1 Nr. 6 BetrVG oder aufgrund einer betrieblichen Regelung zum KI-Einsatz —, beurteilt sich nach der konkreten Ausgestaltung im Unternehmen und obliegt dem Verantwortlichen.
Pflichten im Einzelnen
Für jede zentrale Pflicht der KI-Verordnung steht hier, was neuland.ai liefert und was in Ihrer Verantwortung als Betreiber bleibt.
Geltungsbeginn
Die KI-Verordnung gilt gestaffelt. Diese Termine sind für den Einsatz des neuland.ai HUB relevant.
1. August 2024
Gilt bereitsInkrafttreten
Die KI-Verordnung tritt in Kraft; die Übergangsfristen beginnen zu laufen.
2. Februar 2025
Gilt bereitsVerbotene Praktiken und KI-Kompetenz
Die Verbote nach Art. 5 gelten. Zugleich greift die Pflicht zur KI-Kompetenz nach Art. 4 für Anbieter und Betreiber.
2. August 2025
Gilt bereitsPflichten für GPAI-Modelle
Die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sowie die Governance-Struktur der Mitgliedstaaten gelten.
2. August 2026
AktuellAllgemeine Anwendbarkeit
Der überwiegende Teil der Verordnung ist anwendbar — einschließlich der Transparenzpflichten nach Art. 50 und der Pflichten für Hochrisiko-Systeme nach Anhang III.
2. August 2027
BevorstehendHochrisiko-Systeme in Produkten
Die Pflichten für Hochrisiko-KI-Systeme, die als Sicherheitsbauteil in regulierte Produkte eingebettet sind (Anhang I), werden anwendbar.
Die Pflichten als Betreiber lassen sich nicht auslagern — die Nachweise dafür schon. Diese Bausteine stellen wir bereit:
- Zweckbestimmung mit Ausschluss der Hochrisiko-Anwendungen nach Anhang III — als Anlage Bestandteil des AVV
- Konfigurierbarer AVV nach Art. 28 DSGVO inklusive TOM als Anlage
- Öffentliche Liste der Unterauftragsverarbeiter mit Standort und Zertifizierungen, jederzeit aktuell
- Betrieb und Modell-Inferenz wahlweise on-premise, in deutschen Rechenzentren oder in der EU — transparent im Plattform-Setup-Generator
- Vertraglicher Ausschluss der Nutzung Ihrer Daten und Inhalte zum Training von KI-Modellen
- Zusatzvereinbarungen für Berufsgeheimnisträger als Anlage zum AVV
- Ansprechpartner für Fragen zur Einordnung Ihres konkreten Anwendungsfalls
Hinweis
Diese Darstellung fasst den Stand der KI-Verordnung zusammen und beschreibt, wie neuland.ai damit umgeht. Sie ersetzt keine Rechtsberatung. Für die Einordnung Ihres konkreten Anwendungsfalls — insbesondere, wenn Sie einen Einsatz in einem der in Anhang III genannten Bereiche erwägen — empfehlen wir eine individuelle rechtliche Prüfung.