- Malte Busse
- Juli 17, 2025
- 9:44 am
KI im Recht – oder nicht?
Das österreichische Recht steht vor einem großen Problem – und das heißt Künstliche Intelligenz und KI-Compliance. Es fehlt an klaren Regeln und Gesetzen für die Anwendung von KI. Vorbereitungen auf den AI-Act etwa sind schlecht bis gar nicht durchgeführt worden, obwohl sich das österreichische Recht stark von dem der EU geprägt ist. Wer in solchen Fällen verantwortlich ist, ist immer noch nicht geklärt. KI ist kein Rechtssubjekt, der Technologie kommen also keine Rechte und Pflichten zu, sie kann daher auch nicht belangt werden. Aber wer wird belangt, wenn eine KI einen Fehler macht? Und wo stößt die österreichische Rechtsordnung an ihre Grenzen?
Das Paradebeispiel: Schadenersatz im Digitalbereich
Ein problematisches Thema ist die Haftung bei Schäden durch die KI. Die bestehenden nationalen Haftungsvorschriften sind nicht für Schadensersatzansprüche in Verbindung mit KI ausgelegt. Unter Produkt wird im PHG (Produkthaftungsgesetz) eine bewegliche, körperliche Sache einschließlich Energie verstanden[i], darunter könnte auch eine Software fallen, solange diese in ein körperliches Produkt integriert ist. Ob nun eine KI – insbesondere ein Chatbot – eine Software ist und unter die Legaldefinition Produkt fällt, ist nicht sicher.[ii] Im Dezember 2024 ist eine neue Produkthaftungsrichtlinie der EU in Kraft getreten.[iii] Darin wird Software ausdrücklich als “Produkt” im Sinne des Gesetzes verstanden. Es wird nun genau geregelt, wer die Beweislast trägt und was unter die Fehlerhaftigkeit eines Produktes fällt. Danach sind nun die Hersteller von fehlerhaften KIs haftbar für Schäden. Die Mitgliedsstaaten der EU haben nun bis Dezember 2026 Zeit die Richtlinie der EU in nationales Recht umzuwandeln.
Urheberrecht & KI-generierte Inhalte
Fraglich ist auch, wem die Rechte an Bildern gehören, die von einer KI erstellt werden. Nach dem UrhG können nur natürliche Personen Urheber sein.[iv] Grundsätzlich können also weder KIs noch deren Anbieter Urheberrecht an den Bildern erlangen. Die Bilder sind daher nicht urheberrechtlich geschützt und können frei verwendet werden. Allerdings gibt es hier eine Grauzone. Ist auf dem Bild eine Marke, ein besonderes Symbol oder Zeichen zu sehen, worauf ein Konzern die Rechte hat, darf das Bild nicht frei verwendet werden. Ähnlich ist das, wenn Personen zu sehen sind, die den Echten sehr ähnlich sehen, kann es zu Persönlichkeitsverletzungen kommen.[v]
Mit dem geplanten AI Office der EU will man dem vorbeugen und in Zukunft eine Anlaufstelle für KI-Probleme jeglicher Art schaffen.
Diskriminierung durch KI: Ein Grundrechtsproblem
Ein weiteres großes Problem ist die Diskriminierung durch Künstliche Intelligenz. Ungenauere Gesichtserkennung bei Frauen unterschiedlicher Hautfarbe, Bevorzugung von männlichen Bewerbern, seltenere Gewährung von Krediten für Frauen und Minderheiten usw.[vi] Enthalten die Trainingsdaten Ungleichheiten, Stereotype oder Vorurteile kann es zu Diskriminierung bei den ausgegebenen Antworten oder Entscheidungen durch die KI kommen. Speziell wenn Behörden oder der Staat Künstliche Intelligenz anwenden und es zu Diskriminierung durch diese kommt, können die Grundrechte geltend gemacht werden. Hier anzuwenden sind vor allem die Europäische Menschenrechtskonvention[vii], der Gleichheitsgrundsatz nach Art 7 B-VG[viii], die Staatsgrundgesetze[ix] oder auch die Europäische Grundrechte-Charta.[x]
Artikel 22 DSGVO besagt zudem, dass betroffene Personen das Recht haben, nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden[xi]. Dieser Artikel kann auch gegen Unternehmen oder Privatpersonen geltend gemacht werden. Sollte also eine KI eine rein automatisierte Entscheidung über eine Person treffen, und es sich auch nicht um eine Ausnahme aus Art 22 DSGVO handeln, so ist ein solcher Einsatz rechtswidrig[xii]. Ein Beispiel dafür ist, dass ein Unternehmen ein KI-System für die Bewertung von Bewerbungen verwendet. Die KI trifft hier allein die Entscheidung über eine Zu- oder Absage und diskriminiert beispielsweise eine Frau oder eine Person aufgrund ihrer Hautfarbe.
DSGVO & KI: Datenschutz von Anfang an denken
Wie auch sonst im Internet muss auch eine KI den Datenschutz einhalten. Eine besondere Vorsicht ist bei personenbezogenen Daten geboten. Nach Art 13 DSGVO muss die betroffene Person über den Namen und die Kontaktdaten des Verantwortlichen, den Zweck wofür die Daten verwendet werden, die Rechtsgrundlage, den Empfänger der Daten und die Absichten des Verantwortlichen, die Daten an ein Drittland zu übermitteln, informiert werden. Zusätzlich muss der Verantwortliche über die Dauer, für die die personenbezogenen Daten gespeichert werden, über das Bestehen des Rechts auf Auskunft, Löschung oder Einschränkung, über das Bestehen eines Beschwerderechts sowie über die Quelle, aus der die personenbezogenen Daten stammen, […], aufklären[xiii].
Die betroffene Person hat außerdem nach Art 15 DSGVO das Recht von dem Verantwortlichen eine Bestätigung darüber zu verlangen, ob betreffende personenbezogenen Daten verarbeitet werden. Ist das der Fall, so hat sie ein Recht auf Auskunft über diese personenbezogenen Daten. KI-Compliance macht auch hier keinen Halt.
KI im Strafrecht: Wenn aus Code ein Delikt wird
Künstliche Intelligenz kann aber auch zu strafrechtlich relevanten Delikten führen, etwa wie Betrug, Erpressung oder Drohung. Täuschende echte Phishing-Mails oder mit deepfake erzeugte Stimmen können teilweise große Summen Geld illegal erwirtschaftet werden. Außerdem kann es durch Deepfake-Videos zu Erpressung kommen, indem meist pornografische Videos erstellt und die Opfer damit erpresst werden[xiv]. Oft werden auch von Künstlicher Intelligenz Bilder erstellt, worauf Politiker/innen oder Stars zu sehen sind. Das bekannteste Beispiel dafür ist das Bild vom Papst mit einer weißen Daunenjacke[xv]. Durch KI kann es auch zu Mobbing, Hassrede oder Drohbriefen kommen. Bei strafrechtlich relevanten Delikten sind die Gesetze des StGB (Strafgesetzbuch) anzuwenden[xvi]. Nicht vergessen werden darf bei Deepfake-Videos das Recht am eigenen Bild nach §78 Urheberrechtsgesetz[xvii] sowie der Straftatbestand des Cyber-Mobbings[xviii]. Allerdings kann es schwierig sein die Täter/innen ausfindig zu machen, um sie zu verurteilen.
KI als Beweismittel: Noch ein Graubereich der KI-Compliance
Immer öfter wird auch Künstliche Intelligenz als Beweis im Gerichtsverfahren eingesetzt. Allerdings gelten auch hier die üblichen Gesetze und Regelungen. Beispielsweise dürfen keine unzulässig erhobenen Beweise verwendet werden. Beweise müssen immer nachvollziehbar und prüfbar sein, um anerkannt zu werden. Ob nun aber ein KI-generiertes Beweismittel im Gerichtsverfahren zugelassen wird, ist je nach Fall von den Richter/innen zu beurteilen[xix]. Das Beweismittel darf keine Menschen- oder Grundrechte missachten oder gegen die Datenschutz-Grundverordnung verstoßen. Außerdem darf sie nicht manipulativ wirken und ein Urteil in eine bestimmte Richtung lenken[xx]. Es lässt sich sagen, dass die Anwendung von KI-generierten Beweisen noch sehr problematisch ist und es bleibt ungewiss, wie damit in Zukunft umgegangen wird.
KI in der Justiz: Nur Assistenz, keine Urteile
Bereits heute wird Künstliche Intelligenz oft in der Justiz eingesetzt. Aber bis jetzt eben nur als Assistent, beispielsweise um Schriftsätze zu analysieren oder Protokolle zu erstellen. Fraglich ist, ob auch eine KI gerichtliche Entscheidungen treffen kann. Nach Artikel 6 der EMRK hat jeder das Recht auf eine Anhörung von einem unparteiischen und unabhängigen Gericht[xxi]. In einer Sitzung des Rates der europäischen Union wurde sich dafür ausgesprochen, dass Künstliche Intelligenz in Gerichtsverfahren unterstützen kann, die endgültige Entscheidungsfindung allerdings eine vom Menschen gesteuerte Tätigkeit bleiben muss[xxii]. Eine KI kann somit in der Justiz helfen, aber die Rechtsprechung bleibt dem Menschen vorbehalten, damit bleibt die Verantwortung und Haftung auch bei den Richtern.
Der EU AI Act – die Zukunft der KI-Compliance in Europa
Der EU AI Act ist das erste umfassende KI-Gesetz der Welt und wurde im Frühjahr 2024 verabschiedet. Ziel ist es, Innovation und Sicherheit zu vereinen – mit einem klaren Fokus auf risikobasierte Regulierung.
Die Verordnung unterscheidet vier Risikoklassen:
-
Unakzeptables Risiko: z. B. Social Scoring – verboten
-
Hohes Risiko: z. B. KI in Personalwesen, Medizin, Justiz – stark reguliert
-
Begrenztes Risiko: z. B. Chatbots – Transparenzpflicht
-
Minimales Risiko: z. B. Spamfilter – kaum Einschränkungen
Für Hochrisiko-KI-Systeme gelten strenge Vorgaben:
-
Risikomanagementsysteme müssen dokumentiert sein
-
Technische Robustheit und Cybersicherheit sind Pflicht
-
Es braucht klare Dokumentation und Logging
-
Menschliche Aufsicht und Transparenz über die Funktionsweise sind erforderlich
Das betrifft viele KI-Anwendungen im Unternehmenskontext direkt – besonders wenn sie Entscheidungen treffen, die Menschen betreffen. Unternehmen müssen daher Prozesse, Tools und Rollen anpassen.
Gut zu wissen: Der AI Act ergänzt bestehende Vorschriften wie die DSGVO – er ersetzt sie nicht. Wer KI-Systeme in der EU einsetzen will, muss also beide Regime berücksichtigen.
KARLI ist als Plattform AI-Act-ready: Mit Funktionen wie auditierbarem Logging, granularer Rollenvergabe, DSGVO-konformer Datenhaltung und menschlicher Kontrolle unterstützt dich unsere Plattform dabei, alle regulatorischen Anforderungen zu erfüllen – und das komplett EU-hosted. Wenn ihr mehr und detaillierte Infos zum EU AI Act erhalten wollt, schaut in unserer anderen Story vorbei!
Fazit – KI-Compliance in Österreich hat noch einen weiten Weg vor sich!
Künstliche Intelligenz bietet enormes Potenzial als Unterstützung für den Menschen – doch ihr Einsatz bringt auch rechtliche Herausforderungen mit sich. Unser bestehendes Rechtssystem passt sich nur schrittweise an neue Technologien wie KI an. In den kommenden Jahren werden daher neue gesetzliche Regelungen in Kraft treten oder in nationales Recht überführt werden müssen.
Derzeit bewegen wir uns vielfach noch in rechtlichen Grauzonen – ein Zustand, der vor allem die Gerichte vor komplexe Fragen stellt. Besonders sensibel ist der Umgang mit KI-generierten Inhalten: So kann das Veröffentlichen von KI-Bildern schnell mit dem Urheberrechtsgesetz kollidieren. Auch der Missbrauch von KI für betrügerische Zwecke erfordert klare juristische Leitlinien und sorgfältige Abwägung.
Für Unternehmen stehen insbesondere der neue EU AI Act sowie die überarbeitete Produkthaftungsrichtlinie im Fokus. Behörden müssen zudem besonders achtsam sein, wenn es um potenzielle Diskriminierung oder Verstöße gegen Grundrechte geht – denn der Einsatz von KI kann schnell zur rechtlichen Gratwanderung werden.
Und wie bereits aus dem Internet bekannt: Auch bei KI gilt es, den Datenschutz strikt zu beachten – andernfalls drohen empfindliche Strafen. Ein sicherer Umgang mit KI umfasst daher klare Maßnahmen: etwa das Kennzeichnen KI-generierter Bilder, die menschliche Überprüfung automatisierter Texte vor der Veröffentlichung und die Einhaltung geltender ethischer und rechtlicher Standards. Straftatbestände wie Betrug, Nötigung, Diskriminierung oder Verstöße gegen die DSGVO gelten selbstverständlich auch für KI-Anwendungen.
Fest steht: Die rechtliche Einordnung von KI wird ein dynamischer, fortlaufender Prozess bleiben – im Wechselspiel zwischen technologischem Fortschritt, Gesetzgebung und gelebter Praxis.
Disclaimer
Die in diesem Beitrag enthaltenen Informationen stellen keine Rechtsberatung dar. Sie dienen ausschließlich allgemeinen Informationszwecken. Trotz sorgfältiger Recherche übernehmen wir keine Haftung für die Richtigkeit, Vollständigkeit oder Aktualität der bereitgestellten Inhalte. Für rechtliche Fragen oder Entscheidungen empfehlen wir dir, eine qualifizierte Rechtsberatung in Anspruch zu nehmen. Das meinen wir ernst, wirklich.
Wir entwickeln KI von Menschen – für Menschen.
FiveSquare – Aspiring the impossible
[i] https://www.ris.bka.gv.at/GeltendeFassung.wxe?Abfrage=Bundesnormen&Gesetzesnummer=10002864
[ii] https://austria-forum.org/af/AustriaWiki/Produkthaftungsgesetz_%28Österreich%29
[iii] https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=OJ:L_202402853
[iv] https://www.ris.bka.gv.at/GeltendeFassung.wxe?Abfrage=Bundesnormen&Gesetzesnummer=10001848 https://wissen.kulturpool.at/books/urheberrecht/page/details-zum-urheberrecht
[v] https://digitalhandwerk.rocks/ki/urheberrecht-bei-fotos-und-ki-bildern-in-oesterreich/
[vi] https://science.apa.at/mehrzumthema/diskriminierung-statt-effizienz-wenn-die-ki-falsch-entscheidet/
[vii] https://www.ris.bka.gv.at/GeltendeFassung.wxe?Abfrage=Bundesnormen&Gesetzesnummer=10000308
[viii] https://www.ris.bka.gv.at/GeltendeFassung.wxe?Abfrage=Bundesnormen&Gesetzesnummer=10000138
[ix] https://www.ris.bka.gv.at/GeltendeFassung.wxe?Abfrage=Bundesnormen&Gesetzesnummer=10000006
[x] https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=celex%3A12016P%2FTXT
[xi] https://eur-lex.europa.eu/legal-content/DE/ALL/?uri=celex%3A32016R0679
[xii] https://www.vertragsrechtsinfo.at/dsgvo-oesterreich/
[xiii] https://eur-lex.europa.eu/legal-content/DE/ALL/?uri=celex%3A32016R0679
[xiv] https://www.bmi.gv.at/magazin/2024_03_04/04_Deepfakes.aspx
[xvi] https://www.ris.bka.gv.at/GeltendeFassung.wxe?Abfrage=Bundesnormen&Gesetzesnummer=10002296
[xvii] https://www.ris.bka.gv.at/GeltendeFassung.wxe?Abfrage=Bundesnormen&Gesetzesnummer=10001848
[xix] https://www.ris.bka.gv.at/GeltendeFassung.wxe?Abfrage=Bundesnormen&Gesetzesnummer=10001699
[xx] https://www.wienerzeitung.at/a/wo-ki-vor-gericht-mitspricht#infos-und-quellen
[xxi] https://www.ris.bka.gv.at/GeltendeFassung.wxe?Abfrage=Bundesnormen&Gesetzesnummer=10000308
[xxii] https://www.parlament.gv.at/dokument/XXVIII/EU/7111/imfname_11440641.pdf?utm_source=chatgpt.com
AUTHOR
Malte Busse
Malte ist Head of Communications bei FiveSquare und mit einer der wenigen Nicht-Techniker:innen. Und genau das nutzt er zu seiner Stärke, hochkomplexe Themen leicht und verständlich rüber zu bringen.