Dreieck

Dreiecksplatz

 Kultur   Gewerbe   Gastronomie   Blog 

KI Regulierung: Verbraucherrechte jetzt oder nieZoom Button

Gesichtserkennungsmaske über dem Gesicht eines Mannes. Foto: Artem, Adobe Stock, Informationen zu Creative Commons (CC) Lizenzen, für Pressemeldungen ist der Herausgeber verantwortlich, die Quelle ist der Herausgeber

KI Regulierung: Verbraucherrechte jetzt oder nie

KI Regulierung: Verbraucherrechte jetzt oder nie

  • Betroffene brauchen Recht auf Auskunft und Erklärung

  • Ausnutzung persönlicher Schwächen und Manipulation durch KI müssen verboten werden

  • Effektive Rechtsdurchsetzung: Verbandsklagen für Missbrauch von KI ermöglichen

Berlin, 23. Oktober 2023

Der #Konsumalltag wird immer stärker durch Künstliche Intelligenz (KI) wie Shopping Assistenten oder ChatGPT beeinflusst. Bei der Regulierung von KI müssen daher die Belange von Verbrauchern berücksichtigt werden. In Brüssel sind die Verhandlungen für den Rechtsrahmen für Künstliche Intelligenz (KI), den Artificial Intelligence Act (AI Act), jetzt auf der Zielgeraden. Der Verbraucherzentrale Bundesverband (vzbv) fordert: Verbraucher müssen besonders geschützt werden und starke Rechte bekommen.

»Künstliche Intelligenz wird den Konsumalltag weiter radikal verändern. Damit uns die technische Entwicklung nicht davongaloppiert, braucht es verbindliche Regeln und starke Verbraucherrechte gegenüber KI Betreibern«, sagt Ramona Pop.

»Auf EU Ebene werden jetzt die Weichen gestellt, wie und nach welchen Regeln KI in den nächsten Jahrzehnten unser Leben bestimmt. Das Europäische Parlament, der Rat der Europäischen Union und die Europäische Kommission müssen die Chance ergreifen und den AI Act im Sinne der Menschen gestalten. Nur auf dieser Basis wächst Vertrauen in KI und damit die gesellschaftliche Akzeptanz dieser Technologie«, so Pop.

Schon heute wird KI in sensiblen Lebensbereichen eingesetzt, etwa als Mental Health Berater. Generative KI Systeme wie #ChatGPT können die Entscheidungen von Verbrauchern beeinflussen, zum Beispiel Kaufentscheidungen beim #Onlineshopping. Dabei besteht die Gefahr, dass KI die Verbraucher manipuliert und übervorteilt.

Für den AI Act fordert der #VZBV

Betroffenenrechte für Hochrisiko KI einführen

Verbraucher brauchen ein Recht auf Auskunft und Erklärung gegenüber Betreibern von Hochrisiko KI Systemen.

»Nur, wenn Betroffene wissen, welche Daten verwendet werden und wie die Entscheidung zustande kam, können sie sich wehren und ihre Rechte wahrnehmen«, sagt Pop. Wichtig sei auch ein Recht auf Beschwerde bei den Aufsichtsbehörden.

Schutz vor Manipulation und Ausnutzung persönlicher Schwächen

Der AI Act verbietet zwar den Einsatz von KI zur subtilen Manipulation sowie zum Ausnutzen von Schwächen von älteren Menschen, Minderjährigen und Menschen mit Behinderungen. Der vorgesehene Schutz ist aber lückenhaft.

»Wenn menschliches Verhalten in Echtzeit analysiert wird, ist jede:r situativ verwundbar«, sagt Pop. Wenn KI erkennt, dass eine Person zu Spielsucht neigt, müde ist, gestresst oder in Trauer, dürfe das nicht ausgenutzt werden. »Alle Verbraucher müssen geschützt werden – auch vor finanziellen Schäden.« Mit generativen KI Systemen wie #ChatGPT wird ein umfassendes Verbot noch wichtiger, weil Verbraucher damit besonders leicht manipuliert oder Falschinformation generiert werden können.

Effektive Rechtsdurchsetzung sicherstellen – Verbandsklage für Missbrauch von KI ermöglichen

Betroffene haben oft weder die Ressourcen noch die Fähigkeiten ihre Rechte gegenüber Betreibern von KI Systemen vor Gericht durchzusetzen. Darum muss der AI Act in den Anhang der europäischen Verbandsklagen Richtlinie aufgenommen werden. »Institutionen wie der vzbv müssen die Möglichkeit haben, Klagen gegen bestimmte KI Betreiber im Namen geschädigter Verbraucher zu führen und Entschädigungen einzufordern«, sagt Pop.

Hintergrund

Seit April 2021 wird in Brüssel ein Rechtsrahmen für KI, der Artificial Intelligence Act (AI Act), verhandelt. Dieser soll Regeln und Qualitätsvorgaben für Betreiber von KI Systemen definieren. Der Rat hatte sich bereits am 6. Dezember 2022 auf eine Position zum AI Act geeinigt. Das Europäische Parlament folgte am 14. Juni 2023. Im Rahmen der Trilog Verhandlungen findet am Dienstag, 24. Oktober die entscheidende Verhandlung zwischen Rat, Europäischem Parlament und Europäischer Kommission statt. Eine Einigung soll bis Ende 2023 erfolgen.

  HOME     IMPRESSUM     DATENSCHUTZ  
Gütsel Skyline
Gütsel Print und Online Ampersand + SEO Gütersloh