„Social Scoring“ verbieten

Menschheit durch Künstliche Intelligenz bedroht? Diese Schutzmaßnahmen plant die EU

Künstliche Intelligenz hat den Alltag erobert - und wird künftig noch mehr das Leben der Menschen prägen. Die EU-Kommission erklärt, welche Grundregeln man dafür plant.

Brüssel - Kritiker warnen schon länger vor dem Einfluss von künstlicher Intelligenz auf das menschliche Leben. Dass es hierfür Grundregeln geben muss, steht außer Frage. Nun hat die EU-Kommission einen Plan für die Anwendung von künstlicher Intelligenz (KI) vorgeschlagen, mit dem der Kontinent künftig als Vorreiter agieren soll.

Brüssel möchte demnach der technologischen Innovation nicht im Wege stehen. Jedoch: Der Gesetzgeber müsse eingreifen, sobald „Sicherheit und Grundrechte der EU-Bürger auf dem Spiel stehen“, hat Kommissionsvize Margrethe Vestager erklärt, die in Brüssel für das Digitale zuständig ist. Besonders die Punkte Massenüberwachung und Verhaltenssteuerung bilden den Kernpunkt der Vereinbarung.

Künstliche Intelligenz: EU plant strenge Regeln - „Social Scoring“ soll verboten werden

Als Negativbeispiel werden Systeme zur sozialen Bewertung („Social Scoring“) von Menschen aufgrund ihres Verhaltens oder ihrer Persönlichkeit angeführt. KI-Werkzeuge, die hierfür eingesetzt werden könnten, sollen nach Ansicht der Kommission verboten werden. Andere Anwendungen sollen den Plänen zufolge strengen Auflagen unterliegen, zum Beispiel wenn es um den Bereich Straßenverkehr geht, die Personalsuche von Unternehmen oder die Kreditvergabe an Privatpersonen.

Künstliche Intelligenz - wie in diesem Fall verpackt in einer Drohne - stellt die Menschheit vor ungeahnte Herausforderungen (Symbolbild).

Nützliche Einsatzbereiche für künstliche Intelligenz sieht die EU-Kommission* hingegen im Justizsystem oder der Verwaltung. So könne die Prüfung von Beweismitteln vor Gericht oder die Kontrolle von Ausweisdokumenten könnte automatisiert werden, wenngleich auch hier strenge Regeln angewendet werden müssen.

Auch der Punkt „biometrischen Fernidentifizierung“ von Menschen durch Gesichts- oder Stimmerkennung spielt eine wichtige Rolle. „Ihr Echtzeit-Einsatz in öffentlich zugänglichen Räumen zu Zwecken der Strafverfolgung ist grundsätzlich verboten“, erklärt die Behörde. Allerdings sollen hierfür Ausnahmen existieren:

  • für die Suche von Vermissten
  • zur Abwehr konkreter Gefahren (z. B. Terroranschläge) und nur auf richterliche Anordnung

Künstliche Intelligenz: EU plant Rechtsrahmen, der technologische Innovationen nicht verhindert

Eine Reihe weiterer Anwendungen von künstlicher Intelligenz sollen weniger strengen Auflagen unterliegen: Zum Beispiel müsste beim Einsatz von Chat-Bots im Kundenservice für den Nutzer klar ersichtlich sein, dass er mit einer Maschine kommuniziert. Für alle weiteren Anwendungen - die laut Kommission „große Mehrheit der KI-Systeme“ - sollten demnach keine Anforderungen gelten, die über die üblichen Regeln zur Produktsicherheit hinausgehen. Und wie sieht es mit der militärischen Anwendung von KI aus? Diese Vorschriften decken die geplanten Grundregeln der Europäischen Kommission nicht ab.

Als Vorreiter von künstlicher Intelligenz gelten bislang die USA und China. Die EU-Kommission will deshalb einen klaren Rechtsrahmen für den KI-Einsatz schaffen, der jedoch auch genügend Spielraum für Innovationen gewähren soll. Unterdessen will Elon Musk noch in diesem Jahr Gehirn-Chips bei Menschen implementieren. Ein Test mit Affen war erfolgreich*. (PF mit AFP) *Merkur.de ist ein Angebot von IPPEN.MEDIA.

Rubriklistenbild: © Nir Alon/imago-images

Auch interessant

Mehr zum Thema:

Meistgelesene Artikel

Merkels GroKo will heute ihr Klima-Vermächtnis retten - mit 8-Milliarden-Euro-Programm
Merkels GroKo will heute ihr Klima-Vermächtnis retten - mit 8-Milliarden-Euro-Programm
Lindner lässt sich Haare transplantieren
Lindner lässt sich Haare transplantieren
UEFA-Verbot für München: Sturm der Entrüstung von CDU bis Linke - Merkels Regierung setzt tiefer an
UEFA-Verbot für München: Sturm der Entrüstung von CDU bis Linke - Merkels Regierung setzt tiefer an

Kommentare