Deutscher Ethikrat: Gremium plädiert für klare Regeln beim Einsatz Künstlicher Intelligenz

[DrWindows]

Deutscher Ethikrat: Gremium plädiert für klare Regeln beim Einsatz Künstlicher Intelligenz
von Kevin Kozuszek

Wenn sich die Politik in Deutschland in einem Thema unsicher ist, setzt sie gerne auf den Rat eines beratenden Gremiums wie den Wirtschaftsweisen oder den Deutschen Ethikrat. Letzterer hat sich jetzt in einer Stellungnahme mit dem Thema Künstliche Intelligenz beschäftigt und fordert dabei klare Regeln für den Einsatz der neuen Technologien. Damit wird das Thema auch für Microsoft bei seiner aktuellen KI-Offensive interessant.

Der entsprechende Bericht, den die Vorsitzende des Deutschen Ethikrats, Alena Buyx, mit anderen Experten heute in der Bundespressekonferenz vorstellte, ist rund 300 Seiten lang und befasste sich schwerpunktmäßig mit vier konkreten Beispielen: Medizin, schulische Bildung, öffentliche Verwaltung und öffentliche Kommunikation bzw. Meinungsbildung. Allgemein sollte der Einsatz von KI immer spezifisch mit Bezug auf Kontext, Personen und der jeweiligen Anwendung erfolgen. Die Auslagerung von Arbeiten in einer automatische Infrastruktur könne immerhin für Betroffene und andere Personengruppen jeweils ganz unterschiedliche Folgen haben.

In der Medizin fordern die Mitglieder des Ethikrats neben der entsprechende Qualitätssicherung auch, dass ärztliche Kompetenzverluste vermieden und der Schutz der Privatsphäre von Patienten mit der Datennutzung in der Forschung in Einklang gebracht werden müssen. Die schulische Bildung soll sich auf grundlegende Anliegen konzentrieren, die öffentliche Kommunikation und Meinungsbildung soll dafür Regeländerungen für Online-Plattformen beim Datenhandel, personalisierter Werbung und der Auswahl und Moderation von Inhalten bekommen. In der öffentlichen Verwaltung sollen Ansätze zur Vorbeugung von Diskriminierung verfolgt sowie die Einzelfallbetrachtungen sowie Einsichts- und Einspruchsrechte gesichert werden.

Was erstmal typisch für die deutsche Sichtweise klingt, ist für Microsoft durchaus relevant. Folgt die Politik den Empfehlungen des Ethikrats, wären Produkte wie Microsoft Start, Microsoft Azure und Microsoft 365, die in den jeweiligen Gebieten durchaus eingesetzt werden, direkt betroffen. Wie die Redmonder der Bundespolitik in Deutschland entgegen kommen würden, bleibt die spannende Frage.

+ alles anzeigen - weniger anzeigen

Hinweis: Der Artikel wird möglicherweise nicht vollständig angezeigt, eingebettete Medien sind in dieser Vorschau beispielsweise nicht zu sehen.

Artikel im Blog lesen

 

[skalar]

Letzterer hat sich jetzt in einer Stellungnahme mit dem Thema Künstliche Intelligenz beschäftigt und fordert dabei klare Regeln für den Einsatz der neuen Technologien. Damit wird das Thema auch für Microsoft bei seiner aktuellen KI-Offensive interessant.

Während die Welt um uns herum, mit KI, uns und Europa rechts überholt, döst besonders Deutschland mit Europa im ethischen Moralismus. Sehr nobel, während zur selben Zeit der Chinese mit seinen ethischen-moralischen Produkten dabei ist den europäischen Markt zu besetzen und mit Sicherheit uns damit ethisch-moralisch zu bereichern.

 

[map2020]

Während die Welt um uns herum, mit KI, uns und Europa rechts überholt, döst besonders Deutschland mit Europa im ethischen Moralismus. Sehr nobel, während zur selben Zeit der Chinese mit seinen ethischen-moralischen Produkten dabei ist den europäischen Markt zu besetzen und mit Sicherheit uns damit ethisch-moralisch zu bereichern.

Das sollte uns aber nicht davon abhalten es kritisch zu hinterfragen.

https://www.datenschutzkonferenz-online.de/media/en/20190405_hambacher_erklaerung.pdf

 

[Ulrich54]

Eben, Äpfel mit Birnen zu vergleichen, hilft nicht weiter. Zwei verschiedene Paar Schuhe.

 

[Webwatcher]

Ethikrat zu Künstlicher Intelligenz: So lautet die Stellungnahme

Der deutsche Ethikrat hat sich mit Fragen zum Verhältnis von Mensch und Maschine beschäftigt. Das ist das Ergebnis.

www.sueddeutsche.de

Werd den Eindruck nicht los, dass noch ziemlich viel im Nebel rumgestochert wird.

Nun hat sich auch der deutsche Ethikrat mit Fragen zum Verhältnis von Mensch und Maschine beschäftigt und sich für eine strikte Begrenzung bei der Verwendung von KI ausgesprochen. "Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern", sagte Alena Buyx, die Vorsitzende des Deutschen Ethikrates. "KI darf den Menschen nicht ersetzen."

Mit Vorschriften löst man keine Probleme.

 

[Jack B.]

Während die Welt um uns herum, mit KI, uns und Europa rechts überholt, döst besonders Deutschland mit Europa im ethischen Moralismus. Sehr nobel, während zur selben Zeit der Chinese mit seinen ethischen-moralischen Produkten dabei ist den europäischen Markt zu besetzen und mit Sicherheit uns damit ethisch-moralisch zu bereichern.

So sieht es aus!
Deshalb lacht auch die Welt über uns.

 

[Gelöschtes Mitglied 116490]

Deshalb lacht auch die Welt über uns.

Aha. Genau, du hast es erkannt. Es fehlen noch: "Der Ball ist rund." Oder "Morgen früh ist die Nacht rum!" Oder "Alle Menschen sind schlecht."
Natürlich stellen sich ethische und auch rechtliche Fragen. Ich bin mir nicht sicher, dass hier jemand wirklich in einem Land leben möchte, in dem diese Fragen nicht gestellt werden, bei aller Staatsverdrossenheit hin und her. Und ebenso natürlich müssen Regeln her, jedenfalls können wir diese Regeln nicht gewinnorientierten Konzernen überlassen.
Kurz: Ich verstehe das Gejammere nicht.

 

[G.O.Tuhls]

Vielleicht könnte man auch erstmal - bevor man nach viel zu hoch hängenden Trauben springt - die KI dort einsetzen, wo sie einen Mehrwert bietet, und damit Erfahrungen sammeln. Wer einmal mit einem CallCenter-Bot kommuniziert hat, wird sich sicher über den Ersatz durch eine KI-Lösung freuen, die versteht, was man von ihr will.

 

[Tadpole]

natürlich müssen Regeln her, jedenfalls können wir diese Regeln nicht gewinnorientierten Konzernen überlassen

Ganz Deiner Meinung. An sich.

In Singapur wird ein Stadtentwicklungsprojekt nicht nur von AI geplant, sondern mittels 3D-Druck auch weitestgehend durchgeführt. Jetzt, nicht in Zukunft. In Boston werden selbstlernende Robotersoldaten getestet. In Japan ist die erste vollautomatische medizinische Diagnosestraße in Einsatz.

Bei uns streiten die Juristen und Ethiker über etwas, was ihnen demnächst vor die Nase gesetzt wird, ob sie das wollen oder nicht. Und wäre es nicht schön, wenn sich unsere Regelwerksexperten zuvor auch einmal ausnahmsweise in der Sache kundig machten, bevor sie mit heißer Luft zum Klimawandel beitragen?

Überhaupt, wie wär's mal wieder mit mitmachen statt kommentieren?
Deutsche Ingenieurskunst war mal ganz vorne mit dabei.
Wie viele Spitzenunis hätte man mit den Quadrillionen durchfinanzieren können, die in den letzten Jahren in den Sand gesetzt wurden.
Wenn man die Patente hat, kann man auch die Spielregeln mitbestimmen.
Ja, in Shanghai lachen sie uns tatsächlich aus. Nicht weil wir zu viel Haltung haben, sondern weil wir zu wenig Expertise besitzen.

 

[Ulrich54]

Der Weg, den Deutschland aktuell geht, ist kein guter, ganz allgemein.
Man beschäftigt sich lieber mit dem Einfluß von KI auf die Aktienmärkte als mit dem Einfluss von KI auf die menschliche Gesellschaft.
Daß Deutschland in China zur Comedyfigur stilisiert wird, ist Teil deren - erfolgreicher - Politik gegen den westlichen Kapitalismus.
Der Ethikrat hat sich mit dem Thema KI auseinandergesetzt, das ist ein Signal der Regierung: Ja, wir kennen die Probleme. Aber das heißt noch lange nicht, daß auch konsequent nach der Maßgabe: Der Roboter hat dem Menschen zu dienen und nicht anders herum gehandelt wird. Wir sind noch weit entfernt von einer entsprechenden Gestezgebung, die meines Erachtens im Grundgesetz verankert werden müsste. Hier stehen die finanziellen Interessen im Vordergrund.
Wenn KI dann mal anfangen wird, politisch zu agieren, wird das Gejammer groß sein.
Hoffentlich ist es dann nicht schon zu spät...
Das Land der Dichter und Denker mutiert immer weiter zum Land der Blender und Geblendeten.

 

[Artemisos]

Aha. Genau, du hast es erkannt. Es fehlen noch: "Der Ball ist rund." Oder "Morgen früh ist die Nacht rum!" Oder "Alle Menschen sind schlecht."
Natürlich stellen sich ethische und auch rechtliche Fragen. Ich bin mir nicht sicher, dass hier jemand wirklich in einem Land leben möchte, in dem diese Fragen nicht gestellt werden, bei aller Staatsverdrossenheit hin und her. Und ebenso natürlich müssen Regeln her, jedenfalls können wir diese Regeln nicht gewinnorientierten Konzernen überlassen.
Kurz: Ich verstehe das Gejammere nicht.

Da stimme ich dir zu...ein Mindestmass an Regelung ist sinnvoll und erforderlich.
Aber die Vergangenheit hat doch oft genug gezeigt, dass das nur allzuoft in
moralinsaurer Überregulierung und abwürgen jeder Weiterentwicklung mündet.
Bis man dann ein paar Jahre später feststellt dass man vom Rest der Welt abgehängt
wurde.

Dieses Statement des Ethikrats läuft eben genau wieder in diese Richtung.Erst mal "german Angst"
und deutsches Bedenkenträgertum pflegen und am besten erst einmal alles verbieten, weil ja alles
neue per se "nur gefährlich" sein kann.
Und das ist es was immer mehr Menschen auf den Keks geht.Denn gegen vernünftige Regelungen hätte
niemand etwas.Dazu fehlt diesem Ethikrat aber die fachliche Kompetenz um das überhaupt beurteilen
zu können....und auch das wird in diesem Statement überdeutlich, das hier nur Politgeschwafel anstatt
sinnvoller Denkansätze verbreitet wird.

 

[Gelöschtes Mitglied 116490]

Apropos "sinnvolle Denkansätze": Über den Gegensatz von Technophilie und Technophobie diskutieren die Soziologen (und nicht nur die) schon seit Jahrzehnten. Während die einen im Extremfall technische Fortschritte unreflektiert beklatschen und an die Selbstheilungskräfte der Technik glauben, befürchten die anderen eine Entmenschlichung durch bestimmte technische Entwicklungen. Bemerkenswert ist, dass ausgerechnet Physiker wie Stephen Hawking eher zur 2. Gruppe tendieren.
Wir werden diese Gegensätze hier nicht auflösen können. Ich wehre mich nur dagegen, dass die Diskussion teilweise über staatsverdrossene Phrasen geführt wird. Der Ethikrat hat schlicht und ergreifend seinen Job gemacht und versucht, Grenzen aufzuzeigen, die nicht zuletzt durch unsere Grundrechte definiert werden.

 

[Tadpole]

Der Ethikrat hat schlicht und ergreifend seinen Job gemacht und versucht, Grenzen aufzuzeigen, die nicht zuletzt durch unsere Grundrechte definiert werden.

... und das ist gut so.
Gleichzeitig besteht Grund zur Befürchtung, dass wir wieder mal das Kind mit dem Bade ausschütten. Dass wir das gut können, haben wir hinlänglich bewiesen.
Zeit ist der entscheidende Faktor in dem Spiel. Es muss jetzt was passieren. Gut wäre, wenn wir nicht nur über Moral, sondern auch über Expertise verfügen würden.

Es kommt mir ein wenig vor, als ginge man mit Pfeil und Bogen auf die Jagd nach Kameradrohnen, weil die gegen das Recht auf das eigene Bild verstoßen (könnten). Und ja, natürlich ist das Recht auf das eigene Bild richtig.

 

[noper]

In der Medizin fordern die Mitglieder des Ethikrats neben der entsprechende Qualitätssicherung auch, dass ärztliche Kompetenzverluste vermieden

Ich fand vor allem den befürchteten kompetenzverlustrecht interessant. Wenn eine KI in der Lage ist ärztliche Kompetenz zu ersetzen dann mache ich mir doch sehr Sorgen um unsere ärztliche Kompetenz.
Und das eine KI zukünftig analog wie "Dr. med. Google" befragt werden wird, ich glaube das kann durch ein Ethikrat nicht verhindert werden. Hat aber wenig mit Kompetenz oder Kompetenzverlust zu tun.

 

[skalar]

Zu dem Thema gibt es eine interessante Sendung, empfehle ich!

Folgende Zeitpunkte habe ich vermerkt:
Minute 28, 35, 38, 42, 52, 57

scobel - Kulturschock durch KI

Eine neue Generation Künstlicher Intelligenz übertrifft alles bisher Dagewesene, da sie fast alles kann. Was genau leistet diese KI und was bedeutet dies für uns?

www.zdf.de

 

[Webwatcher]

Berufsfotografen fordern umfassende Regulierung für KI-Bilder

Der Verband BFF sieht Urheber- und Nutzungsrechte sowie Persönlichkeitsrechte durch Generative AI bedroht. Deshalb soll der Gesetzgeber tätig werden.

www.heise.de

Der Verband BFF sieht Urheber- und Nutzungsrechte sowie Persönlichkeitsrechte durch Generative AI bedroht. Deshalb soll der Gesetzgeber tätig werden.

Der BFF beruft sich ausdrücklich auf die jüngste Stellungnahme des Ethikrats zu KI, nach welcher KI den Menschen nicht ersetzen sollte.

Die Bedenken bzw Sorge sind nachvollziehbar. Wer aber soll ein solches Gesetz formulieren, bei einer Technologie deren Umfang und Tragweite bisher nur ansatzweise erfasst wird? Dafür sind dann sicher hochbezahlte Expertengremien erforderlich

 

[dtp]

Die Gefahr, die von KI, wie z.B. ChatGPT, ausgeht, ist nicht ganz ohne. Und das haben neben dem Deutschen Ethikrat wohl auch schon andere erkannt. Aus welchen Gründen auch immer.

AI development beyond GPT-4 should be paused – Woz, Musk

Apple cofounder Steve Wozniak has joined Elon Musk and leading AI academics in calling for a pause in advanced AI...

9to5mac.com

Im Grunde genommen zeigt uns ja die Entwicklung der Atomtechnik wo die Reise mit KI hingehen kann. Letztlich wird beides immer missbraucht werden können, so dass es hier weltweiter Regularien bedarf. KI scheint mir potentiell jedoch weitaus gefährlicher als eine Atombombe oder ein Atomreaktor zu sein. Die Frage ist nämlich, ob sie wirklich so intelligent ist bzw. programmiert wird, wie ihr Name vermuten lässt.

 

[Webwatcher]

Die Frage ist nämlich, ob sie wirklich so intelligent ist bzw. programmiert wird, wie ihr Name vermuten lässt.

Das wird einfach behauptet bzw suggeriert nach dem Motto: "beweisen Sie doch mal das Gegenteil"

 

[Martin]

Die Büchse der Pandora ist längst geöffnet. Die Leute, die jetzt mahnen, wissen das sicher ebenso.
Wenn es Geld bringt und die Kurse steigen lässt, wird es gemacht.

Ich muss mal wieder EAV hören:

Humanismus und menschliche Ethik
bringen keine Kohle, darum hammas auch nicht nötig.
Sokrates, Plato, Hegel und Kant
waren an der Börse nie genannt.

 

[Ulrich54]

Bis zu einer gewissen Genze ist KI hyperintelligent - und das ist das Gefährliche.
Grenzen: KI hat keinen Körper, kein Zeitempfinden, mangelhafte Sinne, ist immobil. Schon alleine deshalb kann sie den ethischen Wert der Menschen, der Tiere, der Welt überhaupt nicht nachvollziehen. Deshalb könnte menschliches Handeln ihr irgendwann mal auf den S... gehen, und dann kommt die erbarmungslose Logik....
Terminator lässt grüßen !