Wie vertrauenswürdig ist die Technik?

Die moderne Idee, mittels Technik die Natur mehr oder weniger zu beherrschen, hat einen schweren Einbruch erlitten", sagte diese Woche der Philosoph Konrad Paul Liessmann in Anspielung auf die Corona-Krise. Auf welche Daten sich Liessmann dabei stützt, wurde nicht berichtet. Skepsis gegenüber Technik und neuen Entwicklungen, etwa der künstlichen Intelligenz (KI), lässt sich auch ohne Corona beobachten und widerspricht tatsächlich diversen Hurra-Botschaften aus Wirtschaft und Politik. Die EU-Kommission etwa will, um Anschluss an China und die USA zu bekommen, Investitionen in KI deutlich erhöhen – auf 20 Milliarden Euro pro Jahr. Kommissionspräsidentin Ursula von der Leyen schwebt ein "digitales Europa" vor, das "offen, fair, vielfältig und demokratisch" sei, kurz ein führender Standort für "vertrauenswürdige Anwendungen" von KI.

Die Sorgenliste der KI

Was aber ist vertrauenswürdig? Der TÜV-Verband, die Interessenvertretung der Technischen Überwachungsvereine in Deutschland, hat dazu kürzlich eine repräsentative Umfrage veröffentlicht. Darin fordern die Verbraucher "mehr Transparenz und Sicherheit beim Einsatz von KI". 85 Prozent unserer deutschen Nachbarn wollen, dass Produkte und Anwendungen mit KI klar gekennzeichnet werden. Ebenso viele sind der Meinung, dass KI-Produkte erst auf den Markt gebracht werden sollten, wenn ihre Sicherheit von unabhängigen Stellen überprüft wurde. Positiv bewertet die Mehrheit der Befragten die Weiterentwicklung von KI in Forschung, Industrie und Medizin. Kritisch wird KI gesehen, sollte sie menschliche Kontakte ersetzen (Altenpflege), in der Rechtsprechung oder Verteidigung genutzt werden. 71 Prozent geben zu bedenken, dass KI missbraucht werden könnte, um Menschen zu manipulieren. 56 Prozent der Befragten haben Sorge, dass KI-Anwendungen Arbeitsplätze von Menschen ersetzen.

Skepsis gibt es auch in Österreich, wie die Debatte um den Einsatz von KI beim Arbeitsmarktservice (AMS) veranschaulicht. Das Programm ermittelt auf Basis der persönlichen Daten der Jobsuchenden die Chancen auf Vermittlung. Wer etwa Kinder oder Angehörige betreuen muss oder Migrationshintergrund hat, könnte so eingestuft werden, dass sie oder er keine Schulungen mehr erhält. Dem AMS wird Diskriminierung vorgeworfen. Die recht einfache KI könne nicht anders, als bestehende strukturelle Probleme abzubilden, werfen KI-Experten ein. Für Vorurteile könne die Software nichts. Jedes Programm sei so gut wie seine Programmierer.

KI und Persönlichkeitsrechte

In der Menschensortierung wird sich KI weiter verbreiten. Versicherungen oder Banken arbeiten damit bereits. In China ist das Social Scoring üblich, in den USA wird die Entscheidung über vorzeitige Haftentlassung KI überlassen. Die gewerkschaftsnahe Hans-Böckler-Stiftung warnt, dass KI in Betrieben zu einer "umfassenden Überwachung von Beschäftigten" und zu "erheblichen Eingriffen" in Persönlichkeitsrechte führe. Es sei "unumgänglich, die Mitbestimmung der Betriebsräte beim Einsatz von Personalsoftware gesetzlich zu stärken".

Ethische Standards von KI diskutierten Fachleute kürzlich an der TU Graz. Vom Bedürfnis nach einem "digitalen Ethikrat" war die Rede, und vom Wunsch einer "mutig vorgehenden regulierenden Politik, die allerdings auch nicht überregulieren dürfe".

Weiter in der Debatte schien bis vor kurzem der Vatikan zu sein. Während einer internationalen Konferenz Ende Februar zum Thema kündigte man einen "Ethik-Kodex" für KI an. Vincenzo Paglia, Präsident der Päpstlichen Akademie für das Leben, sagte: "Wir brauchen starken moralischen Ehrgeiz, um die Technik zu humanisieren, statt das Menschliche zu vertechnischen." Während des Treffens mutierte ein Teilnehmer zum ersten Corona-Fall im Vatikan. An der Konferenz nahmen unter anderem Microsoft-Präsident Brad Smith und IBM-Vizepräsident John Kelly teil.