Lade Inhalte...

Studium

Wie "Deep Learning" Künstliche Intelligenz sexistisch macht

20. Juni 2020 01:46 Uhr

LINZ. Ergebnisse von Suchmaschinen werden durch Menschen verzerrt.

Dass Entscheidungen von Künstlicher Intelligenz (KI) oft diskriminierend ausfallen, ist bekannt. Menschen mit Migrationshintergrund werden als weniger kreditwürdig eingestuft oder sie bekommen auf sozialen Plattformen schlechtere Jobs oder Wohnungen vorgeschlagen. Die Forscher Markus Schedl und Navid Rekab-Saz der Kepler-Uni zeigen nun, dass die Ergebnisse von Suchmaschinen, die Deep Learning-Algorithmen nutzen, besonders sexistisch verzerrt sind.

"Die Künstliche Intelligenz arbeitet mit Daten, die von Menschen eingespielt wurden und oft mit Vorurteilen belastet sind", sagt Navid Rekab-Saz vom Institut für Computational Perception. Bei der Frage nach dem Einkommen einer Pflegekraft, im Englischen der geschlechtsneutrale Begriff "nurse", warfen Suchmaschinen vor allem Antworten im Zusammenhang mit Frauen aus. Umgekehrt lieferte die Suche nach "CEO", den Geschäftsführer eines Unternehmens, überwiegend männliche Antworten. "Die Suche der KI verstärkt den Geschlechter-Effekt, der in den Daten bereits enthalten ist", so Rekab-Saz. Die Forscher sind sich sicher, dass solche Effekte auch in Bereichen wie Alter, Ethnie oder Religion vorkommen.

Interessieren Sie sich für diesen Ort?

Fügen Sie Orte zu Ihrer Merkliste hinzu und bleiben Sie auf dem Laufenden.

Lädt
turned_in

info Mit dem Klick auf das Icon fügen Sie das Schlagwort zu Ihren Themen hinzu.

turned_in

info Mit dem Klick auf das Icon öffnen Sie Ihre "meine Themen" Seite. Sie haben von 15 Schlagworten gespeichert und müssten Schlagworte entfernen.

turned_in

info Mit dem Klick auf das Icon entfernen Sie das Schlagwort aus Ihren Themen.

turned_in

Fügen Sie das Thema zu Ihren Themen hinzu.

mehr aus Studium

0  Kommentare expand_more 0  Kommentare expand_less