Overblog
Folge diesem Blog Administration + Create my blog

Gender & Intersectional Bias in Artificial Intelligence

Oft wird gehofft, dass KI gerechter entscheiden kann als Menschen. Leider gib es immer wieder Hinweise darauf, dass die KI unsere Fehler wiederholt. Wer weiß, wie KI trainiert wird, wundert sich darüber nicht: Automatische Gesichterkennung funktioniert besser für Männer als für Frauen, für Weiße besser als für Schwarze. Aber auch die devote Reaktion von Sprachassistentinnen auf sexuelle Belästigung durch den Benutzer ist nicht hilfreich, weil dadurch Genderklischees verfestigt werden. Schreibt die EU hier.

 

Kommentare anzeigen

Risikowahrnehmung

Vor circa zehn Jahre forschte ich mal zur Risikowahrnehmung, im Rahmen meiner Habilitation. Mir ging es natürlich konkret um Fehlentscheidungen im Software Engineering aufgrund falsch eingeschätzter IT-Risiken. Aber dabei stöberte ich natürlich auch interdiszplinär in der Forschung der anderen Disziplinen, die sich mit diesem Thema beschäftigen wie Psychologie und Medizin. Dieses Thema wird anlässlich von Corona wieder ganz aktuell und die Forschung erklärt unsere Probleme, das Risiko intuitiv korrekt einzuschätzen und die Verhältnismäßigkeit von Maßnahmen zu beurteilen. Der Umgang mit diesem unsichtbaren Gegner ist ähnlich schwierig wie der Umgang mit Radioaktivität. Wir haben dafür keine Sinnesorgane und auch keine angemessene Intuition. Umso wichtiger ist es in einer solchen Sache, den Experten zu vertrauen. Die Virologen können Ansteckungskennzahlen ermitteln und die Epidemiologen wissen, was dieser Wert für die Gesellschaft und die Welt als Ganzes bedeutet.

Unsere Probleme mit der Risikowahrnehmung sind hier die bekannten:

Umgang mit geringen Wahrscheinlichkeiten: Für kleine Zahlen fehlt uns das passende Vorstellungsvermögen. Eine kranke Person können wir uns vorstellen, auch 50 kranke Leute. Aber wie viel sind 50 Neuinfektionen auf 100.000 Einwohner? Das sind 0,05 Prozent, und kann man sich schwerlich als Tortendiagramm vorstellen. Machen wir die Zahl nach den Regeln der Kunst anschaulicher: Jede Woche steckt sich dann eine von 2000 Personen an. Eine Gruppe mit 2000 Mitgliedern ist größer als ich mir sie vorstellen kann. Aber lassen wir mal 10 Wochen mit dieser Infektionsrate vergehen, dann ist eine von 200 Personen krank. Wenn man einen ICE richtig voll macht, hab ich gelesen, passen da 800 Fahrgäste rein. Darunter wären also vier Infizierte, also ein Passagier in zweieinhalb Wochen.

Die Verfügbarkeitsheuristik bzw. der Availability Bias führt dazu, dass wir die Wahrscheinlichkeit einer Gefahr entsprechend der Anzahl der Fälle abschätzen, die wir kennen oder uns vorstellen können, die also mental verfügbar sind. Allgemeine Fachartikel oder Statistiken erreichen uns emotional nicht. Je mehr man aber über konkrete Krankheitsfälle liest, für umso wahrscheinlicher hält man grundsätzlich eine Infektion. Ich jedenfalls kenne bisher nur eine einzige Person persönlich, die Corona nachweislich hatte. Aber ich habe natürlich ganz viel gelesen...

Der Optimistic Bias führt dazu, dass wir ein Risiko für uns selbst geringer einschätzen als für andere, selbst wenn uns die Statistiken vollständig klar sind. Man glaubt, das Ansteckungsrisiko sei für einen selbst geringer als für die anderen. Man berücksichtigt bei dieser Einschätzung nur diejenigen Faktoren, die tatsächlich das Risiko senken, aber nicht die anderen. Darum hört man so oft Klagen, es gäbe so viele, die ihre Maske nicht tragen. Eigentlich wäre es ihnen vermutlich egal, aber wenn es viele gibt, die Fehler machen, dann, so die beruhigende Schlussfolgerungen, werden die zuerst krank. Leider muss das nicht so sein. Objektiv betrachtet, finde ich, sind es nur wenige, die ihre Nase frei lassen, und ich denke mir, solange wenigstens einer von uns richtig vermummt ist, reicht das hoffentlich. Ich bilde mir nicht ein, dass ich irgendetwas richtiger mache als diejenigen, die es schon erwischt hat. Gestern habe ich beispielsweise an einer Fast Food Bude einen Salat gegessen, was man in Seuchenzeiten eigentlich nicht tun sollte. Da mache ich mir keine Illusion.
Dank meiner regelmäßigen Beschäftigung mit Risiken und Sicherheit habe ich zwei Dinge über Sicherheit und Risiken gelernt: Mit Hilfe einfacher Maßnahmen kann man schon ein ganz ordentliches Sicherheitsniveau erreichen. Aber je sicherer man sein möchte, umso mühsamer und teurer wird es, bis dann die Sicherheitsmaßnahmen unangenehmer werden als der Eintritt des Risikos. Hundertprozentige Sicherheit kann es nicht geben. Das Leben bleibt gefährlich. Vor allem habe ich mich dafür entschieden, Risiken einzugehen, weil sonst das Leben gar keinen Spaß mehr macht. Jeder sucht vermutlich ein anderes richtiges Maß an Sicherheit und Risiko. Gesamtgesellschaftlich gesehen endet jedoch unsere Entscheidungsfreiheit dort, wo wir andere in Gefahr bringen.

Bleiben Sie gesund!

 

 

 

Kommentare anzeigen

No Spy Konferenz diesen Samstag

Diesen Samstag, 31.10.2020, findet ab 10 Uhr die No Spy Konferenz im Internet statt. Die Teilnahme ist kostenlos. Ich kann dieses Mal nicht dabei sein, weil ich einen Kurs gebe. Nähere Informationen dazu finden Sie hier.

Kommentare anzeigen

13.476??

Ich sehe bei Statista, dass es am Freitag 13.476 Neuinfektionen waren. Klar liegt das am Testen. Wie Donald Trump so richtig bemerkte: Würden wir nur halb so viel testen, wären die dokumentierten Fälle auch nur halb so viele. Dann wären wir wieder auf dem Höchststand der ersten Welle. Aber die Kurve sieht nicht aus wie etwas, das dabei ist, von selbst abzuflachen. Ich frage mich, warum die ganzen Masken und das Händedesinfizieren so wenig bringt. Ich lebe immer noch wie während des Lockdowns, abgesehen davon, dass ich zwei Mal pro Woche im Büro arbeite und dort maskiert über die Flure schleiche. Die wissenschaftlichen, politischen und kulturellen Veranstaltungen, zu denen ich früher unterwegs war, finden nach wie vor nur virtuell statt. Anscheinend werden da aber Parties und Hochzeiten ohne mich gefeiert! Wo soll das nur enden... Ursprünglich hatte ich mal gehofft, dass drei Wochen Lockdown und Kontaktverbot genügen würden, um das Dings einzudämmen.

 

Kommentare anzeigen

Statistik für Jedermann

Gerade habe ich einen sehr schönen Artikel darüber gelesen, warum Corona sich trotz Maskentragen nun schneller verbreitet. Was mir daran besonders gefiel war die Anschaulichkeit, mit der hier Statistik für Jedermann erklärt wird.

Simon Ehrlich

 

 

Kommentare anzeigen

Zeitmanagement in Zeiten von Corona

Gerade eben erschien mein neuster Zeitmanagement-Artikel auf dem Solcom-Blog:

https://www.freiberufler-blog.de/zeitmanagement-in-zeiten-von-corona/

Es geht darin darum wie Online-Meetings und der Wegfall von Reisezeiten das Mischungsverhältnis der verschiedenen Tätigkeiten verändert und das Zeitmanagement beeinflusst. Aber auch darum, wie Zeitmanagement Klarheit in die Arbeit bringt, so dass man Probleme verstehen und beheben kann.

Kommentare anzeigen

19.01.2021: Workshop Kreativität im Requirements Engineering auf der SQD-Konferenz

Die SQD-Konferenz wird für nächsten Januar als Real-Life-Veranstaltung geplant. Darauf freue ich mich schon, trotz der weiten Anreise nach Wien, die ich üblicherweise mit dem Nachtzug zurücklege. Einschließlich Ausweiskontrolle nachts um Mitternacht an der Grenze.

Das Programm der Konferenz finden Sie hier.

Mein Workshop über "Kreativität im Requirements Engineering" am 19.01.2021 ist hier beschrieben. Da werde ich wohl aus aktuellem Anlass noch das Thema "Kreativitätsworkshops online" mit dazu nehmen.

Kommentare anzeigen

Fachgruppentreffen Requirements Engineering 2020

Das diesjährige Fachgruppentreffen Requirements Engineering
findet online statt und hat als aktuelles Thema gewählt:
„Virtuelles RE – Herausforderungen und Chancen“.

Termin sind der 26. und 27.11.2020. Die Teilnahme ist kostenlos.
Bis zum 12.10.2020 werden gesucht:
20-minütige Vorträge und interaktive Sitzungen bis maximal 90 Minuten.
Einreichen können Sie unter https://easychair.org/conferences/?conf=fgre2020
Nähere Informatione zum Treffen finden Sie hier: https://fg-re.gi.de/

Kommentare anzeigen

Brain-Computer-Interfaces (BCI)

Einen sehr guten Artikel über Brain-Computer-Interfaces (BCI) mit interessanten Links finden Sie im neusten GI-Radar (Nr. 272).

 

Kommentare anzeigen

Corona und die empirische Forschung

Auch das Berliner Methodentreffen wurde, wie alle Konferenzen, ins Internet verlegt. In seinem bei Youtube verfügbaren Vortrag über "Die Krise der qualitativen Sozialforschung" zeigt Prof. Jo Reichertz auf, wie Corona bzw. die dagegen ergriffenen Maßnahmen die qualitative Sozialforschung beschädigen und ausbremsen. Dort spielt die direkte Kommunikation eine wichtige Rolle bei der Datenerhebung, aber auch im Diskurs, der Interpretation und in der Wahrheitsfindung. In meiner Software Engineering Forschung begegne ich denselben Problemen, wobei aber unsere Telefoninterviews und Umfragen ganz gut liefen. Nur neulich mussten wir etwas kreativ werden, um einen Kreativitätsworkshop online durchzuführen. Allerdings würde ich einige Experimente der Vergangenheit aktuell so nicht durchführen können und auch nicht durch ein Online-Experiment ersetzen wollen oder können.

Leider gelten die genannten Probleme auch für die Lehre, da an der Hochschule Wissen im Idealfall in einem kollektiven Erkenntnisprozess entsteht, in dessen Verlauf sich die Studierenden das Wissen erarbeiten. Einsames Selbstlernen ist nicht dasselbe! Wir haben uns zwar Mühe gegeben, einen gemeinsamen Erkenntnisprozess online durchzuführen, aber schon die Anwesenheit der Studierenden ließ zu wünschen übrig, und dann entstand gelegentlich der Eindruck, dass doch einigen der angezeigten Nicknamen keine geistig präsente Entität zugeordnet werden konnte. Beim versehentlichen Entmuten war sogar laute Musik zu hören.

Vor allem fällt beim Online-Kurs oder auch der Webkonferenz genau das fort, was für mich bisher Fortbildungsveranstaltungen ausgemacht hat: Das Fortsein aus dem Alltag, das Anwesendsein an einem attraktiven Ort in einer Veranstaltung, die dem Erkenntnisgewinn dient. Das ist ein wunderbarer Luxus. Im Home Office zappen wir stattdessen von einer Veranstaltung zur anderen.

 

 

 

Kommentare anzeigen

<< < 1 2 3 4 5 6 7 8 9 10 20 > >>