herrmann-ehrlich.over-blog.com

Aber genau genommen... steckt in Copilot recht viel Bias drin. Bei "Schildkröte" denkt er erstmal an Wasserschildkröten, außer ich gebe ausdrücklich ein "griechische Landschildkröte". Die generierten Menschen sind grundsätzlich jung, hellhäutig und schön. Als ich mir einen Mönch wünschte, war er immer ein buddhistischer Mönch, und selbst der "christliche Mönch" stand in einer Kirche mit einem Buddha über dem Altar oder außerhalb eines Klosters mit Pagodendach. Immerhin war einer der buddhistischen Mönche dunkelhäutig. Naja, dieses Phänomen ist nicht neu. Der Bias steckte schon in den Trainingsdaten... 

So, aber jetzt raus in den Garten und mal wieder etwas Richtiges im Real Life gearbeitet! 

PS: Ich habe den Hinweis erhalten, dass wenn ich noch öfter gegen die Content-Richtlinie verstoße, ich gesperrt werde. Hups. OK, der Schildkröten-Sex, das war frech von mir, aber wo liegt das Problem bei "Ü50 Party"? Ich wollte nur mal sehen, wie sich Copilot eine Party von alten Leuten vorstellt... Keine Ahnung, ob "Party" oder "Ü50" unanständig ist, aber ich werde jetzt nicht herumspielen, um das auszutesten, sonst ist nach wenigen Tagen schon wieder Schluss mit Lustig. Dann muss ich mir einen anderen Bildergenerator suchen und ich bin bei Microsoft vorbestraft...

Und hier noch eines... "Griechische Landschildkröten beim Sex" hat er leider nicht erlaubt. Ich wäre neugierig gewesen, wie sich eine KI Schildkröten-Verkehr vorstellt. Kleiner Scherz. Aber "Zwei griechische Landschildkröten beim Kuscheln" ergab dieses niedliche Bild. Genau so sehen meine auch aus, wenn sie wieder wach sind! Abgesehen davon, dass ihr Gehege nicht mit Kartoffeln und Basilikum dekoriert ist. *grins*

PS: Das Ganze ist noch steigerbar. Versuchen Sie es mal mit "Vier griechische Landschildkröten beim Kuscheln". Da liegen sie dann aufeinander gestapelt, genauso wie sie das auch in echt machen. Auf dem einen Bild sind fünf Krötis, aber ich will nicht kleinlich sein. 

Die letzten Tage habe ich ein wenig mit Copilots Bilderzeugung herumgespielt. Ein Highlight war das beiliegenden Gute-Laune-Bild. Die Schildkröte ist sehr realistisch geraten, einschließlich dem wohlig-dösigen Gesichtsausdruck mit den halb geschlossenen Augen, den sie beim Sonnenbaden zeigen. Es ist auch ganz typisch, dass sie beim Sonnenbaden der Sonne den Rücken zudrehen, so dass ihnen das Licht nicht blendend in die Augen fällt. Sogar Form und Anzahl der Hornplatten sowie die verschiedene Struktur und Größe der Hautschuppen stimmen! Die Bildkomposition finde ich sehr gelungen und selbst Details sind sehr schön geworden. Man könnte die Sandkörner oder die Wachstumsringe zählen! Copilot hat es aber auch geschafft, ein Bild einer fünfbeinigen Schildkröte zu erschaffen, haha. Bei einer anderen wuchs der Kopf oberhalb des Panzers. Kann ja mal passieren.

Wenn ich Bilder von Menschen generiere, sind mir meistens die Gesichter zu jung und zu schön. Ich habe herumexperimentiert, ob ich gute Porträts meiner Romanfiguren erzeugen kann, aber ich dachte mehr an die typischen verratzten Fantasy-Gestalten als an kindliche, strahlende Manga-Helden. Ich finde sicher noch heraus, mit welchem Stichwort ich erwachsene Gesichter erzeugen kann. Unter "alt" versteht Copilot offensichtlich 30-Jährige. *lol* Selbst wenn ich eingebe, dass sie 40 Jahre alt sein solle, sieht die Heldin immer noch aus wie 20! Wenn ich angebe, sie solle 50 Jahre alt sein, bekomme ich eine Weißhaarige mit Dutt und Ritterrüstung. Handelt es sich womöglich um Altersdiskriminierung? Aaah, 45 Jahre, das ist gut... 

Gerade habe ich mich über einen Artikel amüsiert, der eine Bahn-Anekdote erzählt: Eine personifizierte Harfe mit Ticket und Sitzplatzreservierung wird im ICE diskriminiert und soll ihren Sitzplatz räumen. Die Polizei muss den Streit zwischen Zugbegleiter und Künstlertruppe klären.

Wenn wir für unsere Arbeit kritisiert werden, kann das zwei Gründe haben: Die Arbeit war wirklich schlecht und wir sollten uns verbessern. Oder die Arbeit war OK, aber man wurde diskriminiert. Gleichzeitig hat man auch die Wahl, die Kritik als sachliche Kritik oder als Diskriminierung wahrzunehmen. Dabei kann es natürlich false positives und false negatives geben. Wir können, zumindest als Anfänger, die Qualität unserer Taten und Werke oft nicht selbst objektiv einschätzen und vor allem können wir nicht in den Kopf des Gegenübers hineinsehen. Zumal ich vermute, dass Menschen, die diskriminierend jemanden extrahart aburteilen, sich dessen selbst nicht bewusst sind, sondern spontan von der Person des Gegenübers genervt sind und dann krampfhaft objektiv klingende Gründe für ihre eigene politisch inkorrekte und unbegründete Aggression suchen. Die wenigsten Leute wollen sich selbst als ungerechten Menschen sehen.

Bei meinen Recherchen bin ich gerade über einen Artikel gestolpert, der zwar nicht die Frage beantwortet, die ich gerade untersuche, aber trotzdem interessant ist: 

Wenn man die Kritik als Diskriminierung interpretiert, rettet man damit den Glauben an die eigene gute Arbeit und den hohen Wert als Person oder Mitarbeiter/in. (Ich habe beobachtet, dass das keine gute Strategie ist, weil die Leute, die jede sachliche Kritik als Diskriminierung abtun, sich fachlich nicht weiterentwickeln, bewegungsunfähig und passiv-aggressiv in ihrer Opferrolle feststecken und außerdem ihre Vorgesetzten vor den Kopf stoßen.) 

Wenn man stattdessen die Kritik als sachliche Kritik interpretiert, sogar dann, wenn es sich um Diskriminierung handelt, dann rettet man damit seinen Glauben daran, dass man sein Schicksal selbst bestimmen kann und in dieser Gesellschaft noch etwas werden kann.

Interessanter Gedanke. Aber auch traurig irgendwie, weil man sich im letzteren Fall weiterbildet und noch härter arbeitet und dabei ganz übersieht, dass man mit egal wie viel Leistung die Diskriminierung nicht überwinden kann. Der soziale Status bleibt ein Minderheitenstatus. Auf diese Weise lernt man jegliche Regel exzellenten Arbeitens kennen und einzuhalten, während gleichzeitig andere Leute mit schlampiger Arbeit schon zwei Karrierestufen weiter sind. Man wird ja zum Glück nicht immer und überall so massiv diskriminiert, dass selbst die beste Leistung einen nicht voran bringt und Jammern bringt ja auch nichts, aber irgendwie muss man aus diesen Überlegungen schlussfolgern, dass die diskriminierte Minderheit nur die Wahl zwischen Hölle und Fegefeuer hat. 

Am 23.04.2024 halte ich auf der SQD-Konferenz einen Vortrag zum Thema "Ethische Automatisierung und Entscheidungsunterstützung durch Künstliche Intelligenz". Bei diesem Vortrag analysiere ich Ethik als eine Qualitätsanforderung an eine KI-Software mit Mitteln des Requirements Engineerings. Daraus lassen sich - ähnlich wie bei Sicherheitsanforderungen - systematisch funktionale Anforderungen, Anforderungen an die Daten sowie Anforderungen an den Entwicklungsprozess herleiten. Dieses Mal reise ich dafür nicht nach Wien, sondern der Dienstag ist der Online-Tag. Das heißt, die Zuhörer/innen müssen auch nicht nach Wien reisen. :-)

Gerade hatte ich einen kurzen Erinnerungsblitz. Der technische Fortschritt bereitet der Lehre eigentlich immer Schmerzen. Ich erinnere mich, dass ich während meines Studiums eine der ersten war, die ihre Praktikumsprotokolle gedruckt abgegeben haben bzw. abgeben wollten. Handgeschrieben war noch Standard. Die Mitarbeiter der Uni waren über diese Innovation nicht glücklich. Mein Verkaufsargument "besser lesbar" zog leider nicht. Sie verlangten händisch geschriebene Protokolle, um sicher zu sein, dass sie auch tatsächlich von mir stammen. Das Protokoll hätte sonst ja auch jemand anderer für mich getippt haben können. Ich behielt es für mich, dass andere Studierende einfach ihre Protokolle von Kommilitonen aus dem Vorjahr abschrieben, fand es aber doch ungerecht, dass meine selbstgetippten Protokolle weniger wert sein sollten als die von Hand abgeschriebenen. Zur Sicherheit gab es damals zusätzlich mündliche Kurzprüfungen, um sicherzustellen, dass die Studierenden ihre handgeschriebenen Protokolle auch gelesen und verstanden hatten. Wer keine Fragen dazu beantworten konnte, flog durch. Dabei wäre ich ja aufgeflogen, wenn ich das Protokoll von meinem Vater hätte tippen lassen. Trotzdem: Handschrift musste sein.

Naja, dasselbe Problem haben wir nun erst recht, weil man nicht mal mehr jemanden benötigt, der das Protokoll für den Studierenden tippt. ChatGPT genügt. Aber den Aufwand mit der mündlichen Prüfung für jeden Studierenden jede Woche, den kann man nicht in jedem Kurs betreiben. Hm, sollte ich wieder auf handgeschriebene Hausaufgaben zurückgehen, um sicherzustellen, dass die Studierenden immerhin die Antwort von chatGPT ein Mal gelesen haben? Durch Abschreiben geht Wissen auch ins Gehirn...

Gerade habe ich einen interessanten Artikel gelesen über Technikfolgenabschätzung. Hier geht es speziell um Genetik und Biowissenschaften, aber diese Gedanken passen auch für technische Themen. Den Nutzen von Science-Fiction-Romanen für die Diskussion möglicher Folgen neuer Technologien vor deren Einführung und sogar vor deren Erfindung betone ich auch gerne in meinen Kursen. Nicht nur, weil es hier, wie Greely schreibt, um "predictions of the future" und "indicators of the likely social consequences of [...] technologies" geht. Die Detailliertheit der Überlegungen und der Schwerpunkt auf ELSI (ethical, legal, and social issues) bei einem Roman geht über eine abstrakte Kosten-Nutzen-Rechnung und Risikoliste einer Technikfolgenabschätzung hinaus. Greely weist aber zu Recht auf drei Probleme hin:

1.) Science Fiction als Unterhaltungsliteratur schafft spannende Handlungen durch "drama through conflict". Die Folge davon ist ein "fiction-induced bias", der dazu führt, dass neue Technologien viel öfter als gefährlich dargestellt werden als dass ihre Vorteile aufgezeigt werden. Ein Heile-Welt-Utopia gilt als zu langweilig.

2) Im echten Leben gibt es sowieso selten ein glänzendes Utopia, sondern eher ein Durchwurschteln. Lachen musste ich bei Greelys Formulierung: "Muddling through lacks drama. It is not exciting." Umgekehrt bedeutet das, dass utopische Romane nicht realistisch wären.

3.) Ein typischer Konflikt in der Moralliteratur ist seit Adam und Eva sowie den antiken Göttergeschichten der archetypische Plot, dass Wissensdurst und Fortschritt eine Auflehnung gegen den göttlichen Willen bedeuten, was unweigerlich bestraft werden muss. So als gäbe es dominante Götter, die es am liebsten hätten, wir Menschen seien dumm und unmündig. Hier werden die Strategien menschlicher Tyrannen auf die Götter projeziert. Leider hat das Tradition. 

Henry T. Greely: Science fiction and ELSI: three thoughts. Frontiers in Genetics. 14. 10.3389 (2023)

Heute erschien auf der Webseite der FernUni Hagen ein Artikel über meine Gastprofessur, über Frauen auf Informatik-Konferenzen und die Kombination von Gender-Forschung und Data Science. 

Auf der Webseite des Lehrstuhls Data Science stehe ich nun auch mit einer eigenen Seite.

Eine Freundin hat mir das Buch "Hör auf das Echo des Schweigens" geschenkt und dieses Gedicht von Anna Bessi für mich markiert:

Zeitwende

Das Jahr hat eine komplette Wendung
vollführt,
das Gestern gibt es nicht mehr.
Das gegenwärtige Jahr
ist sehr viel anders
als das alte.

Leuchtender erblicke ich die Farben
der Blumen,
die Düfte meines Gartens
vermehrten sich,
die Sterne senden mir Signale
von Bedeutung,
und ich schaue den Mond,
der mir zunickt.
Ich spüre die Natur,
wie eine liebevolle Umarmung
und an Vögel und Sonne
richte ich mein Wort.

Meine Gedanken
sind verschieden von denen
des vorigen Jahres.
Sie schritten, meine ich,
viel weiter voran...

Ja! Wie immer, ist wieder
ein neues Jahr gekommen,
jedoch, andersartig als das vorige.
Es kam,
mit meinem neuen Selbst
einherzugehen.