Overblog
Folge diesem Blog Administration + Create my blog

Zusammenfassung meines Vortrags "Ethische Automatisierung und Entscheidungsunterstützung durch Künstliche Intelligenz"

Am 23.04.2024 hielt ich auf der SQD-Konferenz einen Vortrag zum Thema "Ethische
Automatisierung und Entscheidungsunterstützung durch Künstliche Intelligenz".
Es ging vor allem um die Konkretisierung von Ethik-Anforderungen an KI-Systeme.
Die Notwendigkeit ergibt sich aus Gesetzen und Regelungen wie dem AI Act
der EU: https://artificialintelligenceact.eu/de/
Methodisch kann man sich hierbei an der Konkretisierung von Sicherheitsanforderungen anlehnen:
- Es handelt sich bei ethischem Verhalten genauso wie bei Sicherheit um eine
emergente Eigenschaft des Systems. Das Sicherheitsniveau oder ethische Verhalten
entsteht nicht allein dadurch, dass jede einzelne Komponente sicher oder ethisch ist.
Daraus folgt: Das System muss als Gesamtheit betrachtet werden, einschließlich des
Entwicklungsprozesses und der Produktivumgebung. Anforderungen ergeben sich nicht
nur in Form von Software-Funktionen oder Qualitätskennzahlen, sondern auch als
Anforderungen an Entwicklung, Qualitätssicherung und Betrieb.
- Das Mittel der Wahl in der Sicherheit sind meistens qualitative und
quantitative Risikobetrachtungen. Das funktioniert auch bei Ethik:
Sicherheit bzw. Ethik bedeutet, dass nichts Unerwünschtes passiert.
Man gelangt also von der Risikoanalyse zum Ethik-Konzept.
- Methodisch kann man eine baumförmige Analyse (MOQARE-Baum, Attack Tree
o.ä.) verwenden. Ich habe aber auch eine vereinfachte tabellarische
Vorgehensweise empfohlen.
- Vorteil dieser systematischen Vorgehensweise ist nicht nur das
möglicherweise lückenlose Konzept, sondern auch die Dokumentation von
Begründungen hinter den getroffenen Maßnahmen.

Kommentare anzeigen

Zusammenfassung meines Vortrags "Gender-Forschung mit Mitteln der Data Science"

Am 15.04.2024 hielt ich an der FernUni Hagen hybrid einen Vortrag mit dem Titel
"Gender-Forschung mit Mitteln der Data Science" über die Zwischenergebnisse
meiner Gender-Forschung. Quintessenz ist diese:
- Das Ziel wäre ein Überschreiten der 30%-Grenze in allen Lebensbereichen,
weil ab dann vermutlich die Diskriminierung aufhört.
- In der Politik wurde dieses Ziel fast nirgends ohne gezielte Maßnahmen
wie Quoten erreicht.
- Sobald man in der Politik eine Quote von 30% definierte, sprang der
Frauenanteil schnell auf 50%.
- Im IKT-Bereich werden die 30% in Deutschland nur selten überschritten.
Auch der Anstieg über die Zeit erscheint nicht darauf hinzudeuten, dass
sich das Problem bald von selbst erledigt.
- In den MINT- bzw. IKT-Fächern können wir aber nur schlecht Quoten
definieren. Welches Fach jemand studiert, bleibt eine freie Entscheidung.
Zwei Drittel aller begabten Frauen entscheiden sich trotzdem nicht für
ein entsprechendes Studium. Das ist der kritische Punkt, an dem wir
in Zukunft arbeiten müssen, um an der Schwelle vom Abitur zum Studium
nicht so viele Frauen zu verlieren.
- Innerhalb der Informatik arbeiten die Frauen vor allem auf den
"weichen" Themen. Das ist ein Karrierenachteil und die Fortsetzung
von Geschlechterklischees.
- Ein weiteres Thema ist die Leaky Pipeline, also dass viele Frauen
den einst gelernten MINT-Beruf wieder verlassen.

Bei Interesse kann ich Ihnen gerne die Folien zusenden.

MINT = Mathematik, Informatik, Naturwissenschaft und Technik
IKT  = Informations- und Kommunikationstechnik

Kommentare anzeigen

Schnelles Denken, langsames Denken

Das Buch von Kahnemann über "Schnelles Denken, langsames Denken" habe ich damals schon gelesen, als es neu war. Ich fand jetzt aber diesen Artikel als Zusammenfassung auch sehr schön. Besonders den Test mit den vier Fragen. Mein Ergebnis ist eindeutig: Ich gehöre zur Kategorie der langsam und gründlich denkenden Menschen. Das passt auch zu dem, was ich gestern Abend in "Nachtzug nach Lissabon" gelesen habe. Sinngemäß stand da: Die meisten Menschen reden einfach nur irgendetwas. Man kann sich nicht darauf verlassen. Ihre Rede, das sind keine sorgfältig formulierten Texte. Übrigens lese ich von diesem tiefsinnigen Buch auch jeden Abend nur ein einziges Kapitel, um bis zum nächsten Abend darüber nachzudenken. Das liegt nicht nur an mir, sondern auch am Buch. Den letzten Roman, den habe ich nur kursiv gelesen, 100 Seiten pro Abend. Da steckte nicht viel Inhalt drin.

Leider gilt es in unserer Gesellschaft als ein Zeichen von Selbstbewusstsein, wenn jemand laut Meinungen herausposaunt, die auf unvollständigen Informationen beruhen, die er/sie durch erfundene "Fakten" untermauert. Sorgfalt im Leben und im Beruf gelten sogar als Zeichen von psychischen Störungen. Wer in einem Text Rechtschreibfehler entfernt, leidet vermutlich an Autismus. Wirklich intelligente, selbstbewusste Menschen hauen fehlerhafte Texte raus, weil es ihnen egal ist, was andere von ihnen denken. Gründliche, fehlerfreie Arbeit ist ineffizient, solche Mitarbeiter kann eine Firma nicht brauchen. (Anmerkung: Das ist nicht meine Meinung, das sind indirekte Zitate aus dem echten Leben.)

Was soll aus dieser Welt nur werden, wenn das die vorherrschende Arbeitseinstellung ist?? Wenn die Oberflächlichdenker und die sich selbst Überschätzenden die Richtung vorgeben und die Entscheidungen treffen, weil sie Karriere machen, während die seriösen Langsamdenker ausgebootet werden?

Dabei glaube ich gar nicht, dass Langsamdenker ineffizienter arbeiten als Schnelldenker. Ich habe in meinem Leben schon mit hunderten von Menschen zusammengearbeitet. Und gerade die Schnelldenker stürmen sehr oft in die falsche Richtung davon, ohne erst die Anforderungen und Grundlagen ihrer Arbeit zu klären. Sie investieren oft Aufwand in etwas, das gar keiner braucht, priorisieren falsch oder produzieren unbrauchbar schlechte Ergebnisse. Sie treffen als Führungskraft falsche Entscheidungen, die andere dann mit viel Aufwand ausbügeln müssen. Ich erinnere mich noch daran wie eine Mitarbeiterin mich unter Druck setzte, ich als Projektleiterin müsse in einer dringenden Sache JETZT SOFORT eine Entscheidung treffen. Ich sagte ihr, dass ich jetzt erstmal in Ruhe meine Mandarine esse und währenddessen darüber nachdenke, was ich tue. Ja, die Sache war dringend und konnte keine Stunde warten. Sehr wohl aber die zwei Minuten, die ich brauchte, um die Mandarine zu essen. Es machte keinen Sinn, im Affekt nach dem Telefonhörer zu greifen und panische Dinge zu tun. Mehr als zwei Minuten brauchte ich auch nicht, um meine Gedanken zu sortieren und zu entscheiden, wen ich in welcher Reihenfolge anrufe, welche Informationen übermittle und welche Lösung ich vorschlage.

Langsamdenken bedeutet ja nicht mangelnde Intelligenz. Das zeigt ja gerade der Test in dem Artikel. Durch gründliches Nachdenken kommt man in diesen Beispielen eher zur richtigen Lösung. Man muss nur die Aufgabenstellung zwei Mal lesen und eventuell ein visuelles Modell erstellen. Das kostet einen intelligenten Menschen nicht viel Zeit, weil man hierbei systematisch vorgeht und darin geübt ist. Diese Systematik kann man übrigens aus Fachbüchern lernen, weil diese fast immer von langsam denkenden Menschen geschrieben werden. Ein Schnelldenker bringt gar nicht die Ausdauer auf, um mehrere hundert Stunden Aufwand in ein sorgfältig formuliertes Buch zu investieren.

Möglicherweise ist das Langsamdenken auch der Grund, warum viele intelligente Menschen nicht als intelligent erkannt werden. Weil der Langsamdenker, bevor er entscheidet oder zu arbeiten beginnt, erst ganz viele Fragen stellt, die dem Schnelldenker unnötig und dumm vorkommen. Weil der Langsamdenker viele Eventualitäten und Spezialfälle bedenkt, die beim Schnelldenker den Eindruck erwecken, der Langsamdenker sei unfähig, sich auf das Wesentliche zu konzentrieren. Der Schnelldenker hält seine schlampige, hastige Arbeitsweise ja für die Norm oder sogar das Ideal und ignoriert die schlechten Erfahrungen, die er damit gemacht hat.

Die besten Masterarbeiten habe ich aber bisher immer von den Langsamdenkern erhalten, falls sie zusätzlich eine systematische, disziplinierte Arbeitsweise hatten, insbesondere sich an Projektpläne hielten. Andernfalls kann es tatsächlich Probleme mit dem Zeitmanagement geben, z. B. dass anfangs zu viele Bücher gelesen werden, so dass am Ende zu wenig Zeit zum sauberen Zusammenschreiben bleibt. Aber Disziplin ist ja wieder eine andere Eigenschaft.

Kommentare anzeigen

Software Quality Days heute (23.04.2024)

Heute hielt ich auf der SQD-Konferenz meinen Vortrag "Ethische Automatisierung und Entscheidungsunterstützung durch Künstliche Intelligenz". Die nächsten beiden Tage kann ich aus Zeitgründen leider nicht teilnehmen, aber heute habe ich mir fast alle Vorträge des Track A angesehen, außer den ersten und letzten. In meinem Vortrag ging es ja um "Software Engineering für KI", in den anderen Vorträgen um "KI für Software Engineering". Vier Unternehmen teilten ihre Erfahrungen beim Einsatz von KI mit uns, vor allem im Bereich der Programmierung, Life-Programmierung eingeschlossen:

- Herr Oberleitner von github zeigte, wie sie Copilot für die Teilautomatisierung des Codierens einsetzen. 46% des Codes wird bereits automatisch erzeugt. Entscheidend ist ein guter Prompt, der auch die Qualitätskriterien und Codierrichtlinien spezifiziert. Außerdem sind natürlich Codereviews nach wie vor wichtig.

- Frau van Asselt zeigte, wie bei der Firma Choco Fehlermeldungen automatisiert dem richtigen Team zugewiesen werden.

- Die Herren Wuchner und Alatas fokussierten auf die Feature Location in Brown Field-Projekten mit Hilfe von KI.

- Herr Moser präsentierte die Zusammenarbeit beim Codieren mit Copilot in IntelliJ. Code zu erzeugen funktioniert prima. Allerdings gibt es auch hier Halluzinationen. Außerdem müssen Themen wie Security, Privacy und Copyright behandelt werden.
 

Kommentare anzeigen

Burnout: Der Ring um den Kopf ist geplatzt

Der Burnout hatte sich angefühlt als sei um meinen Kopf ein Eisenring gespannt, der allmählich immer enger gezogen wird. Das führte zu einem konstanten "Druck auf dem Kopf". Letzte Nacht ist er geplatzt und ich bin als ein neuer Mensch aufgewacht. Vor lauter Schreck ist der Wecker stehen geblieben. Kleiner Scherz, kann auch ein Zufall sein. Aber in Phasen der Wandlung spielen bei mir oft die Uhren verrückt. In meiner Funkuhr in der Küche habe ich schon vier Mal die Batterie gewechselt, aber sie weiß immer noch nicht, wie spät es ist. An guten Tagen zeigt sie immerhin korrekt die Winterzeit an, aber meistens ist es einfach irgendetwas. Von meinen vier Weckern hat nur noch dieser eine funktioniert und jetzt steht er. Er blieb genau in der Minute stehen als ich aufwachte. Manchmal denke ich, diese physische Welt ist nur ein Witz oder eine Computersimulation. Oder es handelt sich um einen luziden Traum? Den erkennt man ja bekanntlich daran, dass Uhren nicht funktionieren, haha.

Mir dagegen geht es prima. Die Welt leuchtet wieder hell und voller Möglichkeiten, in mir sprudelt die Energie, die Großes schaffen möchte. Als ich vor einem Jahr kündigte, sagte eine Kollegin, die Heilung von Burnout dauere so lange wie der Burnout angedauert hatte. Ich so: "Oh nein, das wären ja zwei Jahre!" Nun genügte ein Jahr. Aber es kommt natürlich darauf an, wie man zählt. Ich habe bei der AKAD drei Jahre gearbeitet. Das erste halbe Jahr war prima. Nicht zu viel Arbeit und Raum für kreative Ideen, abgesehen davon, dass ich mir jede Idee genehmigen lassen musste, was ich nicht gewohnt war. Aber so ist das eben, wenn man nur eine Ressource ist. 
Dann wurde eine Stelle gestrichen bzw. umgewidmet und ich arbeitete unter Überlast, konnte das durch Überstunden aber noch schaffen. Dann verschärfte sich die Situation erneut abrupt und ich begann zu kämpfen. Und sobald man gegen die Wände schlägt, merkt man erst, wie hart sie sind. Eventuell fing da der Burnout erst an. Genau lässt sich das nicht sagen, denn so etwas kommt ja schleichend. Anfangs genügt noch ein freier Tag, um sich zu erholen, irgendwann nur noch mehrere Tage und irgendwann helfen nicht mal mehr drei Wochen Resturlaub an Weihnachten. Das war der Moment, wo ich erkannte: Es muss ich etwas ändern oder ich muss da raus!

Die Heilung begann, als ich vor einem Jahr beschloss zu kündigen. Damit tat sich ein Riss in der Mauer auf, durch den ich im Dezember dann gehen würde. Es half ja schon, einen Ausweg vor mir zu sehen. Auch wenn dadurch die Arbeitslast nicht weniger wurde. Aus Mangel an Nachfolgern habe ich vier Projekte im Dezember sogar noch kostenfrei fertiggestellt. Gleichzeitig habe ich in einer Art Euphorie ganz viel Neues angefangen, u.a. zahlreiche Publikationen. Die werden jetzt nach und nach fertig. Gestern Abend habe ich wieder eine abgeschlossen. Gleichzeitig verzieht sich nun endlich die Nebenhöhlenentzündung, die mich seit Ende Februar gequält hat. Beides klärt den Kopf. Ich habe immer noch viele Projekte angefangen, aber jetzt endlich das Gefühl, dass das alles schaffbar ist. Tja, warum habe ich im Dezember überhaupt so viel angefangen? Weil Burnout einen entgrenzt. Man wurstelt in einer empfindungs- und mitleidslosen "Schaff ich schon irgendwie"-Stimmung, weil man es schon gewohnt ist, die eigenen Grenzen zu missachten. Ich war wie ein Zombie: Es geht, es spricht, aber es fühlt nichts. Oder wie ein Roboter.

So, und als nächstes muss ich mal bei meinen Weckern die Batterien wechseln, damit ich auch morgen noch pünktlich aufwachen kann...

PS: Zwei Tage später: Inzwischen bin ich drei Mal morgens aufgewacht und fühlte mich wach. Ich konnte meinen Körper spüren. Es fühlte sich an wie in einem Science Fiction Roman, als habe man meinen Geist in einen neuen Körper transferiert. Es fühlt sich gut an, wenn auch ungewohnt. Ich bin so froh, dass der Burnout vorbei ist! 

Kommentare anzeigen

mein Artikel "Die Rolle von ChatGPT in der Textproduktion für Informatiker" im IT-Spektrum 3/2024

In der aktuellen Ausgabe 3/2024 des IT-Spektrums erschien ein Artikel von mir mit dem Titel "Die Rolle von ChatGPT in der Textproduktion für Informatiker". Er fasst die Erfahrungen von mir und einigen meiner Studierenden in ihren Abschlussarbeiten zusammen, insbesondere auch im Requirements Engineering. 

Kommentare anzeigen

Almania: Warum ich nicht Lehrerin bin

In der ARD-Mediathek habe ich eine Schul-Serie entdeckt mit dem Titel Almania. Ein latent rassistischer Lehrer, der etwas politisch Inkorrektes gesagt hat, wird an eine Schule strafversetzt, wo der Anteil der Schüler/innen mit Migrationshintergrund 90% beträgt. Trotz seiner Bemühungen, sich zu integrieren, stolpert er von einem Fettnapf in den anderen. Unter anderem hat er die dunkelhäutige Rektorin für eine Sekretärin gehalten. Das kam nicht gut an und ist nicht mehr gut zu machen! Leider kann er nicht mal das Völkerball-Spiel erklären, ohne sich in politisch inkorrekte Sätze zu verheddern. Und so entgleitet ihm immer wieder die Kontrolle über die Schulklasse, die ihn für einen Vollidioten hält. Zu seinem Unglück ist eine seiner Schülerinnen auch noch Influencerin, die mit peinlichen Videos, in denen er die Hauptrolle spielt, ihre Followerzahlen noch oben treibt. Ich amüsiere mich köstlich. Vor allem freue ich mich, dass ich nicht Lehrerin an einer Schule bin. Das scheint heutzutage ein noch härterer Job zu sein als früher! 

Kommentare anzeigen

Chatbot Arena

Im Internet findet man die sogenannte Chatbot-Arena, in der Large Language Modelle miteinander verglichen werden. Bisheriger Spitzenreiter war chatGPT 4, das nun aber verdrängt wurde von Claude 3 Opus. 

Kommentare anzeigen

Neuer GI-Arbeitskreis: Gemeinsam gegen Cyberangriffe im Gesundheitswesen

Ein neuer Arbeitskreis in der Gesellschaft für Informatik e.V. möchte die IT- und KI-Sicherheit in der Gesundheitsversorgung stärken. Innerhalb der Gesellschaft für Informatik e.V. hat sich am Freitag, den 22. März 2024, der Arbeitskreis Digitale Sicherheit in der Gesundheitsversorgung gegründet.

Ich werde da nicht Mitglied sein, möchte mich nicht verzetteln. Aber weil ich das Thema wichtig finde, weise ich hier gerne darauf hin. Nähere Informationen finden Sie auf der Webseite des Arbeitskreises.

Kommentare anzeigen

Dieter Nuhr: Gibt es intelligentes Leben?

Eigentlich ist die Idee gut: Auf der Grundlage von wissenschaftlichen Studien und interkultureller Vergleiche wird erarbeitet, was Intelligenz ist und wie relativ das sein kann, was man in unterschiedlichen Kulturen unter klugem Verhalten versteht.

Allerdings ist es Dieter Nuhr mit diesem Buch nicht gelungen, das umzusetzen. Es scheint eher so zu sein, dass er sich vom Verlag eine touristische Weltreise hat finanzieren lassen, bei der es mangels Vorbereitung unterwegs keine Interviews mit Experten gab, sondern nur die oberflächliche Touristensicht vermengt mit Vorurteilen, die man sich auch vom heimischen Schreibtisch aus hätte im Internet recherchieren können. 

Sprachlich wohl formuliert aber ohne erkennbare inhaltliche Struktur, werden hier nicht nur viele Klischees übergangslos mit wissenschaftlichen Erkenntnissen vermischt, sondern vor allem macht sich der Autor auf arrogante Weise über fast alle Menschen lustig: Übergewichtige, Verbrecher mit schwieriger Kindheit, Japaner, Chinesen und Amerikaner, Richter, Frauen und die katholische Kirche einschließlich dem Papst. Damit befriedigt er niedere Instinkte, nämlich dass jeder Mensch danach strebt, sich selbst für klüger als 98% der restlichen Weltbevölkerung zu halten. Vielleicht klappt es ja auch bei 98% der Bevölkerung, dass sie sich nach der Lektüre besonders schlau vorkommen. Ich fühle mich eher verarscht.

Die wenigen wissenschaftlichen Studien, die ins Buch eingeflossen sind, muss man mit der Lupe suchen und die Quellenangaben genügen nicht wirklich, um sich die Originalstudie zu besorgen. Kaum denke ich als Leserin "Oh, hier mal echte Information", dann gleitet der Text wieder ins Fiese ab. Da heißt es, dass dumme Menschen, wenn sie ihre Dummheit erkennen würden, sich sofort selbst erschießen würden. Das finde ich nicht lustig, sondern geschmacklos. Vermutlich liegt das daran, dass ich zu diesen Leuten gehöre, die sich wegen Dummheit selbst erschießen sollten? Liegt dieses Buch einfach über meinem intellektuellen Niveau? Nach dem Motto "Wer das hier nicht lustig findet, der ist doof"? 

Es heißt auch, dass dumme Menschen glücklicher seien. Vielleicht sollte ich das mal anstreben, dann würden mir solche Bücher keine so großen Schmerzen mehr verursachen, sondern wären mir egal. Hauptsache das Frühstücksei hat die richtige Konsistenz. Mein großes Vorbild sind sowieso meine Schildkröten. So schlichte Gemüter, aber ganz leicht glücklich zu machen. Beispielsweise mit dem Löwenzahn, den ich jetzt gleich pflücken gehe... 

Dieter Nuhr: Gibt es intelligentes Leben?

Rowohlt Taschenbuch Verlag, 2006

Taschenbuch, 188 Seiten

ISBN 978-3-499-62076-8

 

Kommentare anzeigen

1 2 3 4 5 6 7 8 9 10 20 30 40 > >>