Gerade lese ich den AI Act der EU von vorne bis hinten durch. Hintergrund ist eine Diskussion im GI-Arbeitskreis Privacy und Datenschutz und Vorbereitung einer Stellungsnahme. Beim Lesen stellt sich für mich mal wieder die Frage nach dem Unterschied und der Zusammenarbeit zwischen Data Science und Künstlicher Intelligenz. In meinem aktuell laufenden Seminar Data Science habe ich auch ein paar KI-Themen eingeflochten. Beides sind ja eigentlich getrennte Welten:
- KI-Systeme sind nichtdeterministisch - Data Science ist deterministisch und erklärbar,
- KI-Systeme sind Black Box - Data Science ist White Box,
- KI-Systeme setzt man ein, wo man Zusammenhänge, Gesetze und Regeln nicht kennt - Data Science setzt man ein, wo man die Zusammenhänge, Gesetze und Regeln mit statistischen Modellen beschreiben kann,
- KI-Systeme funktionieren auch bei schlechter Datenqualität und können Datenlücken automatisch ausgleichen - Data Science analysiert Datenqualität und verbessert diese systematisch, wobei der Data Scientist das Wie entscheiden muss
- KI-Systeme arbeiten autonom - Data Science Systeme werden im Detail durch einen Menschen gesteuert
Seltsamerweise diskutiert niemand die großen Chancen, die aus einer Zusammenarbeit beider Disziplinen entstehen. Abgesehen davon, dass wir das im Data Science Seminar an der Fernuni Hagen tun. :-)
Da KI-Systeme auch keine Wunder bewirken und auf der Grundlage mickriger Daten keine hochwertigen Schlussfolgerungen ziehen können, wird die Data Science benötigt, um die Qualität der Trainings- und Validierungsdaten des KI-Systems zu prüfen und falls nötig zu verbessern. Es geht auch darum festzustellen, ob überhaupt genügend Daten vorhanden sind, um das KI-System nicht zum Risiko werden zu lassen. Die Data Science kann auch die Ergebnisse des KI-Systems auf Bias / Verzerrung, Fehlermuster und falsches Lernen prüfen. Im Bereich Erklärbarkeit von KI-Systemen werden ja bereits Data Science Methoden eingesetzt, um im Nachhinein zu analysieren, welche der Attribute der Eingabedaten das Ergebnis des KI-Systems wie stark beeinflusst haben. Das wiederum ist eine ausgezeichnete Grundlage, um Fehler des KI-Systems oder Verzerrungen in den Daten zu entdecken. Da der AI Act in Artikel 9 ausdrücklich ein Risikomanagementsystem für KI-Systeme fordert und Artikel 17 ein Qualitätsmanagementsystem, wird hier der Bedarf an Data Science steigen!