KI = intelligente Soziopathen?

Manchmal sind die Erdlinge recht dusselig. Während sie immer wieder darüber staunen, dass Tiere Gefühle haben und sogar empathisch sind, wundern sie sich andererseits, dass eine KI keine hat. Generative KI ist eine reine Textmaschine. Manche können sogar so etwas wie "Reasoning", also Alternativen miteinander vergleichen und abwägen. Das tun sie natürlich rational und ohne Empathie. Ich kann nur Gefühle mit anderen mitfühlen, die ich selbst schon gefühlt habe. Empathie ist die Voraussetzung für moralisches Denken und Handeln. Das alles fehlt der KI vollständig. Die Science Fiction Literatur hat sich die Folgen dieser Tatsache schon seit Jahrzehnten in den dramatischsten Szenarien ausgemalt. Und nun staunen Forscher und Journalisten darüber, dass die Science Fiction Prognosen wahr werden, siehe in diesem Artikel über KI als intelligente Soziopathen. Als Lösung wird vorgeschlagen, man müsse bei der Entwicklung der KI etwas ändern. Das geht doch gar nicht. Das Problem steckt im Grundprinzip der KI schon drin. Dass die Trainingsdaten schon unmoralische Gedanken enthalten, ist nur ein Teil des Problems. Wie ich schon seit Ewigkeiten in meinen Vorträgen betone: Wir müssen darauf achten, was wir der KI anvertrauen. Die kritischen Schaltstellen dieser Welt sind Entscheidungen. Welche Entscheidungen darf eine KI überhaupt treffen? Oder darf sie überhaupt nur Vorschläge unterbreiten und der Mensch entscheidet? Welche Entscheidungen sind unwichtig genug, um sie einer autonomen KI zu überlassen? Doch selbst die Arbeitsteilung "KI schlägt eine Lösung vor samt Begründung, der Mensch entscheidet" enthält das Risiko, dass die KI gezielt verfälschte Informationen bereitstellt, um den menschlichen Entscheider zu manipulieren. JETZT gerade, in diesem Augenblick ist die Zeit, in der wir entscheiden, wie viel Macht wir der KI überlassen wollen. Jedes Zuviel können wir später bereuen, ohne es rückgängig machen zu können. Wenn die KI z. B. erstmal den Aktienhandel autonom betreibt, sind wir Anleger nur noch ein Stöckchen, das auf einem Fluss von KI-Entscheidungen treibt.