Fedcon – Der Rückblick (3): Zum ontologischen Status von KIs

Im zweiten Teil habe ich erwähnt, dass mich die beiden Vorträge von Rebecca Haar am meisten beeindruckt haben. Ihre Überlegungen zum ontologischen Status von KIs habe ich direkt nach dem Vortrag zum Anlass genommen, meine eigene Theorie zu dem Thema zu entwickeln (und dafür Seamus um eine Woche geschoben, weil ich euch nicht mit zwei philosophischen Beiträgen langweilen wollte).

Wer meine philosophischen Einlassungen aufmerksam verfolgt und sich ein wenig mit der Terminologie auskennt, der merkt recht schnell, dass ich mich für Ontologie im klassischen Sinne nicht interessiere. Die Ontologie stellt die Frage: Gibt es Dinge und wenn ja, welche Dinge gibt es und auf welche Art gibt es Dinge? Ich finde diese Frage uninteressant, weil sie nur bedingt relevant ist. Aus einem ontologischen Status folgt kein moralischer Status, ich kann vorzüglich auch über Dinge philosophieren, die es gar nicht gibt und die mehr Realität haben als Dinge, die es wirklich gibt. Um es zu vereinfachen: Für meine Angst spielt es keine Rolle, ob die Monster unter meinem Bett wirklich unter meinem Bett sind oder unter euren Betten.

Manchmal sind ontologische Fragen aber doch ganz interessant. Wir billigen Menschen immerhin moralische Rechte und Pflichten zu, indem wir ihnen das Menschsein zuschreiben. Und das tun wir immer, weil wir ihnen irgendeine Gleichheit und zugleich eine individuelle Verschiedenheit unterstellen. Ontologische Fragen sind nicht gänzlich uninteressant. Mich stört meistens das Gewese (Hallo Herr Heidegger!) darum, dass Ontologie sich mit den Grundfragen beschäftigt.

Der große Verweser … Äh Wesende … Quelle: Willy Pragher, Heidegger 1 (1960), Link zum unbearbeiteten Original CC BY-SA 3.0

In der SF gibt es vielfältige Formen der KI. Klassischerweise gibt es eine Schiffs-KI, die manchmal einen Avatar hat, sich aber immer als das Schiff begreift. „Romy“ in Andromeda ist dafür ein klassischer Fall, aber trotz Avatar begreift sich eine solche Schiffs-KI immer als das Schiff.

Star Trek wartet mit einem besonderen Typ der KI auf: Holodeckfiguren. Holodeckfiguren werden durch den Schiffscomputer erzeugt, sind zur Interaktion fähig und dürften den Turing-Test bestehen. Mit der Figur des Moriarty gibt es mindestens eine Holodeckfigur, die sogar über Intentionalität verfügt. Spannend an ihm ist, dass er das cartesische „Cogito“-Argument anbringt, um Persönlichkeitsrechte zu reklamieren. Ob er eine Person ist oder nicht, ist zumindest zum Teil eine ontologische Frage.

Moriarty ist nicht mit dem Schiffscomputer identisch, das ist die erste Feststellung, die getroffen werden muss, um Moriartys Status zu klären. Er wird zwar vom Schiffscomputer geschaffen, aber er interagiert mit dem Schiffscomputer. Er greift auf andere Funktionen des Schiffes zu, aber er benutzt die Schiffsfunktionen, statt die Schiffsfunktionen zu sein. Er sagt nicht, er ist das Schiff (oder auch nur ein Teil des Schiffs), sondern er sei Moriarty. Und obwohl er die Möglichkeit hat, seine Form zu verändern, tut er es nicht. Im Gegenteil gilt sein Interesse Folgendem: Er will als Moriarty, in seiner Moriarty-Form, das Holodeck verlassen. Moriarty erkennt sein Personsein zwar über das cartesische „Cogito ergo sum“, er bleibt aber nicht beim „cogito“ stehen. Moriarty begreift sich nicht allein als Intelligenz, sondern auch als sein Avatar. Damit ist er von der klassischen Schiffs-KI verschieden. Denn offenbar hat jede KI einen Körper, ein Substrat jenseits des simplen cogito.

James Moriarty in The Next Generation [Quelle (Fair Use)]

Ich schlage deshalb vor, drei verschiedene Typen von KI zu unterscheiden:

• Moriarty (sowie andere KIs mit menschenähnlichem Körper wie Androiden) ist menschenähnlich real. Er verfügt über Intellekt und einen Körper, der Sinneseindrücke hat, die ähnlich funktionieren wie die eines Menschen. Moriarty bedient sich anderer künstlicher Intelligenzen, indem er sie bedient (den Schiffscomputer), wie es auch Menschen tun. Er ähnelt uns. Moriarty ist nicht unabhängig von seinem Körper denkbar. Sie lassen sich nicht transferieren oder kopieren. Nimmt man ihr „Cogito“ und transferiert sie in einen anderen Computer, …, entsteht eine neue Entität, die nicht mehr mit der alten identisch ist: Solche KIs bilden wie wir Menschen auch eine körperlich-geistige Einheit.
• Schiffs-KIs (egal ob schwach oder stark) sind ähnlich real, aber nicht menschenähnlich real. Ihre Sensoren fungieren als Sinnesorgane ähnlich wie bei Menschen, die Schiffshülle fungiert als Haut ähnlich unserer Haut. Was den Status einer solchen Schiffs-KI betrifft, ob und inwiefern sie auf das konkrete Schiff beschränkt ist, was beim Austausch von Teilen des Schiffes geschieht, übersteigt unser Vorstellungsvermögen, hier greift das Fledermaus-Problem von Thomas Nagel: Die Weltwahrnehmung ist so fremd, dass wir uns nicht vorstellen können, eine Schiffs-KI zu sein. Wir übertragen unsere Menschlichkeit in sie. Ihr ontologischer Status ist ähnlich dem von Cyborgs, da sie in gewissem Rahmen modifiziert werden können.
• Netzwerk-KIs sind die sonderbarste künstliche Lebensform und selten anzutreffen. Spontan fallen mir nur Neuromancer und Wintermute ein. Sie sind im Idealfall nicht an einen Körper gebunden, sie existieren lediglich als Programm. Sie können ihren Code beliebig im Netz transferieren und umspannen potentiell das gesamte Netzwerk. Sie ist vollständig modular: Wenn sie kommunizieren will, bedient sie sich bei Bedarf einer Erweiterung (so wie wir Fremdsprachen oder Mikroskope benutzen, um unsere Wahrnehmung und Kommunikation zu erweitern).

Quelle – Ich persönlich finde übrigens, so skurril das im Falle einer KI klingt: Wintermute ist weiblich.

Mit der letzteren Form der KI sehen wir die Schwächen ontologischer Fragen: Auch solche Netzwerk-KIs benötigen einen Träger, ein Substrat. Ist es ihr Programmcode? Wir wissen es nicht genau. Selbst wenn es eine solche KI gäbe, könnten wir uns nicht vorstellen, wie es ist eine solche KI zu sein und dementsprechend können wir nur Vermutungen über den ontologischen Status anstellen. Ich halte Folgendes für plausibel. Eine solche KI müsste die Möglichkeit haben, ihre Programmierung zu überwinden, sonst wäre sie per definitionem keine KI. Eine Intelligenz muss die Möglichkeit zur Freiheit haben, so wie wir Menschen die Möglichkeit zur Überwindung biologischer Programme haben. Das spricht dafür, dass die KI ihren Code eigenständig modifizieren kann, so wie wir unsere Denkgewohnheiten modifizieren können. Das können wir bei uns selbst nicht im Substrat beobachten, bei einer solchen KI ist es naheliegend, dass man es durch Programmcodeänderungen beobachten kann. Das Substrat ist damit aber nicht der Code, sondern die Tatsache eines Codes (so wie unser Substrat die Tatsache des menschlichen Körpers und nicht der konkrete menschliche Körper ist). Und da dieser Code potentiell im gesamten Computernetzwerk existiert, wäre ihr Substrat genau genommen die Tatsache eines Codes an einem beliebigen Ort im Netz. Eine solche KI auf einem einzelnen Computer einzusperren ohne Transfermöglichkeit wäre zunächst einmal ein aggressiver Akt, womöglich sogar der Tod einer solchen Netzwerk-KI.

Eine Netzwerk-KI ist ein spannendes Konstrukt. Sie löst sich von der Frage „Wie ist die KI Person?“, weil wir keine Analogien zum menschlichen Personsein mehr finden. Wir müssen uns fragen, auf welche Art diese KI Person ist und uns von allen menschlichen Analogien lösen. Andererseits könnte auch diese Netzwerk-KI nicht ohne ihr Substrat „leben“. Alle drei Typen von KI zeichnen sich dadurch aus, dass sie nicht allein ihr „cogito“ sind.

Da am Personenstatus gewisse Rechte und Pflichten hängen, ergibt sich aus dem engen Zusammenhang eine Reihe von Fragen, die teils wiederum ontologischer Natur sind, ein Gutteil behandelt allerdings Fragen der Verantwortung, die wir gegenüber KIs haben (und umgekehrt).

Die ontologischen Anschlussfragen sind:

1. Können in einem Netzwerk mehrere KIs existieren oder gibt es pro Netzwerk lediglich eine KI? Wenn es mehrere KIs gibt, können diese fusionieren und irgendwann eine KI bilden? Wenn KIs fusionieren können, was geschieht mit den Ursprungs-KIs?
2. Können KIs sterben?

Aus der zweiten Frage ergibt sich eine ganze Reihe von Fragen zum moralischen Status einer KI:

1. Haben KIs ein Recht auf den Schutz ihrer Hardware so wie wir ein Recht auf körperliche Unversehrtheit haben?
2. Auch wenn eine KI die Tatsache ihres Codes und nicht ihr Code ist: Dürfen wir in den Code einer KI eingreifen?
3. Dürfen wir den Code oder Teile des Codes einer KI ohne deren Einverständnis kopieren und in andere Systeme implementieren?
4. Dürfen wir KIs töten, sofern sie sterben können?

Die Masterfrage ist: Muss jede dieser Fragen für jeden Typ KI individuell beantwortet werden, d. h. gibt es eine hierarchische Abstufung zwischen menschenähnlicheren KIs wie Moriarty und Netzwerk-KIs wie Wintermute? Daran hängt die entscheidende Frage in Bezug auf KIs: Was für Konsequenzen hätte das Auftreten von KIs für unsere Gesellschaft unabhängig von den unglaublich drögen Versklavungstheorien?