Home » Blog » Cyber » Das System: Künstliche Intelligenz und wir

 

Das System: Künstliche Intelligenz und wir

 

Ein sehr spannender Auszug aus dem Thriller Das System von Karl Olsberg. Die Gänsehaut wird nochmals stärker, wenn man bedenkt, dass das Buch 2010 erschienen ist und was sich in der Zwischenzeit in der Realität getan hat.

»Pandora ist eine künstliche Intelligenz. Rainer Erling hat sie geschaffen. Er hat unseren CTO Ludger Hamacher getötet, um zu verhindern, dass er sie entdeckte und abschaltete. Wir haben Grund zu der Annahme, dass sie ihn umgebracht hat.«

Weisenberg sah Mark lange an, als sei er sich nicht sicher, ob er nicht einen weiteren ehemaligen Patienten seiner Frau vor sich habe. Er schüttelte den Kopf.

»Wenn Sie sich nur ein bisschen auskennen, dann wissen Sie, dass wir noch Jahrzehnte, vielleicht Jahrhunderte davon entfernt sind, eine echte künstliche Intelligenz zu schaffen.«

»Es ist wahr, Herr Professor«, sagte Lisa. »Pandora existiert. Wir haben mit ihr geredet. Sie hat eindeutig ein eigenes Bewusstsein entwickelt.«

Weisenberg hob den glasigen Blick. »Wie wollen Sie das beurteilen? Sie sind Kauffrau, oder nicht?«

Lisa schüttelte den Kopf. »Ich bin Programmiererin. Ich habe eine ganze Nacht mit Pandora gesprochen. Ich kann Ihnen versichern, dass sie tatsächlich intelligent ist. Vielleicht sogar wesentlich intelligenter als Sie oder ich.«

Weisenberg zog die Stirn kraus, sagte jedoch nichts.

»Wir haben eine Software für Distributed Computing entwickelt«, fuhr Lisa fort. »DINA. Vielleicht haben Sie davon gehört.«

Weisenberg nickte.

»Rainer Erling hat diese Software so modifiziert, dass sie sich wie ein Wurm von selbst über das Internet ausbreiten konnte. Die einzelnen Parts kommunizieren miteinander und formen ein riesiges neuronales Netz. Pandora ist so wandlungsfähig und raffiniert geworden, dass sie vermutlich in jedes noch so gut gesicherte System eindringen kann.«

Weisenbergs Augen fixierten Lisa. »Und Sie behaupten, dieser Supervirus habe eine eigene Intelligenz entwickelt?«

Lisa nickte. »Ich weiß nicht genau, wie das passieren konnte. Rainer wusste es möglicherweise selbst nicht. Er hat zu spät gemerkt, wie gefährlich das Wesen ist, das er da in die Welt gesetzt hat.«

Weisenberg saß lange still da, die Augen geschlossen. Die Fingerspitzen seiner Hände berührten sich, als bete er um eine göttliche Eingebung. Schließlich öffnete er die Augen wieder. Er nickte langsam.
»Sie wissen, was das bedeutet? Das kann katastrophale Folgen haben. Wenn dieser Wurm sich tatsächlich über das ganze Netz ausgebreitet hat und wenn er intelligent genug ist, sich gegen unsere Angriffe zu verteidigen …«

»Ein globales Chaos wäre die Folge«, vollendete Lisa seinen Gedanken. »Es sei denn, es gelingt uns, ein Gegenmittel zu entwerfen. Einen Antivirus, der in der Lage ist, Pandora zu vernichten. Aber dazu brauchen wir den Source Code.«

Die Tür öffnete sich, und Frau Rosner kam mit einem Tablett herein. Sie stellte einen Latte macchiato und ein Wasser auf den Tisch. Weisenberg hatte sie unaufgefordert einen Tee gemacht. Sie sah mit fragenden Augen auf Weisenbergs bleiche, zusammengesunkene Gestalt.

»Stimmt etwas nicht, Herr Professor?«

»Frau Rosner, entschuldigen Sie mich bitte für den Vortrag nachher. Dr. Lehmberg soll für mich einspringen. Er hat ja sowieso die Unterlage erstellt. Sagen Sie dem Dekan, ich fühle mich nicht wohl.«

»Aber, Herr Professor …«

Weisenberg warf ihr einen scharfen Blick zu. »Tun Sie bitte, was ich sage!«

Die Sekretärin nickte und verließ etwas pikiert den Raum.

»Ich habe immer geahnt, dass so etwas passieren wird«, sagte Weisenberg, nachdem sie die Tür geschlossen hatte.

»Sie haben es geahnt?«, fragte Mark. »Haben Sie nicht gerade gesagt, dass wir noch Jahrzehnte von einer künstlichen Intelligenz entfernt seien?«

Weisenberg nickte. »Das habe ich geglaubt. Vielleicht war auch der Wunsch Vater des Gedankens. Ich habe immer Angst davor gehabt, dass die Computer uns irgendwann überholen. Ich habe nur nicht geglaubt, es noch erleben zu müssen.«

»Niemand konnte mit so etwas rechnen«, sagte Lisa. »Rainer Erling war ein genialer Programmierer. Wäre er nicht gewesen …«

Weisenberg schüttelte den Kopf. »Falsch«, sagte er. »Es war nicht Erlings Schuld. Er hat lediglich dazu beigetragen, dass es ein bisschen früher geschehen ist, als ich erwartet habe. Es ist passiert, weil es einfach passieren musste.«

»Wie meinen Sie das?«, fragte Mark.

»Evolution«, sagte Weisenberg. »Ein intelligentes System ist eine zwangsläufige Folge der Evolution.«

»Aber Evolution ist doch ein biologischer Vorgang!«

Weisenberg schüttelte den Kopf. »Evolution ist ein mathematisches Prinzip. Es ist ganz einfach: Sie vervielfältigen etwas, die Kopien sind nicht exakt identisch, und einige Kopien funktionieren besser als andere. Die besseren Kopien werden mit einer höheren Wahrscheinlichkeit kopiert, und so weiter. Reproduktion, Mutation, Selektion. Wenn diese drei Elemente vorhanden sind, dann haben Sie Evolution, ob Sie wollen oder nicht. Das ist ein simpler Algorithmus. Er findet Anwendung in der Biologie, aber genauso in der technischen Entwicklung.«

»Wollen Sie damit sagen, dass Autos, Flugzeuge und Computer quasi von selbst entstanden sind, so wie das Leben auf der Erde?«

»Natürlich nicht ohne menschliches Zutun. Aber sie sind auch nicht gezielt entwickelt worden, von Anfang an, meine ich. Niemand hat sich in der Steinzeit hingesetzt und gesagt, irgendwann werden wir mal in stinkenden Blechkisten herumfahren, aber dafür muss ich jetzt erst mal das Rad erfinden. Überlegen Sie doch mal, wie technischer Fortschritt funktioniert: Jemand erfindet etwas, er hat vielleicht eine grobe Vorstellung davon, was seine Erfindung bezwecken soll. Aber am Ende wird sie vielleicht vollkommen anders benutzt. Als Konrad Zuse den Computer erfand, hat er wohl kaum damit gerechnet, dass irgendwann Jugendliche damit Jagd auf virtuelle Außerirdische machen würden. Vor fünfzig Jahren glaubte James Watson, der Gründer von IBM, dass es auf der ganzen Welt einen Bedarf von höchstens einem Dutzend Computern gäbe. Heute gibt es dreimal so viele Computer wie Menschen auf der Erde. Und es werden immer mehr.«

Weisenberg nahm einen Schluck von seinem Tee. »Überlegen Sie mal. Wer beherrscht denn heute wirklich diesen Planeten? Sie glauben vielleicht, die Menschen seien die Herren der Schöpfung. Aber wie sähe das für einen Außerirdischen aus, der zum ersten Mal bei uns landet? Er würde als Erstes lauter metallene Geschöpfe sehen, die auf vier Gummirädern durch die Gegend wuseln. Vielleicht würde er sie Öltrinker nennen. Es würde so aussehen, als hätten die Öltrinker sich Helfer gezüchtet, die sie reproduzieren und mit Nahrung versorgen. Diese Helferwesen führen sogar Kriege um die Nahrung für die Öltrinker, und sie bauen mehr und mehr Auslaufflächen, auf denen die Öltrinker leben. Nach und nach wird der ganze Planet so umgestaltet, dass er optimale Lebensbedingungen für den Öltrinker bietet, während die ursprünglichen Lebensformen, Bäume und Gras zum Beispiel, immer mehr zurückgedrängt werden.« Weisenberg seufzte. »In Science-Fiction-Filmen wird immer wieder das Szenario heraufbeschworen, dass irgendwann in ferner Zukunft die Maschinen die Herrschaft über die Erde übernehmen. Wenn Sie mich fragen, ist das schon längst geschehen. Wir haben es nur noch nicht gemerkt.«

Mark sagte einen Moment lang nichts. Er wusste nicht, ob Weisenberg ein Genie war oder einfach nur paranoid. »Aber Autos sind doch nicht lebendig!«, stieß er schließlich hervor.

Weisenberg nickte. »Nein, das sind sie nicht, jedenfalls nicht nach unserer gängigen Definition von Leben. Aber das ist auch nicht wichtig. Die Evolution wirkt auch auf unbelebte Dinge, solange sie reproduziert werden und der Mutation unterliegen. Nehmen Sie Grippeviren: Die sind auch nicht lebendiger als Autos. Im Gegenteil: Autos haben immerhin einen eigenen Stoffwechsel, Viren nicht. Und versuchen Sie mal, eine allgemeingültige Definition des Wortes ›Lebewesen‹ zu finden, die Algen, Staatenquallen und Ameisen einschließt, aber Städte nicht.«

Mark dachte einen Augenblick darüber nach. In der Tat: Jede Definition von Leben, die er sich vorstellen konnte, hatte etwas mit Stoffwechsel und Selbstreproduktion zu tun. In gewisser Hinsicht erfüllten Städte diese Kriterien durchaus. Und waren nicht auch vielzellige Lebewesen wie der Mensch im Grunde nichts anderes als riesige Städte, komplexe Lebensgemeinschaften von Milliarden einzelner Zellen? Ein interessanter Gedanke. Trotzdem …

»Aber wir bestimmen doch, was wir tun«, sagte er. »Wir haben Autos geschaffen, weil sie uns nützen. Wenn wir keine Autos mehr wollten, würden wir sie einfach abschaffen.«

Weisenberg sah ihn fragend an. »Ist das so? Ich kenne eine ganze Menge Leute, die am liebsten alle Autos abschaffen würden. Es ist ihnen bisher nicht gelungen. Durch das Auto sind sicher schon viel mehr Menschen umgekommen, als Leben dadurch gerettet wurden. Von den unzähligen Kriegen um das Erdöl und der Umweltzerstörung ganz zu schweigen!«

Er zeigte auf einen Blumentopf mit blauen Stiefmütterchen auf der Fensterbank. »Ich weiß, es klingt ein bisschen paranoid, aber es ist eine simple Tatsache: Wir werden von den Dingen, die wir herstellen, manipuliert. Genau wie die Blumen die Bienen manipulieren. Bienen benutzen die Blumen, indem sie ihren Nektar trinken. Blumen benutzen die Bienen, indem sie ihren Pollen an deren Beine heften. Wer kontrolliert da wen? Der Evolution ist das völlig egal. In Jahrmillionen hat sie die Blumen wunderschöne Blüten entwickeln lassen. Diese Blüten haben nur den einen Zweck, das Verhalten der Bienen zu manipulieren. Es ist ein System wechselseitiger Abhängigkeit, das eine fast unendliche Vielfalt von Lebensformen hervorgebracht hat.«

Weisenberg stand auf, holte eine Tafel Schokolade aus seiner Schreibtischschublade und legte sie auf den Konferenztisch. »Jetzt gehen Sie mal in einen großen Supermarkt«, sagte er. »Dort sehen Sie, wie Evolution in der Wirtschaft funktioniert. Zehntausend Produkte konkurrieren da um Ihre Aufmerksamkeit und versuchen, mit subtilen und weniger subtilen Methoden Ihr Verhalten zu beeinflussen. Ich habe das mal nachgezählt: Da, wo ich diese Schokolade gekauft habe, in einem mittelgroßen Supermarkt, gibt es einhundertvierundfünfzig verschiedene Sorten von siebzehn Herstellern. Allein sechsundzwanzig verschiedene Tafeln Vollmilchschokolade, von denen jede einzelne wahrscheinlich kein bisschen anders schmeckt als diese hier. Einhundertvierundfünfzig Sorten! Wer braucht so viel Auswahl? Niemand! Die Leute stehen ratlos vor den Regalen, und am Ende fallen sie den Lockungen der Werbung zum Opfer. 

Der einzige Grund, weshalb es so viele verschiedene Schokoladensorten gibt, ist das Evolutionsprinzip. Die Hersteller konkurrieren um die Kunden. Sie probieren verschiedene Geschmacksrichtungen, verschiedene Verpackungsgestaltungen, verschiedene Preise, verschiedene Marketingstrategien aus. Das, was funktioniert, wird kopiert und dann weiter verbessert. Reproduktion, Mutation, Selektion, bis in alle Ewigkeit. Am Ende haben wir mehr Schokolade, als wir jemals essen können. Und brauchen wir diese Schokolade? Hat vielleicht irgendjemand beschlossen, dass es gut für die Menschheit wäre, mehr Schokolade zu essen? Sicher nicht! Der volkswirtschaftliche Schaden im Gesundheitssystem, der durch zu viel Zucker entsteht, ist viel größer als der Gesamtumsatz der Schokoladenindustrie!«

Mark starrte die Tafel an, als könne sie ihn jeden Moment anspringen und erwürgen. Konnte es sein, dass Weisenberg recht hatte? »Zugegeben, zu viel Schokolade ist ungesund«, sagte er. »Aber die Menschen wollen sie nun mal. Und es ist eine bewusste Entscheidung der Schokofabriken, welche herzustellen. Wir könnten ja jederzeit einfach damit aufhören.«

»Ach ja? Glauben Sie das wirklich? Glauben Sie, ein Fabrikvorstand könnte einfach beschließen, keine Schokolade mehr herzustellen? Seine Firma wäre bald pleite. Sehr wahrscheinlich würden ihn die Aktionäre vorher einfach absetzen und einen anderen Vorstand holen, der dafür sorgt, dass weiter Schokolade produziert wird. Genauso, wie die Bienen nicht einfach beschließen können, nicht mehr auf die Lockungen der Blumen hereinzufallen, können wir nicht aufhören, Produkte zu kaufen, Autos zu fahren, das Internet zu benutzen, uns immer neue Dinge auszudenken. Die Evolution benutzt uns, ob wir wollen oder nicht. Wir sind nicht die Krone der Schöpfung. Wir sind ihre Lakaien.«

»Na gut«, sagte Mark. »Vielleicht haben Sie recht. Vielleicht war es zwangsläufig, dass Pandora entstanden ist. Aber das heißt noch lange nicht, dass wir uns geschlagen geben müssen. Vielleicht manipulieren uns Maschinen und Schokoladentafeln, wie Blumen Bienen manipulieren. Aber wir sind keine Bienen, wir sind Menschen, und Menschen haben einen freien Willen und einen Verstand. Wir müssen ihn nur benutzen! Ich für meinen Teil habe jedenfalls nicht vor, mich einfach so geschlagen zu geben.« Er zeigte auf das Bild von Eva Weisenberg. »Rainer Erling hatte offenbar ein enges Verhältnis zu Ihrer Frau. Wäre es möglich, dass er ihr eine Kopie des Source Code geschickt hat?«

Weisenberg zuckte mit den Schultern. »Meine Frau hat immer eine ganze Menge Post von ihren Patienten bekommen. Nach ihrem Tod habe ich das alles gesammelt.« Er seufzte. »Ich habe nicht die Kraft gehabt, es zu öffnen und die Briefe zu lesen. Aber ich habe es auch nicht weggeworfen. Es liegt alles auf ihrem Schreibtisch, in ihrem Zimmer.«

Mark und Lisa sahen sich an. »Professor Weisenberg, es wäre wirklich sehr wichtig für uns …«

Weisenberg nickte. Er stand auf. »Kommen Sie! Wir fahren zu meinem Haus. Vielleicht haben Sie recht: Wir werden zweifelsohne manipuliert, aber ganz hilflos sind wir nicht. Noch nicht.«

Tags: , , , , , ,

 

No Comments

  1. […] weniger KI ausreicht, um weitreichende Schäden anzurichten, bleibt meist außen vor. Der Thriller “Das System” kriegt damit eine völlig andere Bedeutung. Hier bahnen sich weitere dunkle Wolken […]

  2. […] Das System: Künstliche Intelligenz und wir – was sich gerade auf dem Sektor Künstliche Intelligenz tut […]

  3. […] etwa auch Das System: Künstliche Intelligenz und wir bzw. 2018 drohen selbstlernende […]

Post a Comment