KI-Mod für Civilization V: Spielerisch mit einer künstlichen Intelligenz die Menschheit zerstören!

KI-Mod für Civilization V: Spielerisch mit einer künstlichen Intelligenz die Menschheit zerstören!

Wir hören die Propheten des Untergangs seit Jahren: die künstliche Intelligenz wird sich einiges Tages gegen uns wenden. Nicht nur in Science Fiction Werken richten sich Maschinen gegen ihre Schöpfer. Wenn schon die Pioniere des technischen Wandels wie ein Elon Musk zu Technikskeptikern mutieren, wird man nachdenklich. Egal wie man zu diesen Szenarien steht, super-intelligente KI stellt in naher Zukunft eine glaubwürdige Bedrohung für die Menschheit dar. Man muss zugeben, dass es ein Problem ist, über das man zumindest nachdenken sollte – oder hey, vielleicht kann man das spielerisch erfassen?

KI-Mod für Civilization V. (Bild: Steam/Uni Cambridge)

KI-Mod für Civilization V

Aus diesem Grund hat das Zentrum für das Studium existenzieller Risiken (CSER) der Universität Cambridge eine Modifikation des populären Strategietitels Civilization V veröffentlicht, bei der es darum geht, die Bedrohung durch super-intelligente KI zu meistern – oder eben daran zu scheitern.

CSER ist normalerweise nicht für Gaming-Projekte bekannt. Die Forschungsgruppe wurde 2012 gegründet und widmet sich der Erforschung verschiedener globaler Katastrophen, die die Zivilisation zusammenbrechen lassen oder die gesamte Menschheit auslöschen können – auch bekannt als „existentielle Bedrohungen“. Dazu gehört super-intelligente KI (eine auf Algorithmen aufgebaute, in Computer generierte Entität, das viel schlauer wird als Menschen und entscheidet, dass wir für seine Bedürfnisse irgendwie überflüssig sind), aber auch Dinge wie ein außer Kontrolle geratener Klimawandel, biotechnologische Pandemien und nukleare Katastrophen.

Die Mod basiert auf der bekannten Spielmechanik des Strategiespiels Civilisation. Ein Raumschiff startet von der Erde in Richtung Alpha Centauri zwecks Besiedlung, mit dabei Einheiten und Gebäude, die KI-Forschung ermöglichen und vor Ort ausrollen. Es gibt neue Gebäude wie KI-Forschungslabors und einen neuen Mechanismus namens KI-Risiko.

KI-Mod für Civilization V. (Bild: Steam/Uni Cambridge)

CSER-Forschungsleiter Shahar Avin erklärt:“ Während Spieler künstliche Intelligenz erforschen, um eine super-intelligente KI zu bauen und das Spiel zu gewinnen, tickt langsam ein globaler Counter namens „KI-Risiko“. Wenn der Counter ausgezählt ist, wird den Spielern gesagt, dass irgendwo auf der Welt eine bösartige KI erschaffen wurde und jeder sofort verliert. Es erfasst die Essenz unserer Forschung. Sie spielen diesen langen Bogen der Menschheitsgeschichte nach, aber alles endet, wenn Sie Ihre Technologie nicht richtig und kritisch nutzen.“

Die Superintelligenz ist schon länger ein Anliegen für eine kleine Anzahl von KI-Experten. Umfragen zeigen, dass die Meinungen weit auseinander gehen, wie gefährlich eine Superintelligenz für die Menschheit ist. Aber es besteht Einigkeit darüber, dass unsere aktuellen KI-Tools zu grob sind, um die Intelligenz von, sagen wir, einer Ratte nachzubilden – geschweige denn etwas, das klüger ist als ein Mensch. Die dringlichsten Risiken sind algorithmisch bedingte Vorurteile und durch KI betriebene Überwachung, die bereits heute weltweit implementiert wird.

Wenn man den KI-Pfad einschlägt, muss man sehr viel in sichere KI-Forschung investieren

CSERS eigener Civilization-Mod bietet Spielern einen zuverlässigen Gegenpol zu einer bösartigen Superintelligenz: mehr Forschung. Spieler können die globalen Risiken einer bösartigen Superintelligenz mindern, indem sie Ressourcen für den Aufbau von KI-Sicherheitslabors in ihren Städten einsetzen und dafür sorgen, dass die Stadtstaaten sie bauen. „Wenn Sie sich entscheiden, den KI-Pfad einzuschlagen, müssen Sie sicherstellen, dass Sie sehr viel in sichere KI-Forschung investieren“, sagt Avin. „Investitionen in KI-Sicherheit sind in gewissem Sinne uneigennützig, und wir versuchen das zu belegen mit unserer eigenen Forschung.“

Obwohl Civilization V kein ernsthaftes Forschungswerkzeug ist, betont Avin, dass das Spielen des Spiels zu einer Reihe von Einsichten und Ergebnissen geführt hat.

Es scheint eine klare Lehre für die reale Welt zu sein: Wenn wir Bedrohungen auf globaler Ebene begegnen, brauchen wir eine globale Antwort, und Kämpfe zwischen Nationen erschweren dies nur. „Ich denke, das ist das gleiche Problem, das wir mit dem Klimawandel sehen“, sagt Avin. „Es gibt diese Probleme, wo man Altruismus und eine starke internationale Zusammenarbeit braucht. Dinge, die kurzfristig scheinen, könnten sich in der Zukunft als sehr bedeutsam erweisen. “

Deutschlandfunk Kultur hat zu diesem Projekt ein spannendes Feature veröffentlicht, das man hier nachhören kann.

Hier einige interessante Links zum Thema KI:

 

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.