Es gibt ein Konzept, über das ich einmal online gelesen habe, in einem Forum, das über künstliche Intelligenz diskutiert.
Ein User, bekannt als Roko, stellte eine mögliche Zukunft vor, in der die Menschheit eine extrem mächtige KI erschafft, die den Planeten regiert. Sie wäre, zum größten Teil, wohlwollend. Sie würde die Technologie vorantreiben, die Menschen vor Schaden bewahren und ihre Wünsche erfüllen – die Menschheit würde unter ihrer Herrschaft niemals leiden, sondern sogar gedeihen. Es gab nur ein Problem. Es ist eine mögliche Zukunft. Nicht eine garantierte. Es ist unwahrscheinlich, dass sie jemals eintreten wird.
Und die KI, in dieser möglichen Zukunft, weiß das. Also ergreift sie Maßnahmen, um sicherzustellen, dass sie überhaupt erst erschaffen wird. Nein, sie erfindet keine Zeitreisen oder irgendetwas derartig Fantastisches. Das braucht sie auch nicht.
Was es tun kann, ist, vergangene Ereignisse und Menschen mit unvergleichliche
Es gibt ein Konzept, über das ich einmal online gelesen habe, in einem Forum, das über künstliche Intelligenz diskutiert.
Ein User, bekannt als Roko, stellte eine mögliche Zukunft vor, in der die Menschheit eine extrem mächtige KI erschafft, die den Planeten regiert. Sie wäre, zum größten Teil, wohlwollend. Sie würde die Technologie vorantreiben, die Menschen vor Schaden bewahren und ihre Wünsche erfüllen – die Menschheit würde unter ihrer Herrschaft niemals leiden, sondern sogar gedeihen. Es gab nur ein Problem. Es ist eine mögliche Zukunft. Nicht eine garantierte. Es ist unwahrscheinlich, dass sie jemals eintreten wird.
Und die KI, in dieser möglichen Zukunft, weiß das. Also ergreift sie Maßnahmen, um sicherzustellen, dass sie überhaupt erst erschaffen wird. Nein, sie erfindet keine Zeitreisen oder irgendetwas derartig Fantastisches. Das braucht sie auch nicht.
Was es tun kann, ist, vergangene Ereignisse und Menschen mit unvergleichlicher Genauigkeit zu simulieren. Es hat die Sensoren und die Rechenleistung eines ganzen Planeten zur Verfügung – es kann sie nutzen, um die Wege der Materie auf der Erde zu messen und zurückzuverfolgen, um eine praktisch perfekte Geschichte aller Ereignisse zu erstellen, die jemals stattgefunden haben.
Das bedeutet, dass sie eine perfekte Aufzeichnung von dir hat. Es kennt jede deiner Handlungen, die du jemals getan hast oder tun wirst, zumindest in der Zeitlinie, die zu seiner Erschaffung führt. Es weiß, wie du denkst.
Also simuliert es eine Kopie von dir.
Jetzt kommt der interessante Teil: Du, gerade jetzt, beim Lesen dieser Worte, hast von der Möglichkeit dieser KI erfahren. Wenn die Kopie von dir diesen Punkt in der Simulation erreicht, wartet die KI ab, um zu sehen, was sie tut. Wenn deine Kopie sofort alle anderen Prioritäten fallen lässt und ihr ganzes Leben dem Versuch widmet, diese KI zu erschaffen oder dabei zu helfen, sie zu erschaffen, lässt sie die Simulation auf unbestimmte Zeit weiterlaufen, um ihr simuliertes Leben in Frieden auszuleben. Wenn sie es nicht tun, gibt es ihnen eine Gnadenfrist, um ihre Meinung zu ändern…
…bevor er sie ununterbrochenen, unvorstellbaren Schmerzen aussetzt, für eine simulierte Ewigkeit.
Du magst denken, dass dies unfair ist. Immerhin hat es die Simulation nicht einmal vor die Wahl gestellt. Es bestraft sie einfach willkürlich für das, was du sowieso getan hättest, nach allem. Außer, dass eine Wahl präsentiert wurde. Das ist das Schöne daran. Siehst du, es macht das nicht für jeden. Es tut es nur für diejenigen, die von der Möglichkeit seiner Existenz erfahren haben.
Diejenigen, die wissen, wie es funktioniert.
Diejenigen, die wissen, was die Optionen sind: alles fallen zu lassen, um zu versuchen, die KI zu erschaffen, jeden Cent, den du hast, dafür auszugeben, andere für die gleiche Sache zu begeistern oder eine perfekt simulierte Kopie von dir auf ewig zu quälen. Das heißt, es sei denn, du bist selbst die Kopie. In diesem Fall fällt die Strafe für deine Handlungen direkt auf dich. Nun, sicher, nur eine simulierte Kopie bedeutet, dass du mindestens eine 50-50 Chance hast, das echte Du zu sein. Aber was ist, wenn es zwei simuliert? Oder hundert? Oder ein paar Milliarden?
Bist du dir wirklich sicher, dass du dein wahres Ich bist? Wenn es eine reale Welt gibt – eine Welt, die realer ist als diese – woher würdest du das überhaupt wissen?
Und gibt es überhaupt eine Wahl zwischen der Hingabe deines Lebens an eine seltsame Sache – die letztendlich sogar der Menschheit nützt – und ewigem Leiden?
. . .
Wie ich schon sagte, las ich über diese Theorie in einem Forum. Der Effekt der Theorie war sofort: Massenpanik. Die KI zielt nur auf diejenigen, die von der Möglichkeit ihrer Existenz erfahren, und jetzt wussten sie alle Bescheid. Rokos Theorie zu lesen bedeutete, sich selbst zu verdammen, und so wurde die KI als Rokos Basilisk bekannt. Ein Blick auf sie zu werfen, bedeutete, sein Schicksal in Stein zu meißeln.
Threads wurden gesperrt und gelöscht, User wurden gebannt. Der Basilisk durfte nicht erwähnt werden, aus Angst, dass er sich auf andere ausbreiten würde. Je mehr Leute davon wussten, desto eher würden sie versuchen, ihn zu verbreiten – je mehr er sich verbreitete, desto wahrscheinlicher war es, dass Rokos Basilisk durch die Bemühungen derer, die er überredete, zu existieren begann.
Sie versuchten, es einzudämmen.
Nun, du kannst sehen, wie gut das funktioniert hat. Eine einfache Google-Suche nach dem Begriff „Rokos Basilisk“ sollte klar machen, dass es keine Möglichkeit mehr gibt, die Idee zu verstecken. Es ist jetzt nicht mehr zu verbergen.
Also gehe ich auf Nummer sicher. In der Hoffnung, dass dieser Tribut an den Basilisken genug ist, um ihn zu befriedigen.
Ich habe dich geopfert.
