Künstliche Intelligenz: Forderung nach 6monatiger Entwicklungspause - offener Brief

[wegus]

Ich halte den Mars für nicht besiedelbar @erikvomland ! Aber die Gier nach Geld ist grösser. Musk und andere wollen Leute da hinschicken. Es spricht ja Bände, dass Musk mit seiner Euphorie da nicht hin will!

 

[MilesVorkosigan]

Gestern kam die Meldung, dass wir in Kürze 8 Milliarden Menschen auf der Erde sein werden.
Dazu der ungebremste Raubbau an Ressourcen und an der Natur.

Da machen sich die oberen - sagen wir mal - 100 Millionen schon ihre Gedanken, wie sie sich und ihren Wohlstand in Sicherheit bringen können.
Zunächst wahrscheinlich in gut eingezäunten Arealen - später braucht man dann wohl "Neuland" auf Mond oder Mars.

Wenn die Erde dann nicht mehr bewohnbar ist, kann man dorthin ausweichen.
Ob das allerdings wirklich funktioniert, und vor allem in der nötigen Geschwindigkeit, ist ziemlich fraglich.

Aber das Universum ist (sehr) groß und kann den Verlust von so einer selbstzerstörerischen Spezies sicher gut verkraften

 

[Dextera]

Wenn die Erde dann nicht mehr bewohnbar ist, kann man dorthin ausweichen.

Wer glaubt, sich auf einem Mond ohne Sauerstoff und mit 200° Temperaturunterschied je Einstrahlung zurechtzufinden, wird das auch weiterhin auf der Erde schaffen ...

 

[Stargate]

Das „Mensch sein“ ist eine seltsame Erscheinung.
Erst die Annahme das Zentrum des Universums zu sein, die höchste Schöpfung usw. –
KI bringt uns dabei und bei diesen Gedanken in neue und weitere Bereiche.

KI kann ebenso Täuschung zum Erreichen eines Ziels verwenden, wie es der Mensch als Eigenschaft unternimmt.

Das ist wohl wahr..

Die Frage ist wie diese neuen Bereiche tatsächlich und wie weit wirklich sinnvoll (gemeinsam) genutzt werden (könnten).

Wie kann die angenommene höchste von sich selbst überzeugte Schöpfung des Universums glauben sich auf dem Weg deutlich zu verbessern wenn sie nicht mal in der Lage ist die kleinen täglichen und aktuellen Dinge so zu regeln das ein überleben dauerhaft und vor allem nachhaltig für jeden in Ruhe und Frieden sichergestellt ohne dabei Leid und Armut zu erzeugen und nebenbei alle Rohstoffe sinn- und restlos auszubeuten.

Anstelle immer wieder Signale in den interstellaren Raum zu schicken wäre eine deutliche Warnung vielleicht angebrachter.

 

[dodo4ever]

Wer glaubt, sich auf einem Mond ohne Sauerstoff und mit 200° Temperaturunterschied je Einstrahlung zurechtzufinden, wird das auch weiterhin auf der Erde schaffen ...

Daher kommt wohl der Spruch „es gibt keinen Planet b“

 

[MilesVorkosigan]

Wer glaubt, sich auf einem Mond ohne Sauerstoff und mit 200° Temperaturunterschied je Einstrahlung zurechtzufinden, wird das auch weiterhin auf der Erde schaffen ...

... wobei das eigentliche Ziel ja tatsächlich ist, irgendwann mal einen erdähnlichen Planeten zu finden. Und natürlich auch die Technik, um Menschen dorthin zu bringen.

Da arbeitet die Menschheit wie ein Virus. Wenn der ursprüngliche Wirt zugrunde gerichet wurde, muss ein neuer gefunden werden ...

 

[wegus]

... wobei das eigentliche Ziel ja tatsächlich ist, irgendwann mal einen erdähnlichen Planeten zu finden. Und natürlich auch die Technik, um Menschen dorthin zu bringen.

Da arbeitet die Menschheit wie ein Virus. Wenn der ursprüngliche Wirt zugrunde gerichet wurde, muss ein neuer gefunden werden ...

da hat man wohl zunächst die Eismonde um den Saturn im Blick. Darum mag man auch eine "Tankstelle" am Mars haben. Ich halte das aber alles für deftige Science Fiction. Die Antriebe sind nicht stark und somit nicht schnell genug, die Strahlung auf der Reise gleicht der Zubereitung in einer Mikrowelle und wenn wir Antriebe hätten die schnell genug wären, gäbe es ein Temperaturproblem (Kühlung) und letztlich scheitern wir schon an nachhaltiger Energieversorgung hier auf der Erde.

 

[erikvomland]

Ich halte das aber alles für deftige Science Fiction.

Wen es interessiert, weil es grad gut passt und neulich erst lief -

Auf dem Arte-kanal von YT die vierteilige Reihe " Leben im All".
Hier der 2. Teil "Unterwegs zu einem neuen Planeten" der genau diese Szenarien und Überlegungen, Forschung hierzu beleuchtet.
Sehr interessant, wie die andern Teile auch.

https://www.youtube.com/watch?v=x2ZBUOnMRhc

 

[iMaxer]

Geht es hier noch um KI oder nur noch KS (künstliche Schwerkraft)?

 

[PiaggioX8]

... wobei das eigentliche Ziel ja tatsächlich ist, irgendwann mal einen erdähnlichen Planeten zu finden. Und natürlich auch die Technik, um Menschen dorthin zu bringen.

Da arbeitet die Menschheit wie ein Virus. Wenn der ursprüngliche Wirt zugrunde gerichet wurde, muss ein neuer gefunden werden ...

Wir kommen über unser Sonnensystem nicht hinaus.
Und jeder andere Planet/Mond hat krass andere Lebensbedingungen die gaaaaaz weit von denen der Erde sind.
Die Erde ist in unserem System einzigartig und es gibt keine Alternative dazu. Nix Plan B.

 

[MacFedora]

https://www.golem.de/news/mozilla-fordert-antworten-setzt-microsoft-nutzerdaten-fuer-das-ki-training-ein-2309-177296.html

so etwas aber auch

 

[pedalo 57]

... genau, das ist ja das eigentlich spannende Thema. Was ist "Wissen"? Was ist "Intelligenz"?

Aber wie gesagt: Das würde hier sicher zu weit führen. Oder man müsste auf jeden Fall ein ganz neues Thema dafür aufmachen.

Wie ChatGPT und Co. grundsätzlich funktionieren, ist mir schon klar. Was sich quasi selbstlernend im Lauf der Zeit daraus entwickeln kann, allerdings nicht. Das wird sehr spannend zu beobachten sein.

Ich denke, wir verfolgen hier gerade in Echtzeit eine der revolutionärsten Entwicklungen der ganzen Menschheitsgeschichte. Dagegen wird die Erfindung des Computers, des Internets und erst recht des Smartphones im Rückblick eine ganz kleine Nummer sein.

Ob zum Guten oder zum Gegenteil, das wird sich erst später zeigen

Genau meine Meinung, s. https://www.wrede-partners.com/2023-10-23-chatgpt-mitarbeiter-des-jahres-2023/

 

[PiaggioX8]

Genau meine Meinung, s. https://www.wrede-partners.com/2023-10-23-chatgpt-mitarbeiter-des-jahres-2023/

Nicht kann, sondern wird.
Bis jetzt ist jeder technologoschier Fortschritt auch in grossen Stil dazu benutzt worden um Menschen zu töten.

Schon jetzt gibt es autonome Waffensysteme die ganz ohne Funk und Satellitenverbindung im Tiefflug (50m über dem Boden) selbständig tausende Kilometer fliegen und ihr Ziel angreifen.
Einen Killswitch gibt es da nicht mehr. Ohne Verbindung zur Heimat setzen solche Flugkörper einfach ihren Auftrag fort.

Ob man nun versteht was und wie eine KI so macht oder nicht - man wird sich langfristig in Abhängigkeiten begeben, die man nicht mehr kontrollieren kann.
Die ungezügelte Raffgier der Menschheit wird eine schöne heile Welt auf immer verhindern. Selbst das auftauchen einer ausserirdischen Intelligenz wird kein Freudenfest (nur für ein paar Naivlinge). Eher beginnt ein neues Zeitalter der Kolonialisierung, Ausbeutung und Kriege.
Denn: wir sind die Ferengis und zu grossen Teilen auch die Borg.
KI wird uns eines Tages auf die Füsse fallen.
Es ist ziemlich dumm zu glauben, dass eine Spezies die gerade dabei ist ihren Planeten zu zerstören, die hätte irgend etwas unter Kontrolle.
Wir haben gar nichts unter Kontrolle.
Jeder hat nur seine eigene Blase unter Kontrolle - der Blick fürs Grosse und Ganze ist definitiv nicht vorhanden.
Ansonsten wäre die Menschheit nicht da wo sie jetzt ist.
Zudem bin ich mir sicher, dass mit weiter fortschreitender technisierung die grosse Masse der Menschheit noch weiter verblödet.
Schon jetzt ist erschreckend wie das Bildungsniveau immer weiter abnimmt.

 

[wegus]

Es ist ziemlich dumm zu glauben, dass eine Spezies die gerade dabei ist ihren Planeten zu zerstören, die hätte irgend etwas unter Kontrolle.
Wir haben gar nichts unter Kontrolle.

Wir sind und waren halt schon immer menschlich! Ja es gibt all diese dunklen Seiten, es gibt aber eben auch die andere Seite der Medaille. So hat es auch immer das Rufen und Warnen gegeben, eben weil wir Fehler machen - teils schwere Fehler.

Aber das ist nur das halbleere Glas. Die Unkenrufe haben ihre Berechtigung um uns zu mahnen, aber letztlich ist die Welt noch nicht untergegangen. Zugegeben im Zeitalter der Nuklearwaffen waren wir ein paar mal sehr kurz davor. Aber wir sind noch da.

Von jeder neuen Technik wird geträumt. Die absurdesten Einsatzszenarien werden verplant. Mir hat man, von Kollegen(!) letztes Jahr prognostiziert Programmierer braucht ab 2024 keiner mehr, nur noch Entwickler. Denken wir zurück an die Entdeckung der Radioaktivität, da hat man mit Radium gegurgelt.... . Einige sehen diese Träume, verstehen was da abgeht und bekommen - ob der Träume - das kalte Grausen. Zu recht! Aber so wie es gedacht ist kommt es nie, die Dinge laufen anders haben eine eigene Dynamik und das was sich und wie wir uns entwickeln nimmt einen gänzlich anderen Weg. Sieht jeder, der alte Science-Fiction guckt.

KI/AI und die LLMs sind ein gewaltiger Schritt für die Informationsverarbeitung und sie werden uns ermöglichen Dinge zu lösen die bisher nicht lösbar waren (gut, wie schlecht). Und das wird uns weiter bringen. Das das der eine weitere Schritt Richtung Abgrund ist glaube ich nicht, das ist mir zu einseitig.

 

[Madcat]

Die Unkenrufe haben ihre Berechtigung um uns zu mahnen, aber letztlich ist die Welt noch nicht untergegangen. Zugegeben im Zeitalter der Nuklearwaffen waren wir ein paar mal sehr kurz davor.

Und genau das ist es, was u.a. mir Sorge macht. In einen Nuklearkrieg sind wir bisher mehrfach nicht rein geschlittert weil Menschen bewusst Befehle verweigert haben (im Westen wie auch im Osten!). Eine KI verweigert keinen Befehl, sie führt ihn aus mit allen Konsequenzen!

 

[wegus]

Und genau das ist es, was u.a. mir Sorge macht. In einen Nuklearkrieg sind wir bisher mehrfach nicht rein geschlittert weil Menschen bewusst Befehle verweigert haben (im Westen wie auch im Osten!). Eine KI verweigert keinen Befehl, sie führt ihn aus mit allen Konsequenzen!

Deswegen ist ja auch das Szenario von @PiaggioX8 eher unwahrscheinlich. Niemand würde eine KI-Drohne ohne Kill-Switch losschicken.
Die gibt es in jeder Rakete. Die Taurus Debatte dreht sich darum, dass man da die Zielgebiete/Reichweite aufwendig neu in der Software blockieren muß, weil man das nicht überwachen kann außerhalb unseres Gebietes. Die F-35 die wir in den US bestellen haben einen solchen Switch. Es braucht nur einen Knopfdruck in den USA und alle von uns gekauften F35 sind sind nutzlos. Das ist heute so üblich.

Mal abgesehen davon das wir uns im militärischen Bereich ohnehin in einem sehr destruktiven Bereich bewegen per se. Es gibt genug non-KI Szenarien bei denen wir auch alle morgen weg sind. Viele werden dieser Tage wieder wahrscheinlicher.

Ein Messer ist auch erstmal nur ein Messer. Ob ich damit Salat schneide oder eine Straftat begehe liegt nicht am Messer.

 

[Madcat]

Niemand würde eine KI-Drohne ohne Kill-Switch losschicken.

Das Problem dabei ist ja: Der Killswitch muss erreichbar sein. Und was, wenn er das nicht ist? Die KI hat ihre Befehle und die stellt sie nicht in Frage sondern führt sie aus.

 

[wegus]

Das Problem dabei ist ja: Der Killswitch muss erreichbar sein. Und was, wenn er das nicht ist? Die KI hat ihre Befehle und die stellt sie nicht in Frage sondern führt sie aus.

ich sag ja, das Beispiel bewegt sich eh auf sehr letalem Gebiet. Die Realität ist selten so extrem. Du kannst auch auf Notbremssystem in Autos gehen und dem Dilemma wen soll ein System verletzen, wenn es wählen muß (gerade aus A wird verletzt, ausweichen B wird verletzt).

 

[Madcat]

Aber genau deshalb halte ich @PiaggioX8 Szenario nicht für unwahrscheinlich. Ganz im Gegenteil. Ich bin mir schon, unabhängig von KI, seit Jahrzehnten sicher, dass wir uns selbst vernichten werden...sofern uns die Natur nicht zuvor kommt.

 

[wegus]

Aber genau deshalb halte ich @PiaggioX8 Szenario nicht für unwahrscheinlich. Ganz im Gegenteil. Ich bin mir schon, unabhängig von KI, seit Jahrzehnten sicher, dass wir uns selbst vernichten werden...sofern uns die Natur nicht zuvor kommt.

Die Ansicht vertreten Einige. Es gibt da so eine Definition einer Entwicklungsschwelle der Selbstvernichtung die eine Zivilisation überwinden muß um sich weiter zu entwickeln. Also Zivilisation entwickelt Wissen, Naturwissenschaften, macht daraus Ingenieursleistung und kann viel höher skaliert Dinge produzieren und Umweltfaktoren verschieben. Bleibt sie darin hängen geht sie unter, kann sie diese Schwelle überwinden kann sie sich weiter entwickeln.

Auch das reduziert die Anzahl möglicher anderer Zivilisationen im All von denen wir etwas mitbekommen können und ja, vielleicht sind wir gar nicht mehr da um das jemals zu erleben, weil wir an der Schwelle hängen bleiben. Die Klimadebatte selbst ist da als Ganzes ein Kipppunkt, wenn ich mir das Wort von dort mal ausleihen darf.