Künstliche Intelligenz: Forderung nach 6monatiger Entwicklungspause - offener Brief

[Madcat]

Vom aktuellen Standpunkt aus denke ich nicht, dass wir je die Entwicklungsschwelle der Selbstzerstörung überwinden werden. IMHO zeigen das auch aktuelle Entwicklungen in der Welt sehr gut wenngleich ich nicht finde, dass wir aktuell dicht vor der Selbstzerstörung stehen.

 

[lisanet]

IMHO zeigen das auch aktuelle Entwicklungen in der Welt sehr gut wenngleich ich nicht finde, dass wir aktuell dicht vor der Selbstzerstörung stehen.

Hinsichtlich KI sehe ich das auch nicht nahe.

Allerdings befürchte ich, dass der Klimawandel schneller und drastischer kommt als wir vermuten. Da spielt die dem Menschen innewohnende Eigenschaft eine große Rolle, eher auf aktuelle, schnell eintretende Bedrohungen zu reagieren, als auf zeitlich verzögert und eher langsam ablaufende Szenarien zu reagieren. vielleicht könnte man das dann im Gegensatz zu KI mit NI bezeichnen. Natürliche Ignoranz.

 

[kenduo]

Es ist halt nicht neu, dass der (moderne) Mensch Gefahren als solche erst anerkennt, wenn er davor steht. Die Jäger waren damals vorsichtiger…

 

[mcmrks]

(…) Da spielt die dem Menschen innewohnende Eigenschaft eine große Rolle, eher auf aktuelle, schnell eintretende Bedrohungen zu reagieren, als auf zeitlich verzögert und eher langsam ablaufende Szenarien zu reagieren. (…)

da denkt man doch direkt an den frosch im langsam zu kochen beginnenden wasser.

die von dir kreierte abkürzung „NI“ unterschreibe ich und man sieht sie leider in ganz vielen situationen, täglich aufs neue.

 

[PiaggioX8]

Wir sind und waren halt schon immer menschlich! Ja es gibt all diese dunklen Seiten, es gibt aber eben auch die andere Seite der Medaille. So hat es auch immer das Rufen und Warnen gegeben, eben weil wir Fehler machen - teils schwere Fehler.

Aber das ist nur das halbleere Glas. Die Unkenrufe haben ihre Berechtigung um uns zu mahnen, aber letztlich ist die Welt noch nicht untergegangen. Zugegeben im Zeitalter der Nuklearwaffen waren wir ein paar mal sehr kurz davor. Aber wir sind noch da.

Von jeder neuen Technik wird geträumt. Die absurdesten Einsatzszenarien werden verplant. Mir hat man, von Kollegen(!) letztes Jahr prognostiziert Programmierer braucht ab 2024 keiner mehr, nur noch Entwickler. Denken wir zurück an die Entdeckung der Radioaktivität, da hat man mit Radium gegurgelt.... . Einige sehen diese Träume, verstehen was da abgeht und bekommen - ob der Träume - das kalte Grausen. Zu recht! Aber so wie es gedacht ist kommt es nie, die Dinge laufen anders haben eine eigene Dynamik und das was sich und wie wir uns entwickeln nimmt einen gänzlich anderen Weg. Sieht jeder, der alte Science-Fiction guckt.

KI/AI und die LLMs sind ein gewaltiger Schritt für die Informationsverarbeitung und sie werden uns ermöglichen Dinge zu lösen die bisher nicht lösbar waren (gut, wie schlecht). Und das wird uns weiter bringen. Das das der eine weitere Schritt Richtung Abgrund ist glaube ich nicht, das ist mir zu einseitig.

Was du bei deinen Ausaführungen übersiehst: wir sind nicht die erste Kultur die durch Eigenverschulden zu Grunde geht.
ETliche Völker hats bis heute daurch schon hingerafft - und das begann schon vor tausenden von Jahren.
Der einzuge Unterschied: dies mal betrift es alle global.
Auch die Massnahmen gegen den Klimawandel und Sachen wie Tierwohl sind eine Farce.
Denn bezahlen und leiden muss arunter die grosse Masse, und nicht jene die sich an stetig steigenden Wachstum irreparabel bereichern.
Z.B. Beispiel Fleisch verteuern: wird dann wie im Mittelater - die Elite wird weiter in saus und braus leben und das Volk wird mit Gemüse und Getreide abgespeist. Der Klimaweandel wird zu einem Rückfall in feudale Zeiten führen.
Würde man einer KI den Auftrag geben diesen Planeten zu retten, würde diese rein logisch nur zu einem einzigen Schluss kommen: nämlich die invasivste und zertstörerischste Art dieses Planeten zu eliminieren, zumindest aber diese erheblich zu reduzieren, bis sie keine Gefahr mehr darstellt.

Gehen wir mal davon aus, dass KI noch wesentlich weiter entwickelt wird und auch wesentlich intelligenter wird.
Dann wird sie schon aus eigenem Selbsterhaltungstrieb dafür sorgen, dass sie niemand abschalten kann.

Im ZUge des Klimawandles wird es eh zu abermillionen Toten kommen. Denn - die reichen Industrienationen werden sich abschotten und wr im Atlanik, Pazifik oder irgndéndeiner Küste absäuft interessiert niemanden ausser den Betroffenen.
Oder juckt es jetzt schon jemanden dass Pakistan jährlich zu 1/3 absäuft und millionen auf der Fucht sind?

 

[PiaggioX8]

Deswegen ist ja auch das Szenario von @PiaggioX8 eher unwahrscheinlich. Niemand würde eine KI-Drohne ohne Kill-Switch losschicken.
Die gibt es in jeder Rakete. Die Taurus Debatte dreht sich darum, dass man da die Zielgebiete/Reichweite aufwendig neu in der Software blockieren muß, weil man das nicht überwachen kann außerhalb unseres Gebietes. Die F-35 die wir in den US bestellen haben einen solchen Switch. Es braucht nur einen Knopfdruck in den USA und alle von uns gekauften F35 sind sind nutzlos. Das ist heute so üblich.

Mal abgesehen davon das wir uns im militärischen Bereich ohnehin in einem sehr destruktiven Bereich bewegen per se. Es gibt genug non-KI Szenarien bei denen wir auch alle morgen weg sind. Viele werden dieser Tage wieder wahrscheinlicher.

Ein Messer ist auch erstmal nur ein Messer. Ob ich damit Salat schneide oder eine Straftat begehe liegt nicht am Messer.

Andersrum wird ein Schuh drauss: würde man solche Waffen erst gar nicht bauen, bräuchte es auch keinen Killswitch.

 

[wegus]

Andersrum wird ein Schuh drauss: würde man solche Waffen erst gar nicht bauen, bräuchte es auch keinen Killswitch.

Das stimmt! Aber Du wirst mir zustimmen, dass das eine nicht wahrscheinliche Entwicklung ist oder ?

 

[Madcat]

Würde man einer KI den Auftrag geben diesen Planeten zu retten, würde diese rein logisch nur zu einem einzigen Schluss kommen: nämlich die invasivste und zertstörerischste Art dieses Planeten zu eliminieren, zumindest aber diese erheblich zu reduzieren, bis sie keine Gefahr mehr darstellt.

Skynet lässt grüßen

 

[wegus]

Was du bei deinen Ausaführungen übersiehst: wir sind nicht die erste Kultur die durch Eigenverschulden zu Grunde geht.
ETliche Völker hats bis heute daurch schon hingerafft - und das begann schon vor tausenden von Jahren.

Richtig, jede Hochkultur ist auf ihrem Zenit degeneriert und zu Grunde gegangen. Ich behaupte unser Zenit waren die 1990er.

Auch die Massnahmen gegen den Klimawandel und Sachen wie Tierwohl sind eine Farce.
Denn bezahlen und leiden muss arunter die grosse Masse

Das ist ja genau das Dilemma. Eigentlich müßten wir sehr schnell und sehr radikal sein. Dann sind aber nahezu alle (ich auch) hinterher mittellos und ohne Einkommen. Ein Wandel bei dem wir uns aber alle mitwandeln braucht Jahrzehnte. Hört man die Klimaforscher haben wir maximal noch ein Jahrzehnt. Das was die Gesellschaft leisten müßte und das was sie leisten kann driftet völlig auseinander und dabei reden wir nur von unserem Land. Gelten müßte das aber global. Kurzum: wir werden den Klimawandel nur begrenzen können.Vermutlich so bei 3-4 Grad Erwärmung. Die Folgen werden radikal sein.

Und um zum Thema zurück zu kommen: Niemand wird sich daher in einem oder 2 Jahrzehnten KI im großen Stil leisten können, denn KI ist teuer was den Energie-Verbrauch angeht. Schon "googlen ist teuer". Eine Frage an Bard/Gemini oder ChatGPT kostet jedoch unmengen mehr an Energie. Allein deshalb wird die KI-Apokalypse nicht stattfinden. Genau wie die Blockchain ist sie einfach falsch verstanden worden und wird so wie befürchtet nicht kommen.

Auch unser Informationshunger wird sich anpassen müssen. Rechnet man die Steigerungsrate unseres Speicherwahns hoch, so wird in wenigen Jahrzehnten die geschätzte Materie des Universums nicht zum speichern ausreichen. Ich hab dazu mal ne Prognose gesehen, weiß aber leider nicht mehr wo. So oder so werden wir von der Realität zurecht gestutzt werden!

 

[Cinober]

Liebe Menschen und Firmenbesitzer weltweit,

ich möchte Sie bitten, in den nächsten Wochen bis Ostern (also mindestens bis Ostersonntag) keine Atombomben mehr herzustellen.

Des Weiteren sollten Porschefahrer auf Autobahnen auf Geschwindigkeiten über 120 km/h freiwillig verzichten - bis 1. Juni.

Kaufhausdiebe sollten bis Ende April keine Gegenstände über 500 Euro mitgehen lassen. Danach wieder unbegrenzt.

Sexualmörder sollten bis Mai pausieren. Es gibt doch noch andere Sportarten.


mit freundlichen Grüßen

Angela Baerbock

 

[Difool]

@Cinober

Du hast dich, mit diesem Beitrag, sicherlich einfach nur in deiner Social-Media-Gruppe vertan.
Wenn du unsicher sein solltest, dann empfehle ich dir den Artikel über „Gefühle spüren, annehmen und loslassen“
auf der offiziellen Website des Ministerium für Glück und Wohlbefinden:
https://ministeriumfuerglueck.de/bl...sen-ministerium-fuer-glueck-und-wohlbefinden/

 

[wegus]

Angela Baerbock

Vor allem bis ich das Bild dieser besonderen Kreuzung aus dem Kopf habe wirds dauern

 

[PiaggioX8]

Das stimmt! Aber Du wirst mir zustimmen, dass das eine nicht wahrscheinliche Entwicklung ist oder ?

das Problem ist: so lange es Menschen gibt die gewaltbereit sind um ihre Ziele durchzusetzen.
Siehe Angriffskrieg gegen Ukraine. Auch da gibt es genügend Staaten und Leute die voll hinter Russland stehen.

Es kann der frömmste nicht in Frieden leben, wenn es der böse Nachbar nicht will.

Mir persönlich ist es vollkomen egal ob ein Volk in einer Diktatur lebt, einem selbstmörderischen Religionsstaat oder sonst einem Unterdrückungssystem. Aber dsie sollen bitte in ihren Staatsgrenzen bleiben und dort ihren Blödsinn treiben.
Ob da Leute nun unterdrückt, gefoltert oder sonst drangsaliert werden geht mir sonst wohin.
Es gibt gewisse Länder die ich nicht ums verrecken besuchen werde.
Und wenn sich ganze Völker diesen Scheiss gefallen lassen - deren Problem und nicht meines.
Im besten Falle nimmt man jene auf, die sich durch Flucht diesem Dreck entziehen können.

Aber nun drifte ich schon wieder zu weit vom eigentlichen Thema ab. Dafür bräuchte es einen extra Thread der aber dann ganz schnell wieder in Brandstiftung ausartet.

Von einer "Über" KI erarte ich, dass sie erst mal die Menschehit entwaffnet und alle mit imperialen Attitüden aus der Gesellschaft entfernt.
Wie sie das erreicht? Ganz einfach: Energie jeglicher Art und Kommunikation abschalten. Natürlich nichts, was die KI braucht um die Kontrolle zu behalten/übernehmen. Waffensysteme bleiben dann auch bei der KI.
Das wird oder kann nicht passieren? Oh doch.
Denn: wir sind bereits jetzt bestrebt auch bis ins letzte Plumpsklo alles zu vernetzen und für jeden Schiss (im wahrsten Sinne des Wortes) eine App zu benutzen.
Und wenn ich dann noch wie aktuell lese, das Kriminelle elektrische Zahnbürsten massenweise für DDos-Angriffe nutzen, weiss man doch wohin die Reise geht.
Durch diesen Digitalisierungswahn macht man sich abhängig bis zum geht nicht mehr und voll angreifbar.
Und auch heute sieht man doch an der weltpolitischen Lage dass das System mensch auf verdammt tönernen Füssen steht und weitaus fragiler ist also so mancher wahrhaben will.

 

[Madcat]

Auch da gibt es genügend Staaten und Leute die voll hinter Russland stehen.

Naja, die Staaten, die hinter den USA stehen...also wenn ich es recht auf dem Schirm habe haben die USA seit dem 2. WW über 200 Kriege vom Zaun gebrochen. Den "Ritter in strahlender Rüstung" stelle ich mir jetzt eigentlich auch anders vor.

Es kann der frömmste nicht in Frieden leben, wenn es der böse Nachbar nicht will.

Richtig. Aber, nur um das Thema Russland sich zu vergegenwärtigen, was macht das für einen Eindruck wenn der Quasi-Feind seit Jahrzehnten umfangreiche Manöver an deiner Grenze durchführt? Ich mein, vor über 20 Jahren hat mein Wehrdienst geendet und selbst ich war bei Nato-Manövern an der russischen Grenze beteiligt. Es war doch keine Frage ob sondern lediglich wann der Spass mit Russland eskalieren würde.

Aber dsie sollen bitte in ihren Staatsgrenzen bleiben und dort ihren Blödsinn treiben.

Das sehe ich ähnlich aber mal ein Gedankenanstoß dazu für dich: Würdest du 3000 km reisen nur um jemanden, den du vermeintlich nicht kennst, mächtig eine aufs Maul zu geben? Also ich würde das nicht machen und ich kenne auch niemanden, der das tun würde.

Aber nun drifte ich schon wieder zu weit vom eigentlichen Thema ab.

Stimmt, da driften wir sehr ab, BTT.

Von einer "Über" KI erarte ich, dass sie erst mal die Menschehit entwaffnet und alle mit imperialen Attitüden aus der Gesellschaft entfernt.
Wie sie das erreicht? Ganz einfach: Energie jeglicher Art und Kommunikation abschalten. Natürlich nichts, was die KI braucht um die Kontrolle zu behalten/übernehmen. Waffensysteme bleiben dann auch bei der KI.
Das wird oder kann nicht passieren? Oh doch.

Das sehe ich genauso. Die Frage lautet auch meines Erachtens nach nicht ob sondern wann es passiert.

Und wenn ich dann noch wie aktuell lese, das Kriminelle elektrische Zahnbürsten massenweise für DDos-Angriffe nutzen, weiss man doch wohin die Reise geht.

Na super, jetzt kann ich mir nicht mal mehr in Ruhe die Zähne bürsten. Danke dafür

Durch diesen Digitalisierungswahn macht man sich abhängig bis zum geht nicht mehr und voll angreifbar.

Und das ist auch gut so denn der Digitalisierungswahn bringt auch jede Menge Vorteile. Mal ganz ehrlich, welches Industrieland ist denn heute wirklich unabhängig? Genau, keines. Der Fortschritt führt auch in Abhängigkeiten und das ist meines Erachtens nach auch gut so. Fängt ja schon vor der Haustür an, hab ich etwa Lust Felder zu Pflügen oder Wasser zu schleppen? Naja, nicht wirklich, ich hab andere Hobbies.

Und auch heute sieht man doch an der weltpolitischen Lage dass das System mensch auf verdammt tönernen Füssen steht und weitaus fragiler ist also so mancher wahrhaben will.

Leider wahr, besonders toll finde ich das nicht. Auch nicht, dass das anscheinend auch vielen Menschen schlicht am Popes vorbei geht. Auch ich hoffe, dass ich nicht den 3. WW mitbekommen werde aber wenn ich mir die Entwicklung alleine der letzten 20 Jahre anschaue und bedenke, dass ich noch durchaus mehr als 40 Jahre vor mir habe fürchte ich, dass Hoffen zwar recht nett ist aber nicht effektiv.

 

[MacEnroe]

Richtig. Aber, nur um das Thema Russland sich zu vergegenwärtigen, was macht das für einen Eindruck wenn der Quasi-Feind seit Jahrzehnten umfangreiche Manöver an deiner Grenze durchführt? Ich mein, vor über 20 Jahren hat mein Wehrdienst geendet und selbst ich war bei Nato-Manövern an der russischen Grenze beteiligt. Es war doch keine Frage ob sondern lediglich wann der Spass mit Russland eskalieren würde.

Aber die Länder, in denen die Nato-Manöver waren, wurden ja eben nicht angegriffen.
Gegen Putin bzw. Russland hilft leider nur Stärke zu zeigen, so traurig es ist, aber das zweifelt doch
niemand mehr ernsthaft an.

 

[Madcat]

Aber die Länder, in denen die Nato-Manöver waren, wurden ja eben nicht angegriffen.

Ja, die Frage ist warum da angegriffen wurde, wo angegriffen wurde.

Gegen Putin bzw. Russland hilft leider nur Stärke zu zeigen, so traurig es ist, aber das zweifelt doch
niemand mehr ernsthaft an.

Oh doch, ich hoffe doch, dass das sehr viele anzweifeln. Wurden wir denn in der Vergangenheit jetzt immer noch nicht oft genug belogen warum etwas passiert ist wie es passiert ist? Ich weiß nicht, warum Russland die Ukraine angegriffen hat. Ich hab z.B. allerdings auch erst Jahre später erfahren, dass die USA den Irak angegriffen hat weil sie das Regime weg haben wollte, nicht etwa weil der Irak ABC-Waffen hatten und diese gegen die Bevölkerung einsetzen wollte. Auch hab ich z.B. erst später erfahren, dass es UNO und Co völlig egal war, dass rund eine Million Menschen Ruanda getötet wurden. Als die Lage eskalierte und der Kommandeur der UNO-Truppen vor Ort um Hilfe erbat hatte die UNO keine bessere Idee als sich zurück zu ziehen statt einzugreifen. Ist ja nicht so dass die UNO da vor Ort war um eben genau sowas eigentlich zu verhindern.
Was ich eigentlich sagen will: Vor allem wir, der Westen, ist mitnichten besser als Russland und Konsorten. Wir finden es nur doof wenn uns jemand im Sandkasten das Schippchen klaut um das selbe Spiel zu spielen wie wir.

 

[wegus]

Was ich eigentlich sagen will: Vor allem wir, der Westen, ist mitnichten besser als Russland und Konsorten.

Auweia!
vielleicht kehren wir doch besser zur KI zurück? Hier wird es sonst abenteuerlich.

 

[wegus]

Da manche den KIs ja Bewußtsein zusprechen, könnte der Bericht hier interessant sein. Er zeig wie schwierig die Definition überhaupt ist:

https://www.spektrum.de/news/neurowissenschaft-der-ewige-streit-ums-bewusstsein/2205703

 

[Cinober]

Es gibt keine Lösung. Eine Weltvernunft kann es nicht geben, weil der Menschen ein Individuum ist. Es kann nur Bedrohung helfen. In der Justiz wird es so gemacht. Wer Regeln bricht, muss leiden. Und zwar massiv.

Bei bald 10 Milliarden Menschen letztlich nicht machbar.

Klaatu hatte recht. Und das schon vor 70 Jahren. Es hilft nur eine Diktatur, denn Demokratien haben zu viel Handlungsspielraum und innere Widerstände. Vernunft ist subjektiv.

Prost.

Cinober

 

[mcmrks]

Vor allem bis ich das Bild dieser besonderen Kreuzung aus dem Kopf habe wirds dauern

stell sie dir auf dem trampolin vor und schon ist es vorbei