Ich habe da auch einen (aus meiner Sicht) guten Artikel zu gelesen.
Das ganze birgt viele, wenn nicht sogar unendliche Möglichkeiten.
Aber eben auch genau so viele Risiken.
Wenn ich lese:
Wer regiert also wen: der Mensch die Maschine oder umgekehrt? Die alte Frage hat im „Big Data“-Zeitalter existenzielle Bedeutung bekommen. „KI-Systeme mit menschlicher Wettbewerbsintelligenz können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen“, heißt es in dem Brief. Letztlich könne niemand – nicht einmal ihre Schöpfer – ernsthaft „verstehen, vorhersagen oder zuverlässig kontrollieren“, zu was KI in der Lage sein werde. „Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Wirkung positiv und ihre Risiken überschaubar sind.“
Tatsächlich geben die Entwickler von GPT-4 in einem Diskussionspapier von Microsoft Research offen zu, dass sie selbst nicht mehr in vollem Umfang nachvollziehen können, wie das von ihnen geschaffene System arbeite. Manche der Ergebnisse seien nicht mehr direkt auf die zugrunde liegende Architektur der Maschine zurückzuführen.
QUELLE
dann macht mir das tatsächlich ein wenig Angst.
Das kann wirklich zur Büchse der Pandora werden, wenn man damit nicht vorsichtig umgeht.
Natürlich hat
@Oldy62 mit seiner Aussage recht, dass es wenig nützt, wenn nur "wir" damit pausieren und Russland und China fröhlich weiter machen.
Aber ich denke schon, dass man KI tatsächlich sehr vorsichtig behandeln und auch Regeln aufstellen muss, auch wenn das schwierig werden wird.
Sonst sind Terminator und Matrix vielleicht irgendwann nicht mehr nur ein Actionfilm, sondern im Worst Case dann bittere Realität
Und wenn man sieht, wer außer Elon Musk ebenfalls den Brief unterschrieben hat, ist das schon ernst zu nehmen, finde ich.
Nicht falsch verstehen:
Ich sitze hier jetzt nicht zitternd vor Angst, und das mit Terminator war natürlich eine von mir gewollte Übertreibung, aber man sollte eben auch die Risiken dazu sehen und nicht nur blind jubeln, was ChatGPT jetzt alles so toll kann.
