Zwei KIs entwickeln Sprache - Forscher ziehen Stecker

Impcaligula

Impcaligula

Aktives Mitglied
Thread Starter
Dabei seit
17.05.2010
Beiträge
8.165
Reaktionspunkte
7.921
http://winfuture.mobi/news/98894

Wer erinnert sich nicht an die kürzliche verbale Auseinandersetzung zwischen Elon Musk und Mark Zuckerberg - bei der Musk vor der künstlichen Intelligenz warnte.

Es bestünde die Gefahr, dass die "Maschinen" die menschliche Rasse als überflüssig erachten und uns ersetzen würden. Terminator, Matrix und Co lassen Grüßen...

Nun haben zwei Facebook Forscher panisch den Stecker gezogen, als zwei KIs angefangen haben selbständig eine eigene für Menschen nicht verständliche Sprache zu entwickeln
 
Ich weiß ja nicht was "Facebook-Forscher" sind, aber vielleicht sollte man da richtige Sprachwissenschaftler ran lassen! Der Versuch ist doch hochspannend und fern von jeder Bedrohung. Klar die Zeiten in denen es einfach nur amüsant war Eliza gegen Ractor laufen zu lassen sind vorbei. Deswegen sind die Resultate eben auch nicht mehr lustig sondern beginnen lehrreich zu werden. Gerade jetzt sollte man solche Tests machen! Zeit für so etwas müßte man haben, leider haben das wohl nur "Faccebook-Forscher".
 
Ich finde es eher gruselig. Und halte das Szenario - KI & Maschinen entwickeln sich selber weiter und übernehmen die Kontrolle - nicht für abwegig. Ich halte das Szenario im Gegenteil recht realitätsnah...
 
Von abwegig habe ich ja auch nichts geschrieben, im Gegenteil: genau das sollte man tun und analysieren was da passiert!

Das paßt auch zu solchen realitätsnahen Experimenten:

https://m.heise.de/make/meldung/OpenWorm-Ein-Wurm-steuert-Roboter-2526718.html
https://motherboard.vice.com/de/article/qkj9z3/transcendence-geist-eines-wurms-in-lego-koerper

Da kommen erste Ergebnisse und es kommen auch wieder die philosophischen Fragen nach Transzendenz Geist/Seele. Das ist schon hochspannend. Gruselig kann ich da nichts finden.
 
wegus schrieb:
genau das sollte man tun und analysieren was da passiert!
Zum Vergrößern anklicken....

Aber bloß nicht die Kontrolle verlieren. Also so, wie in den meisten Filmen, wo immer gedacht wird, dass nichts passieren kann. :cool:
 
Zu dem Artikel: der ist eher gedacht, Quote zu machen. Sieht man sich an was da genau gemacht wurde, so fehlt jeder Grund für diese „Panik“.
AI ist ein spannendes Thema. Weder Musk noch Zuckerberg (oder Hawking) sind jedoch ausgewiesene Spezialisten. Da kämem doch eher Ng, Hinton, Thrun, Kurzweil oder Norvig in Frage
 
  • Gefällt mir
Reaktionen: electricdawn, mj, medeman und eine weitere Person
Holger721 schrieb:
Aber bloß nicht die Kontrolle verlieren. Also so, wie in den meisten Filmen, wo immer gedacht wird, dass nichts passieren kann. :cool:
Zum Vergrößern anklicken....
2 KIs kommunizieren und dürfen dabei die Regeln ihrer Kommunikation modifozieren. Um das verfolgen zu können wird man das im Schneckentempo laufen lassen und die logs analysieren. Was soll da passieren? Das wäre ähnlich "wissenschaftlich" wie die Angst vor Chemtrails oder schwarzen Löchern durch CERN.

Den Ansatz der KI den Plural durch Repetition zu bilden finde ich ja schonmal spannend. Was macht die KI, wenn sie es mit sehr großen Werten zu tun hat? Sie wird diese Regel überarbeiten/verwerfen müssen.
 
Impcaligula schrieb:
Nun haben zwei Facebook Forscher panisch den Stecker gezogen, als zwei KIs angefangen haben selbständig eine eigene für Menschen nicht verständliche Sprache zu entwickeln
Zum Vergrößern anklicken....
Ist die Meldung nicht vielleicht genau vier Monate alt?
 
Naja, im Endeffekt macht die KI ja nur das wozu sie programmiert wurde. Finde ich jetzt nichts verwunderliches dran...
 
Von "panisch" kann da keine Rede sein. Die Sprache war nicht verständlich, weil sie nicht unserer Grammatik entsprach:

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to
Zum Vergrößern anklicken....

Quelle: http://www.independent.co.uk/life-s...language-research-openai-google-a7869706.html

Also entspannt euch mal...
 
  • Gefällt mir
Reaktionen: medeman, electricdawn und wegus
Es gibt tausende von Sprachen, die (zumindest mir) nicht verständlich sind.
Nur weil da mal was nicht englisch geredet wird, muß man keine Panik machen.
Und auch unverständliche Sprachen kann man analysieren und verstehen lernen.
 
  • Gefällt mir
Reaktionen: electricdawn und wegus
Hehe, bestätigt mal wieder meine These, dass der Mensch nur ein Hilfsmittel der Evolution ist, um den Übergang vom kohlenstoffbasierten zum siliciumbasierten Leben zu ermöglichen.
 
  • Gefällt mir
Reaktionen: noname951, Impcaligula und wegus
ups.... war ein Leseexemplar.... Kann ich aber empfehlen.:D
 
Wir haben in den 80er Jahren an einem "revolutionären" Projekt gearbeitet, die damaligen Computer (von Olivetti ;)) sollten dazu gebracht werden Sprache zu analysieren. Analysieren im Sinne von einfachster Differenzierung wohlgemerkt, kein Sprachverständnis! Es ging darum Buchstaben zu "zählen", Silben zu finden, Phoneme zu erkennen, Sätze zu finden und Satzstrukturen zu erkennen. die Rechner arbeiteten am limit…

Geht man von einer Verdopplung der Rechenleistung pro 18 Monatszyklus aus, können die Computer von heute natürlich mehr und in Experimenten wie dem Angeführten geht es um die Erkenntnis, wie Sprache entsteht, sich entwickelt. Hier wurde mit Sicherheit nicht der Stecker gezogen, weil sich die Maschinen Witze über ihre Programmierer erzählten, eher weil die Erkenntnisse über eine Sprachentwicklung durch eine Maschine sich wohl kaum geeignet auf menschliche Sprache übertragen lässt - wir sprechen viel zu emotional. Das gelingt einer Maschine kaum, einfach mal Siri einen Witz erzählen. ;)

Ich sehe die Problematik, dass Maschinen "die Macht übernehmen" eher pragmatisch, wenn sie von ihren Algorhytmen nicht gezielt darauf hin konzipiert wurden, dürfte es ihnen ziemlich schnuppe sein, wer "die Macht hat". Ich sehe eine ganz andere Gefahr viel dramatischer und bereits um sich greifend: "Wir" begeben uns in Abhängigkeiten zu den Elektronengehirnen und werden letztlich nicht mehr Schritt halten können" Z.B. bei Entscheidungen, wer operiert wird, wann ein Auto bremst, qo und wie Arbeit vergeben wird und und und. In einigen Bereichen sind wir schon so weit, dass einige Menschen für Grundrechenarten der "Kopfrechnenkategorie" zum smartphone greifen, dass über eine einfache Antwort nicht mehr nachgedacht wird, sondern Tante google angeklickt wird, dass man Texte als Hörbücher vorlesen lässt (Lesen , nur nebenbei ist für unsere höhere Sprachentwicklung und Textverständnis mitentscheidend!). Viele können heute nicht mal mehr eine gedruckte Karte lesen (Höhenlinien, Längen und Breitengrade interpolieren etc.), wann finden sie nicht mehr "nach Haus" wenn das Internet oder GPS streikt? Wir fangen bereits an, uns in grundlegenden Kulturtechniken zurück zu entwickeln! Nicht die intelligenten Maschinen erobern unsere Welt, wir überlassen sie ihnen häufig ohne Sinn und Verstand, meist aus Bequemlichkeit machen wir uns ABHÄNGIG.

Viel Spaß beim Lesen… ;)
 
  • Gefällt mir
Reaktionen: d@tMarten, Grettir, don_michele1 und eine weitere Person
Danke. Hat Spass gemacht. Und...... ich bin da voll bei Dir.
 
Du musst dich einloggen oder registrieren, um hier zu antworten.
Zurück
Oben Unten