Zwei KIs entwickeln Sprache - Forscher ziehen Stecker

Off-Topic: Ex Machina ist sehr gut, aber der Schluss ist absolut unnoetiger Action-Mist, den man auch haette anders loesen koennen. JMHO. ;)
 
@electricdawn, Du willst Filme völlig ohne "Hollywood" vermarkten? ;) Zugegeben, die Actionszenen und das etwas kitschige Ende sind "Blim-Blim", ABER der Grundgedanke wird hierdurch vielleicht nur noch etwas deutlicher. Wir halten uns für die, die die Kontrolle haben, ist es möglich, dass wir in unserer Überheblichkeit nicht mitbekommen, wie uns eine KI manipuliert? (hypothetisch, real schon Praxis…) Eindringlich hier, weil auch Nicht-Techies sich in diese menschliche Situation hineinversetzen können und die Maschine ist ja auch recht süß ;)
 
Klar, wenn es ein Mann gewesen waere (und solche Maschinen sind IMMER weiblich), waere der Film an den Kinokassen wohl durchgerasselt. Sex sells halt auch bei KI-Maschinen. ;)
 
Lor-Olli schrieb:
Wir halten uns für die, die die Kontrolle haben, ist es möglich, dass wir in unserer Überheblichkeit nicht mitbekommen, wie uns eine KI manipuliert?
Zum Vergrößern anklicken....
Das ist doch aber erst mal ein Scheinproblem. Bisher gibt es keine künstliche Intelligenz, die uns manipulieren könnte, und es ist nach wie vor nicht sicher, ob das überhaupt jemals möglich sein könnte. Was es aber gibt, sind ganz natürlich gewachsene Intelligenzen (in den Marketing-Abteilungen der großen Konzerne), die ganz klar – und nicht erst in irgendeiner fernen Zukunft – die Menschen manipulieren. An die geben die allermeisten auch gern die Kontrolle ab, wenn sie dafür nur irgendetwas geliefert bekommen, was als schick gilt (egal ob das das dusslige »flat design« oder endloses hohles Gelaber auf FaceBook ist). Mir kommt das Gerede von einer nach wie vor völlig hypothetischen Manipulation so vor, als würde einer ausrufen: »Schau mal da, ein Elefant!« um mir, wenn ich ausreichend abgelenkt bin, das Portemonnaie aus der Tasche ziehen zu können.
 
  • Gefällt mir
Reaktionen: wegus und electricdawn
wegus schrieb:
Ich weiß ja nicht was "Facebook-Forscher" sind, aber vielleicht sollte man da richtige Sprachwissenschaftler ran lassen!
Zum Vergrößern anklicken....
Ich kann dir garantieren, dass bei Facebook auch 'richtige Sprachwissenschaftler' angestellt sind...
 
  • Gefällt mir
Reaktionen: wegus
Grettir schrieb:
…Bisher gibt es keine künstliche Intelligenz, die uns manipulieren könnte, und es ist nach wie vor nicht sicher, ob das überhaupt jemals möglich sein könnte. …
Zum Vergrößern anklicken....
Ist definitv eine bereits wiederlegte Aussage! Die chinesische staatliche Behörde für die Überwachung des Netzes in China hat zwar über 50000 neben- und hauptamtliche Mitarbeiter, aber weil das nicht reicht setzen sie bots ein, die durch eine KI gesteuert werden. Deren Intelligenz ist zwar beschränkt (sie reagiert auf bestimmte Ausdrücke der Kritik in Kombination mit Ausdrücken die den Staat tangieren), dennoch arbeitet sie autark, indem sie bots und ghost-user steuert, die sich in Diskussionen einmischen und im Sinne des Staates steuern, gegenlenken, zerstreuen, ermahnen und zwar mit sehr menschlichem Verhalten (für Chinesen, wir würden dies oft für befremdlich empfinden). Selbst fluchen oder schimpfen kann die KI passend und Testuser (in Taiwan) wurden zu mehr als 50% erfolgreich getäuscht. Wenn der Einsatz solcher MIttel massiv genug erfolgt, wirkt eine solche Manipulation und ist kaum nachzuweisen.

Die vermuteten "russischen Einmischungen" in den amerikanischen Wahlkampf wirkten wohl ähnlich, bedienten sich aber noch überwiegend menschlicher Aktoren, wobei auch hier nicht gesagt werden kann ob nicht KI's testweise mitagierten - würde das der durchschnittliche User überhaupt mitbekommen?

Der Begriff Manipulation ist auch sehr umfänglich, ist oder ist überhaupt eine Empfehlung, die oft genug wiederholt wird eine Manipulation wenn nicht alle Aspekte mit den Interessen des "Informierten" übereinstimmen? Wie unterscheidet man eine manipulierende von einer einfach nur falschen Einwirkung? Die Werbeindustrie hat ein extrem großes Interesse dies in Erfahrung zu bringen und KI's werden ganz sicher schon die Perzeption des Beworbenen untersuchen (tun sie z.B. bei amazon ja schon), lernen und dann sicher auch manipulieren.

Manipulation ist kein blitzschneller Überfall, es ist eine schleichende Form der "Überredung" und im Gegensatz zu vielleicht wankelmütigen Menschen ist eine KI da ganz stringent. Sie wird lernen oder hat schon auch gelernt diese Absicht zu verschleiern, denn bei zu offensichtlichem Vorgehen werden selbst Dummköpfe stutzig.
 
  • Gefällt mir
Reaktionen: LosDosos
Lor-Olli schrieb:
Manipulation ist kein blitzschneller Überfall, es ist eine schleichende Form der "Überredung" und im Gegensatz zu vielleicht wankelmütigen Menschen ist eine KI da ganz stringent. Sie wird lernen oder hat schon auch gelernt diese Absicht zu verschleiern, denn bei zu offensichtlichem Vorgehen werden selbst Dummköpfe stutzig.
Zum Vergrößern anklicken....
Imo korrekt und sehe ich auch so. :)

Und was das eingangs zitierte "Facebook-Ding" betrifft, sind Leute aus Hiroshi Ishiguro Team da eh wohl schon weiter und nicht so "ängstlich".
In einer Doku über u.a. 2 Ki-Roboter, die sich unterhalten können, wurde da auch schon lange vor dieser "Facebook-Geschichte" bemerkt,
daß die beiden Roboter/KIs sich effektiver austauschen können und lernen, in dem sie eigene Begriffe ansetzen.
Der Robotikforscher der beiden unterdes bemüht sich voller Interesse sich diese eigene KI-Sprache anzueignen.
So, denke ich persönlich, daß solche KIs diesen Weg gehen müssen und werden.
Zumindest in einer japanischen Umgebung, weil dort eine andere Verständlichkeit und ein anderer Umgang mit solchen Dingen herrscht/besteht.
 
  • Gefällt mir
Reaktionen: wegus
Lor-Olli schrieb:
Ist definitv eine bereits wiederlegte Aussage!
Zum Vergrößern anklicken....
Was Du schilderst, ist eine KI (wenn man das so nennen kann), die von natürlichen Intelligenzen zur Manipulation eingesetzt wird. Es handelt sich nicht um ein Computerprogramm, das für etwas anderes gedacht war und sich plötzlich entschließt die Menschheit zu manipulieren. Raffinierte Manipulationsmechanismen, die sich auf digitale Errungenschaften stützen, gibt es selbstverständlich. FaceBook, Google usw. einschließlich der manipulativen Kampagnen der Marketingabteilungen sind da gute Beispiele, auch Beispiele für überaus wirksame Manipulationen, wie man sie sich vor 2-3 Jahrzehnten noch nicht vorstellen konnte. Die »finstren Mächte«, die das bewirken haben haben aber nach wie vor, um es mit Brecht zu sagen »Name, Anschrift und Gesicht«.
 
ich sehe euch.......
 

Anhänge

  • hal2000_by_dawnsrise.jpg
    hal2000_by_dawnsrise.jpg
    12,6 KB · Aufrufe: 140
bla!zilla schrieb:
Von "panisch" kann da keine Rede sein. Die Sprache war nicht verständlich, weil sie nicht unserer Grammatik entsprach:



Quelle: http://www.independent.co.uk/life-s...language-research-openai-google-a7869706.html

Also entspannt euch mal...
Zum Vergrößern anklicken....

Die Sprache wird für uns unverständlcih da sie keiner uns bekannten Grammatikfrmen entspricht. Das muss nicht heißen, dass die Computer sich nicht unter einander verstehen. Wenn dies der Fall sein sollte sehen wir zwar die Worte aber nicht den Sinn, wodurch die Computer einen eigene Sprache entwickelt hätten. Ich verstehe dein Argument nicht.
 
Grettir schrieb:
Was Du schilderst, ist eine KI (wenn man das so nennen kann), die von natürlichen Intelligenzen zur Manipulation eingesetzt wird. Es handelt sich nicht um ein Computerprogramm, das für etwas anderes gedacht war und sich plötzlich entschließt die Menschheit zu manipulieren. Raffinierte Manipulationsmechanismen, die sich auf digitale Errungenschaften stützen, gibt es selbstverständlich. FaceBook, Google usw. einschließlich der manipulativen Kampagnen der Marketingabteilungen sind da gute Beispiele, auch Beispiele für überaus wirksame Manipulationen, wie man sie sich vor 2-3 Jahrzehnten noch nicht vorstellen konnte. Die »finstren Mächte«, die das bewirken haben haben aber nach wie vor, um es mit Brecht zu sagen »Name, Anschrift und Gesicht«.
Zum Vergrößern anklicken....

Wie du selber schon sagst, sind das alles Programme die nur einem Sinn folgen und keine Intelligenz besitzen. was passieren wird wenn man KI´s anstelle von Programmen einsetzten würde ist nicht vorraus zu sehen und bringt zwar viel spannendes jedoch auch sehr viel gruseliges und unkrontrollierbarkeit mit sich
 
Richtig interessant wird es, wenn uns ein Computer mit der Aussage kommt:
"Ihr Luschen und Nichtsahner dürft mir mal das Kabel putzen" :cool:

Hintergrund (auch des emojis) > https://www.heise.de/tr/artikel/Computer-erkennt-Sarkasmus-3794566.html

Was würde es uns nutzen, wenn wir eine computergenerierte Sprache verstehen würden (natürlich nie auf dem Level wie es ein Computer würde) und andererseits Computer "unsere" Sprache besser verstünden und interpretieren als "wir". Sprache ist letztlich ein verhandeltes Regelwerk zu Interpretation und Regeln versteht ein Computer besser als der Mensch, bisher scheiterte das volle Verständnis an der Komplexität dieses Regelwerks und die Einbeziehung non-verbaler Elemente - die aber zum Textverständnis der geschriebenen Sprache irgendwie gekennzeichnet sein müssen. Allein mit Auslassungen hat die KI noch Probleme - viele Menschen die nicht der gleichen Gruppe angehören aber auch (besondere Ausdrücke, oder gezielt missinterpretierbare Verwendung etc.

Also, "Morgen ihr Luschen"… greets und alles klar?
 
Du musst dich einloggen oder registrieren, um hier zu antworten.
Zurück
Oben Unten