Wie durchsichtig werde ich für KI ?

[wegus]

Ja, das ist natürlich ein Problem, ohne die Regulierung (und die ist bei einem komplexen System eben auch sehr komplex, vor allem auch durch die nationalen Sonderwünsche …) verlieren wir aber spätere Handlungsoptionen!

Ich verspreche mir da viel von OpenSource. Davor hat Wirtschaft großen Respekt. Siehe etwa wie lange man mit allen Bandagen versucht hat Linux kaputt zu machen. Microsoft hat das lange getan, selbst SCO wurde gekauft und zu einem Trojaner umfunktioniert. Geschafft haben sie es nicht und heute ist Linux für jeden zugänglich steckt in nahezu jeder Infrastruktur (selbst in Windows ist es als Subsystem vorhanden).

Ich denke Firmen wie Meta die viele ihrer LLMs frei nach außen geben sind auf dem richtigen Weg. OpenAI hinter seinem Mäuerchen wird zunehmend Probleme bekommen.

 

[Lor-Olli]

So ist es passiert als das Automobil aufkam …

Die Welt wird sich weiter entwickeln, das Potenzial ist zu verlockend und nützlich (!), um es zu meiden. Ich habe auch kein Problem damit, dass es nicht für alle zum Vorteil gereichen wird - vor allem für die, die nicht bereit sind sich selbst zu entwickeln. Mein Vater hat sich mit 87 einen neuen Computer gekauft und neue Software erlernt - viel geflucht ob der Veränderungen, aber erfolgreich angepasst .

Mein Problem liegt in der Konzentration dieser neuen Technik, die zum einen in immer weitere Teile der Arbeitswelt, der Gesellschaft unseres Lebens an Einfluss gewinnen wird und zur gleichen Zeit die (dunkle Seite der) "Macht" auf zunehmend kleinere Kreise konzentriert! Der Einfluss der wenigen großen Techkonzerne ist explodiert, wer hat Musk, Zuckerberg, Bezos und Co eigentlich ermächtigt so viel Einfluss auf unser Leben zu nehmen? Die neuen Techniken dienen wem vor allem? "Hochzeitenden", die eine halbe Stadt lahmlegen? Milliardären, die kurzfristig durch Behörden ziehen und Menschen kündigen? Egomanen, die sich einen Dreck um die politischen Vorgaben kümmern und die (Unmengen an) gesammelten Daten nach eigenen Gusto nutzen?

KI wird kommen, wir müssen ob der möglichen Dominanz automatisierter Entscheidungen aber darauf achten, nicht das Heft des politischen Handelns aus der Hand zu geben! (wiewohl die Autolobby, insbesondere dieses Land, durchaus schon vor der KI ordentlich vor sich her getrieben hat …)

 

[erikvomland]

Es entsteht aber auch Nutzen

Da bezweifelt ja niemand. sieh meine Beispiele zuvor.

und der Science-Fiction vom "wir werden alle sterben" stimmt halt bisher nie.

Was hat das mit sachlichen Überlegungen zu Auswirkungen zu tun? Finde das immer schade wenn jegliche Überlegungen zu Risiken immer so geringschätzend abgetan werden. Wenn man nur weil man alle Aspekte andenken will immer in der Schwurbler, Verschwörer oder OMG wir sterben Ecke landet, dann ist das unagemessen und abtörnend.

Mal angedacht, womöglich gabs ja kritische Stimmen als Fukushima gebaut wurde: Hm sehr nach dran am Meer, ob die vorgesehenen Mauern
ausreichen? Vielleicht wurden die auch abwinkend abgetan als notorische Pessimisten und belächelt. Und was ist draus geworden?

Hätte man nur die Wahl des Standpunktes besser bedacht, vorsichtiger geplant auf mögliche Risiken, dann hätte japan heute dieses Problem nicht.
Nur darauf will ich hinaus. Bei so massiven Entwicklungen sollte es immer breitbandig Checks und Balances geben und nicht einfach mal drauf los, wird schon schiefgehen.

Nur das ist mein Standpunkt. Weder zurück zur Steinzeit, noch Verschwörungsallüren oder Massensterbenphantasie. Ist das so schwer zu akzeptieren?

 

[erikvomland]

ps.. ich verstehe ja auch die Skepsis sobald der Begriff "Regelung" auftaucht um den mal zu nehmen.

Geht mir genauso, kotzt mich sogar manchmal richtig an. Alleine wenn man was machen, bauen will, erstickt man dabei. Zuviel letztlich.
Aber so wie, na in der Türkei bspws. wo abertausende Schwarzbauten im Erdbebengebiet hochgezogen wurden und sobald es wackelt tausedfach einstürzen, sollte es halt auch nicht laufen.

 

[chris25]

Schattenseiten oder Risiken blendet auch nur wenige der Hauptbeteiligten aus. Die meisten KI-Pioniere machen sich zwangsläufig Gedanken darüber, was z.B. "sichere" KI bedeutet.

Mein Problem liegt in der Konzentration dieser neuen Technik, die zum einen in immer weitere Teile der Arbeitswelt, der Gesellschaft unseres Lebens an Einfluss gewinnen wird und zur gleichen Zeit die (dunkle Seite der) "Macht" auf zunehmend kleinere Kreise konzentriert!

Kapitalbedarf und Netzwerkeffekte führe dazu, dass Techkonzerne zwangsläufig groß werden.

Der Einfluss der wenigen großen Techkonzerne ist explodiert, wer hat Musk, Zuckerberg, Bezos und Co eigentlich ermächtigt so viel Einfluss auf unser Leben zu nehmen?

Du hast Zuckerberg und Bezos ermächtig, wenn Du Facebook oder amazon nutzt, einen Tesla fährst oder einen Satelliten nutzt, der von SpaceX ins All gebracht wurde.

Am Ende wird es, wie bei Standard Oil, auch wieder Regulierungen geben - falls es notwendig wird. Allerdings ist die Tech-Welt volatiler als das Ölgeschäft - so dass auch große Konzerne nicht unangreifbar sind.

Die neuen Techniken dienen wem vor allem? "Hochzeitenden", die eine halbe Stadt lahmlegen? Milliardären, die kurzfristig durch Behörden ziehen und Menschen kündigen?

Der Wähler hat ihn dazu ermächtigt. DOGE stand im Wahlprogramm - und ist m. E. beim völlig aufgeblähten Staatsapparat auch notwendig.

 

[wegus]

Mal angedacht, womöglich gabs ja kritische Stimmen als Fukushima gebaut wurde: Hm sehr nach dran am Meer, ob die vorgesehenen Mauern
ausreichen? Vielleicht wurden die auch abwinkend abgetan als notorische Pessimisten und belächelt. Und was ist draus geworden?

Das ist bitte ein Unterschied. Das eine ist die Technologie Kernkräfte zu nutzen und das andere ist eine Umsetzung ein realer Bau. Wen wir von der KI reden, dann müssen wir auch über die Kernkraft reden und da gibt es ja auch genug Argumente dagegen, weswegen wir uns da gerade zurück ziehen. Andere Staaten nutzen es. Ich bin sicher wir werden das auch wieder tun (in 2 oder 3 Jahrzehnten), aber ich bin mir auch sicher wir werden das nicht mehr mit der aktuellen Technik tun, sondern mit einem erst noch zu entwickelnden anderen Ansatz als einer modernen Dampfmaschine deren Müll über Jahrmillionen vergraben werden muß.

Das es immer einzelne Umsetzungen gibt die schief gehen steht außer Frage. Auch kriegst du die Nutzung solcher Techniken nicht aus der Welt. Trotzdem ist bisher keine A-Bomber mehr genutzt worden und der Umgang mit Kernkraft wird kritischer gesehen.

 

[erikvomland]

Das es immer einzelne Umsetzungen gibt die schief gehen steht außer Frage. Auch kriegst du die Nutzung solcher Techniken nicht aus der Welt. Trotzdem ist bisher keine A-Bomber mehr genutzt worden und der Umgang mit Kernkraft wird kritischer gesehen.

Siehste jetzt kommen wir uns schon näher, argumentativ. Mir geht es nur darum bei dem gewissen blauäugigen Hurra bei Neubeginn jeglicher Technologie welche zweifellos ja viel Benefit brachten, die Tragweiten auch möglicher negativer Art nicht aus dem Auge zu verlieren.

Ein weiteres Beispiel ( ich scheine dazu zu neigen ) ist die Thematik Plastik. Eine riesen Erfindung mit Nutzen allüberall. Aber weiter hat man nicht gedacht bis heute, wo kaum recycelbare Kombis dersselben weiter in Unmengen produziert werden. Die ganze Müllschwemme dadurch allgemein von Ozean bis Mikroplastik allüberall. Da wünsche ich mir halt bessere Lernprozesse im Umgang mit Technologie und nicht erst, wenn das Kind schon mehrfach in den Brunnen gefallen ist. Dann ist die Sache oftmals einfach gelaufen und zu spät.

 

[wegus]

Da wünsche ich mir halt bessere Lernprozesse im Umgang mit Technologie

Den glauben habe ich bei der Menschheit längst aufgegeben. Wir wissen erst was wir denken, wenn es passiert ist. Sonst wären wir nicht da wo wir sind. Wo ist denn Vernunft im Umgang mit dem Klima (die gibt es nichtmal bei den Klimabewußten), wo ist die wirtschaftliche Vernunft? Wo wäre die in der Politik, da ist es ja derzeit ganz blümerant.
Ich sehe die Messlatte die du meinst, die ist aber real nirgendwo absetzbar weil wir sie selbst überall reißen. Für mich, durch meine Arbeitswelt, ist KI aber auch keine mögliche Zukunft, sondern längst Alltag. Vielleicht habe ich deswegen eine andere Sicht.

 

[erikvomland]

Vielleicht habe ich deswegen eine andere Sicht.

Ich glaube wir sind da gar nicht weit auseinander. Ich wünsche mir dennoch mehr breitbandige Gedanken und Berücksichtigung mehrerer Aspekte oder Stimmen bei Entwicklungen mit grosser Tragweite. Das hat ja auch Vorteile gebracht. Vor dem Mindestlohn riefen die Unternehmer "Wir werden alle sterben!" passiert als er kam ist eher kaum negatives, aber dafür mussten andere kämpfen und sich durchsetzen dass der kommt.

 

[wegus]

Vor dem Mindestlohn riefen die Unternehmer "Wir werden alle sterben!" passiert als er kam ist eher kaum negatives, aber dafür mussten andere kämpfen und sich durchsetzen dass der kommt.

Wir werden es sehen, denn für die Bauern wird es wirklich kritisch. Erdbeeren oder Spargel werden dann eben andere Preise haben, die die Pfennigfuchser wieder nicht akzeptieren. Ich finde den Mindestlohn auch eine gute Idee und es ist nachgewiesen das er meist nicht schadet. Ich zweifle aber auch da am Verbraucher, der dann weiter erwartet Preise wie 1980 zu bekommen. Aber das wird dann ein anderes Thema.

 

[gishmo]

Ich verspreche mir da viel von OpenSource

Generell stimme ich Dir zu, aber dein Optimismus in Ehren, sehe ich das in der EU kritisch. Gerade im Bereich der Haftung von Software-Produkten hat die EU sich anders positioniert. Während in den USA die Haftung von OS-Projekte im Gesetzestext explizit ausgeschlossen ist, ist dies in der EU - nach meinem Wissen - nicht der Fall. Hier handelt es sich um eine aktuelle Interpretation der Gesetzeslage. Und die kann sich ändern.

Sollte sich die EU zu einer anderen Interpretation bewegen, ist die Bereitstellungen con OS-Projekte für Contributor und Owner derselbigen wirtschaftlich in der EU nicht mehr vertretbar.

 

[Potsdam38]

Wie durchsichtig werde ich mit KI?.....ist doch eigentlich nicht mehr das Thema hier. Eigentlich ist es kein Thema, diese Durchsichtigkeit.

Ich gehe mit der Lidl-App einkaufen, unterhalte mich mit Alexa, sammle PayBack-Punkte, verschicke über WhatsApp Fotos, kann über das Handy überall geortet werden und und und......ich habe diesen KI Hype diesbezüglich wohl falsch eingeordnet im Sinne der "Durchsichtigkeit".......Aber egal !

Es passiert soviel Sche*** durch Menschenhand und Verstand, den selbst die Klügsten nicht aufhalten können. Wissen ist Macht - ist dem so?
Macht ist Macht.....und Macht ist nicht immer in den wissensten und klügsten Köpfen.
Nichts wissen macht auch nichts....läuft trotzdem alles weiter und am sorglosesten leben die, die sich keinen Kopf über alles machen.

Mein Alltime-Favorit für Unbeschwertheit hat alles ....und vor allem alles richtig gemacht.

 

[lisanet]

Während in den USA die Haftung von OS-Projekte im Gesetzestext explizit ausgeschlossen ist, ist dies in der EU - nach meinem Wissen - nicht der Fall.

hhmm, der Text der Prod-Haftungsrichtlinie klingt da aber schon anders: Artikel 2, Satz 2 sagt aus:

Diese Richtlinie gilt nicht für freie und quelloffene Software, die außerhalb einer Geschäftstätigkeit entwickelt oder bereitgestellt wird.

Da ist nichts missverständlich. Wenn jemand OSS eben nicht gewerbsmäßig erstellt oder bereit stellt, besteht keine Haftung nach der Richtlinie. Firmen, wie bspw Mozilla, SuSE, RadHat haften jedoch.

Die Erwägungsgründe ab 14) führen das auch näher aus.

https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=OJ:L_202402853

 

[gishmo]

Wenn man als Firma Teile seiner Entwicklung, die die Firma selber in Ihren Produkten nutzt, als OS-Projekt bereit stellt sieht, es nach der Lage anders aus - wie Du selbst schreibst.

Ich interpretiere das so:
Sollte das OS-Projekt in einer Firma im Rahmen einer Geschäftstätigkeit entwickelt worden sein, dann haftet die Firma - auch wenn das Projekt quell offen und frei ist.

Der einzige Sinn dieses Vorgehens in der EU ist, gute OS-Software vom Markt zu vertreiben. Denn, warum sollten Google, Mozilla, SuSE, RedHat und Co noch etwas als OpenSource bereit stellen?

Auch schliesst das ein OS Angebot einer Software, wie z.B. jOOQ aus. Denn dann musste der Hersteller auch für die freie Version haften.

 

[gishmo]

Freie und quelloffene Software, deren Quellcode offen geteilt wird und auf die Nutzer frei zugreifen und die sie frei nutzen, verändern und weitergeben können, auch in veränderter Form, kann zu Forschung und Innovation auf dem Markt beitragen. Software dieser Art unterliegt Lizenzen, die jedermann die Freiheit einräumen, die Software
auszuführen, zu kopieren, weiterzugeben, zu untersuchen, zu verändern und zu verbessern. Um Innovation und Forschung nicht zu behindern, sollte diese Richtlinie nicht für freie und quelloffene Software gelten, die außerhalb einer Geschäftstätigkeit entwickelt oder bereitgestellt wird, da Produkte, die auf diesem Wege entwickelt oder
bereitgestellt werden, per definitionem nicht in Verkehr gebracht werden. Die Entwicklung einer solchen Software oder die Mitwirkung an einer solchen Software sollten nicht als Bereitstellen auf dem Markt verstanden werden. Die Bereitstellung einer solchen Software in offenen Speicherorten sollte nicht als Bereitstellen dieser Software auf dem
Markt betrachtet werden, es sei denn, die Bereitstellung erfolgt im Rahmen einer Geschäftstätigkeit. Grundsätzlich sollte die Bereitstellung freier und quelloffener Software durch Organisationen ohne Erwerbszweck nicht als in einem geschäftsbezogenen Kontext erfolgend betrachtet werden, es sei denn, eine solche Bereitstellung erfolgt im
Rahmen einer Geschäftstätigkeit. Wird Software jedoch gegen einen Preis oder gegen personenbezogene Daten, die auf andere Weise als ausschließlich zur Verbesserung der Sicherheit, Kompatibilität oder Interoperabilität der Software verwendet werden, bereitgestellt und wird sie daher im Rahmen einer Geschäftstätigkeit bereitgestellt, sollte die vorliegende Richtlinie Anwendung finden.

Schon genial, wenn Firmen bereit sind, Teile der eigenen Entwicklung als quell-offene bereitzustellen, werden diese für dieses soziale Vorgehen bestraft ... love it.

 

[lisanet]

Wenn man als Firma Teile seiner Entwicklung, die die Firma selber in Ihren Produkten nutzt, als OS-Projekt bereit stellt sieht, es nach der Lage anders aus - wie Du selbst schreibst.

ja

Ich interpretiere das so:
Sollte das OS-Projekt in einer Firma im Rahmen einer Geschäftstätigkeit entwickelt worden sein, dann haftet die Firma - auch wenn das Projekt quell offen und frei ist.

ja

Der einzige Sinn dieses Vorgehens in der EU ist, gute OS-Software vom Markt zu vertreiben. Denn, warum sollten Google, Mozilla, SuSE, RedHat und Co noch etwas als OpenSource bereit stellen?

weil sie mit ihrer Geschäftstätigkeit Geld verdienen.

Auch schliesst das ein OS Angebot einer Software, wie z.B. jOOQ aus. Denn dann musste der Hersteller auch für die freie Version haften.

ja.

Es ist also kein Unterschied, ob eine Firma OSS erstellt oder closed source Software. Sie haftet für ihre Produkte. Vom Grundsatz her ist das vollkommen einsichtig und auch in Ordnung. Es ist dann so, wie bei anderen Produkten halt auch. Auch da haftet der Hersteller der Produkte auch dann, wenn er bspw das Produkt nur unter seinem Namen vertreibt / sein Label anbringt. Auch derjenige, der ein Produkt von außerhalb der EU importiert und hier lediglioch weiter verkauft, also Händler ist, wird nach der ProdH-Richtlinie wie der Hersteller behandelt und haftet dafür.

Man kann sich nun wunderbar darüber streiten, ob die Haftung selbst, da sie verschuldensunabhängig ist, zu weit geht, oder ob der Kreis der Haftenden zu groß ist, bis auf Software ist diese Art der Haftung aber bereits seit vielen Jahren in der EU vorhanden. Genauer mit der ProdH-Richtlinie von 1985 und mit dem ProdH-Gesetz in D von 1990.

Aber um das mal etwas in rechte Licht zu rücken.

Die ProdH-RL gilt bei Sachschäden und für Beschädigung/Vernichtung von Daten nicht für Sachen/Daten, die beruflich / für berufliche Zwecke verwendet werden.

Das war auch schon 1985 und 1990 so.

Also so dramtisch wie du das nun siehst ist es für Firmen, die OSS herstellen nun auch wieder nicht.

Viel eher sind die von den Regeln der Sachmängelhaftung gem BGB betroffen. Die gilt nämlich auch für berufliche Verwendung / Zwecke und enthält auch Verpflichtungen zu Software-Updates (Sicherheitsupdates und bugfixes, keine Funktionsupdates)

 

[lisanet]

Schon genial, wenn Firmen bereit sind, Teile der eigenen Entwicklung als quell-offene bereitzustellen, werden diese für dieses soziale Vorgehen bestraft ... love it.

Sie verdienen Geld damit und daher haften sie auch für ihre Produkte. So wie alle anderen Hersteller eben auch.

Oder möchtest du etwa Lebensmittelhersteller von der Haftung befreien, wenn in ihren Produkten Giftstoffe sind und sie diese Lebensmittel auch an Tafeln kostenlos und aus sozialer Verantwortung verteilt haben?

Und nochmal, lies meine Ausführung in #216. So dramtisch wie du das interpretierst ist es nicht. Ich habe mich beruflich die nganzen Jahrzehnte mit Produkthaftung beschäftigt. Der Sinn des ganzen ist schon vorhanden und auch gut. Es geht dabei halt immer auch um Verbraucherschutz. Wie gesagt, man kann sich trefflich streiten, wie weit Verbraucherschutz gehen soll.

 

[gishmo]

Oder möchtest du etwa Lebensmittelhersteller von der Haftung befreien, wenn in ihren Produkten Giftstoffe sind und sie diese Lebensmittel auch an Tafeln kostenlos und aus sozialer Verantwortung verteilt haben?

Nein, natürlich nicht. Allerdings hinkt der Vergleich. Denn dann müsste darauf stehen: "Essen auf eigene Gefahr und nach eigener Prüfung".

Wenn Firmen, die Produkte wie LocalStack, jOOQ, IntelliJ, Docker etc. in einer quell-offenen mit einer kosten-freien und haftungsausschliessenden Lizenz anbieten, um die Nutzung einer Vielzahl an Entwicklern zu ermöglichen, jetzt in eine Produkthaftung getrieben werden, dann kann man als Firma nur den Schluss ziehen, genau dies in der EU nicht mehr zu tun.

Und nochmal, lies meine Ausführung in #216. So dramtisch wie du das interpretierst ist es nicht. Ich habe mich beruflich die nganzen Jahrzehnte mit Produkthaftung beschäftigt. Der Sinn des ganzen ist schon vorhanden und auch gut. Es geht dabei halt immer auch um Verbraucherschutz. Wie gesagt, man kann sich trefflich streiten, wie weit Verbraucherschutz gehen soll.

Habe ich. Die von Dir genannten Gesetze sind aus einer Zeit als das Internet noch mit Busch-Trommeln funktioniert hat. (symbolisch gemeint) Und da ich in der letzten Zeit sehr viel mit dem Public-Sektor zu tuen habe, ist meine Meinung dahingehend nicht besser geworden. Bei vielen Dingen der EU habe ich den Eindruck, es ist gut gemeint, schiesst aber am Ziel vorbei.

Und nochmal, lies meine Ausführung in #216. So dramtisch wie du das interpretierst ist es nicht. Ich habe mich beruflich die nganzen Jahrzehnte mit Produkthaftung beschäftigt. Der Sinn des ganzen ist schon vorhanden und auch gut. Es geht dabei halt immer auch um Verbraucherschutz. Wie gesagt, man kann sich trefflich streiten, wie weit Verbraucherschutz gehen soll.

"50 years ago the owner manual of a car showed how to adjust the valves. Today it warns you not to drink the contents a battery"."

 

[Difool]

50 years ago the owner manual of a car showed how to adjust the valves. Today it warns you not to drink the contents a battery

Sinngemäß:
„Vor 50 Jahren zeigte die Bedienungsanleitung eines Autos, wie man die Ventile anpasst. Heute warnt es Sie davor, den Inhalt einer Batterie zu trinken“

Das könnte jetzt aber auch eher etwas gravierendes über die Entwicklung der Kunden, der Bedienenden, aussagen, imo.

 

[gishmo]

... der Gesetze-Schreibenden ...