Wie durchsichtig werde ich für KI ?

[Difool]

Wir werden es sehen, denn für die Bauern wird es wirklich kritisch. Erdbeeren oder Spargel werden dann eben andere Preise haben, die die Pfennigfuchser wieder nicht akzeptieren.

Interessant hier, finde ich tatsächlich, die Entwicklungen in der Landwirtschaft.
Drohnen ermitteln mit KI den benötigten punktuellen Wasserbedarf der Felder und Pflanzen.
Computergesteuertes Controlled Environment Agriculture (CEA), also Indoor-Anbau – bzw. in diesen Tunneln.

Irgendwann spinnt das „normale Wetter“ dann so weit, dass „Bauernregeln“ oder die bisherigen Einschätzungen für Aussaat und Beschnitt usw.
nicht mehr taugen und man dürfte sich per LLMs die besten Prognosen nach aktuellen Standortdaten liefern lassen.

Projekte in einer arabischen Wüste sind da bisher ziemlich gut gelaufen; und sogar relativ effizient.

 

[lisanet]

Bei vielen Dingen der EU habe ich den Eindruck, es ist gut gemeint, schiesst aber am Ziel vorbei.

Ja, ich bin auch nicht von allem aus der EU Gesetzgebung erfreut.

Ich habe das auch nicht verteidigt, sondern dargestellt, dass eine verschuldensunabhängige Haftung für Produkte nichts außergewöhnliches ist und schon Jahrzehnte existiert.

So dramatisch wie du das siehst ist es nicht. Wenn eine Firma Produkte herstellen und vertreiben will, dann haftet sie halt dafür. Und bei Software ist das eben genau das gleiche. Ich sehe da auch keinen Unterscheid zwischen proprietärer Software und OSS. Für den Verbraucher macht es keinen Unterschied. Und sollte eine Firma selbst Software erstellen, also nicht aufbauen auf anderer OSS, insbesondere nicht auf einer mit copyleft-Lizenz, dann kann sie sich doch entscheiden, ob sie die Software nur closed vertreibt oder als OSS zusätzlich zur Verfügung stellt.

Anders sieht es aus, wenn OSS mit copyleft-Lizenz verwendet wird. Dann muss die Firma das zur Verfügung stellen und eben haften. Auch da gilt aber: sie müssen ja nicht Software mit so eine Lizenz verwenden, es gibt ja auch sowas wie MIT, oder BSD Lizenzen. Da müssen sie nichts veröffentlichen.

 

[chris25]

Interessant hier, finde ich tatsächlich, die Entwicklungen in der Landwirtschaft.
Drohnen ermitteln mit KI den benötigten punktuellen Wasserbedarf der Felder und Pflanzen.

Das machen die Israelis ohne KI schon seit Jahrzehnten.

 

[Difool]

Das machen die Israelis ohne KI schon seit Jahrzehnten.

Schön, jetzt geht's halt auch mit Datenbank dazu, in denen die verhältnisse zum & vom Boden, Beschaffenheit, Bedarf und individueller Bepflanzung
und allem Brimborium erfasst und ausgewertet werden kann usw.

Wann, wo welche Düngung in welcher Menge nötig usw. usf.
Irgendwann zieht 'ne Drohne den Spargel raus.

 

[razormax]

auf NANO 3sat kam gestern, oder war es vorgestern, ein Bericht dazu
da war das auch mit der Modulen KI dran
und dass Drohnen nun andere (kleine) 'abfangen' und 'erledigen' (BW-Werkschutz-Firmenspionage etc.)
und ja, es ging um die Copter u.ä. nicht um die 'militärisch' genutzten

 

[erikvomland]

und allem Brimborium erfasst und ausgewertet werden kann usw.

kam vorhin eine Doku dazu auf Phoenix, wie ein kleines Unternehmen eben den Ansatz der Tropfbewässerung verbessern will, eben unter zuhilfe von Sensorik, Datenauswertung oder auch Leitungsgestaltung, Brauchwasseraufbereitung etc. habs nur kurz gesehen.

Vielversprechend kann ich mir auch vorstellen, dass die KI im medizinischen Bereich sehr hilfreich sein kann. Alleine bei der Diagnose, also Auswertung von untersuchten Messwerten, womöglich über die Disziplinen hinaus. Bislang braucht man die Expertise und Erfahrung der jeweilgen Ärzte, das bedeutet man braucht viel Glück. Dazu ist eben die Kombination aller verfügbaren Infos zum Patienten noch gar nicht richtig angedacht, oder läuft auch nur aufwändig oder oftmals garnicht, ausser nem händisch verfassten Ärztebrief an "den werten Kollegen". Ob der was mit anzufangen weiss, bleibt offen.

Da könnte ich mir durch Rechenpower durchaus vorstellen erhebliche positive Effekte und Abläufe zu schaffen.

 

[Lor-Olli]

Ich denke, in wenigen Jahren wird niemand mehr danach fragen, ob eine KI uns durchsichtig macht, sie wird sich dann so weit und in so vielen Bereichen durchgesetzt haben, dass wir das Rad gar nicht mehr zurückdrehen KÖNNTEN. Man kann nur hoffen - und ich möchte das durchaus - dass sie auch helfen wird, einige unserer drängendsten Probleme schnell und effizient zu lösen.

Ein Problem, welches sie aber selbst verursacht, ist der enorme Energiehunger. In den USA sollen für die Energieversorgung der aktuell über 3000 Datenzentren neue nukleare Reaktoren gebaut werden. Es wird prognostiziert, dass bis 2030 sich die Zahl um 165 % erhöhen und der Energiebedarf sich verdoppeln wird, mit fossilen energy plants wird das nicht klappen - trotz Trumps Aufweichen ökologisch verträglicherer Standards. Auch die KI macht noch keine besseren Vorschläge …

Den Fehler, bei der Folgenabschätzung immer zu optimistisch zu denken, haben wir bei nahezu allen technologischen Revolutionen gemacht, scheinbar lernen wir einfach nicht schnell genug dazu - obwohl einige negative Folgen sich bereits abzuzeichnen beginnen, nicht nur der steigende Energiebedarf. Vielleicht wird diese Entwicklung auch so schnell ablaufen, dass wir gar nicht mehr in der Lage sind, die Folgen tatsächlich frühzeitig abzuschätzen. Wir wären dann nicht mehr in der Lage einer KI, die Frage konkret genug zu formulieren …

Ein weiterer Aspekt ist die "sprachliche Verarmung" immer größerer Teile der Gesellschaft, der aktive (aber auch der passive) Wortschatz nimmt ab, die sprachliche Präzision nimmt ab - auch weil inkorrekte Sprache gesellschaftlich immer stärker toleriert wird. Vergessen wir dabei nicht, dass die LLMs Sprachmodelle sind, die ganz besonders auf präzise Vorgaben angewiesen sind? Wir sehen heute ja schon bei relativ einfachen KI-Lösungen, dass sie bei den von uns intendierten Fragen manchmal daneben schießen … KI zu blöd, ist dann häufig der erste Gedanke der vielen Usern kommt, nicht etwa: Habe ich die Frage / den prompt vielleicht unglücklich oder falsch formuliert?

 

[geronimoTwo]

Energiebedarf

Strombedarf! ️Strom!

KIs werden nicht von einem Holzfeuerchen oder einer Ölheizung angetrieben.

 

[VisionBlue]

Wie "durchsichtig" werde ich für KI, wenn ich mich mit einem Profil oder mit meiner Mail bei ChatGPT oder andere anmelden muss ??

Die KI macht das Kraut auch nicht mehr Fett, gläsern warst du schon bevor es diesen Hype mit der besagten Software gab.
Das Fangt schon mit den Mobiles - Debitkarten - Visa etc. an und hört sich mit SozialMedia auf... Wenn du eines dieser feat. verwendest weiß man Uhrzeit, was du gekauft und bezahlt hast, sowie deinen Standort. Was man da über jemandem weiß hängt dann auch von einem pers. ab.
Dann werden die gesammelten Daten auf Servern gelagert, die wiederum von Personal gewartet werden.
Von Datenschutz kann man da nicht sprechen, solange Menschen diese Dinge warten.
Im Netz kann man mit nem guten VPN relativ Sicher unterwegs sein, solange man sich nirgends eingeoggt. Dieser ganze Datenschutz ist unter diesen Bedingungen sowieso ein Witz, und wie gesagt: du bist so gläsern wie du dich im Allgemeinen im Netz verhältst...

Protokolliert wird alles und wenn die behaupten, dass es nicht so ist, wer kann das von uns kontrollieren....? Keiner und Glauben ist was für religiöse Menschen, zu denen ich nicht gehöre...

 

[Potsdam38]

@VisionBlue
siehe #212

 

[chris25]

Strombedarf! ️Strom!

KIs werden nicht von einem Holzfeuerchen oder einer Ölheizung angetrieben.

Darum produziert China schon heute doppelt soviel Elektrizität wie die USA und baut weiter massiv zu.

 

[gishmo]

So dramatisch wie du das siehst ist es nicht. Wenn eine Firma Produkte herstellen und vertreiben will, dann haftet sie halt dafür. Und bei Software ist das eben genau das gleiche. Ich sehe da auch keinen Unterscheid zwischen proprietärer Software und OSS. Für den Verbraucher macht es keinen Unterschied. Und sollte eine Firma selbst Software erstellen, also nicht aufbauen auf anderer OSS, insbesondere nicht auf einer mit copyleft-Lizenz, dann kann sie sich doch entscheiden, ob sie die Software nur closed vertreibt oder als OSS zusätzlich zur Verfügung stellt.

Folgende Situation:
Eine Firma bietet eine Software für die Aussortierung der Gummibärchen ohne Beine an. Dabei handelt es sich um eine Client-Server-Entwicklung. Die Kommunikation erfolgt über REST. Wie es sich für eine sichere Software gehört, werden die eingehende Objekte nach dem Mapping validiert. Die Basis der Validierung bilden Annotation in den Daten-Objekten die zur Compile-Zeit genutzt werden um eine Validierungs-Klasse zu generieren und diese zur Laufzeit zu nutzen.

Jetzt denkt sich die Firma, cool, das ist gut für die Sicherheit und kann anderen Software-Entwicklern ebenfalls helfen. Diese eine Komponente, die nichts mit dem eigentlichen gewerblichen Sinn der entwickelten Software direkt zu tun hat, stellt die Firma als OS bereit. Und genau dann soll die Firma dafür haften. Wenn diese Software-Komponente von Stefan Skript-Kiddy runtergekloppt wurde, dann ist Stefan aus der Haftung raus.

Das diese Gesetzgebung in der EU nicht förderlich für die Qualität von OS-Software ist, sollte allen klar sein. Und das sich der Verbraucherschutz dadurch verkehrt ...

Es ist nur noch eine Frage der Zeit bis Firmen die Nutzung ihrer OS-Komponenten innerhalb der EU verbieten.

Da hat die EU dann alles richtig gemacht. :-D

 

[lisanet]

Folgende Situation:
Eine Firma bietet eine Software für die Aussortierung der Gummibärchen ohne Beine an. Dabei handelt es sich um eine Client-Server-Entwicklung. Die Kommunikation erfolgt über REST. Wie es sich für eine sichere Software gehört, werden die eingehende Objekte nach dem Mapping validiert. Die Basis der Validierung bilden Annotation in den Daten-Objekten die zur Compile-Zeit genutzt werden um eine Validierungs-Klasse zu generieren und diese zur Laufzeit zu nutzen.

Jetzt denkt sich die Firma, cool, das ist gut für die Sicherheit und kann anderen Software-Entwicklern ebenfalls helfen. Diese eine Komponente, die nichts mit dem eigentlichen gewerblichen Sinn der entwickelten Software direkt zu tun hat, stellt die Firma als OS bereit.

Nochmal: Es ist ein _Verbraucherschutzgesetz_

Personenschäden:

Die Haftung besteht für Personenschäden. Ich finde es sehr sinnvoll, wenn für Personenschäden durch Software eine Haftung besteht. Die Frage stellt sich eher, ob deine Software überhaupt einen Personenschaden verursachen kann.

Sachschäden und Beschädigung/Vernichtung von Daten:

Die Haftung besteht _nicht_ für dn gewerblichen/berulfichen Einsatz/Zwecke.

Die Komponente deines Beispiels müsste also eine Privatperson einsetzen zu privaten, nicht beruflichen Zwecken und müsste dadurch an privaten Sachen und/oder Daten einen Schaden erleiden. Dafür wird gehaftet.

Deine Komponente wird aber wohl eher im beruflichen / gewerblichen Umfeld eingesetzt. Ergo: keine Haftung.

Zudem:

Erst mal haftet der Hersteller des Produktes. Das ist in deinem Beispiel der Entwickler, der sich die Komponente nimmt und sie in seine Software einbaut und dann seine Software an Privatpersonen vertreibt.

Der Komponenten-Hersteller haftet nach der Richtlinie nur dann für seine Komponente, wenn die Komponente unter seiner Kontrolle in ein anderes Produkt integriert wird. In deinen Beispiel ist das wohl nicht der Fall. Lies dazu mal Artikel 8 (1) b der Richtlinie.


Ich habe den Endruck, dass du dich da rein steigerst und die Details dabei aber nicht bedenkst. Es ist sicher nicht so dramatisch wie du dir das nun ausmalst. Es ist auch nicht so, dass sobald ein Schaden eintritt, sofort die Haftung feststeht. Es gibt immer noch die Notwendigkeit eines Beweises durch den Geschädigten zur Fehlerhaftigkeit, Ursächlichkeit und Schaden. Da wird zwar viel erleichtert, vermutet (besonders zur Fehlerhaftigkeit) und auf den Hersteller verlagert, aber ein Mindestmaß ist immer noch vorhanden. Es muss kein Verschulden des Herstellers an der Fehlerhaftigkeit nachgewiesen werden. Hierzu gibt dir Artikel 10 der Richtlinie die Infos.

UND:

Bereits seit 01.01.2022 gibt es in D eine sehr weitgehende Haftung für Schäden durch Software, teilweise weitergehender als die der Richtlinie. Die Haftung gem BGB gilt u.a. auch für gewerbliche Verwender der Software / Beschädigung von zu gewerblichen Zwecken genutzte Sachen/Daten

Ich kann seitdem nicht feststellen, dass in D weniger Software an Privatkunden oder an gewerbliche Kunden vertrieben wird.

Edit:

was ich an der Richtlinie als kritisch erachte ist, dass der Hersteller eine Offenlegungspflicht hat, sprich er muss dem Kläger (unter bestimmten Voraussetzungen) Beweismittel offenlegen, damit der Kläger eben seine Ansprüche durchsetzen kann. Tut er das nicht wird die Fehlerhaftigkeit des Produktes vermutet. Das kenne ich so bisher nur im US-amerikanischen Rechtssystem

 

[gishmo]

Vorweg, wir reden hier nicht von meiner Software ... das ist hypothetisch.

Generell hast Du in deiner Ausführung Recht. Allerdings sind deutsche Gerichte in Ihrer Rechtssprechung nicht zwingend immer dieser Ansicht. Siehe Arzneimittelhaftung.

> Ich kann seitdem nicht feststellen, dass in D weniger Software an Privatkunden oder an gewerbliche Kunden vertrieben wird.

Der Schrei erfolgt erst, wenn vermeintlich was passiert ist. Und es geht nicht um den Vertrieb. Es geht um die Nachteile, die der Software-Industrie in der EU entstehen. Ich gebe Dir allerdings Recht. Die ganzen grossen Tech-Unternnehmen sitzen im ausserhalb der EU. Von daher spielt es eh eine untergeordnete Rolle.

 

[lisanet]

Siehe Arzneimittelhaftung.

Die Arzneimittelhaftung ist komplett anders geregelt als die hier dargestellte Richtlinie. Dort besteht eine echte Gefährdungshaftung für dem Arzneimittelgesetz (AMG) unterliegenden Arzneimitteln.

Ich weiß nicht was du damit überhaupt ausdrücken willst, gehen Gerichte über den Umfang des AMG hinaus (wobei ich gar nicht wüsste, über was man da hinaus gehen könnte) oder meinst du, dass Gerichte das AMG nicht anwenden?

Ich habe mich 4 Jahrzehnte beruflich mit all diesen Dingen der Haftung von Unternehmen befasst und ich bezeichne mich da schon als sehr versiert.

 

[gishmo]

Ich stelle Die Kompetenz nicht in Frage. Ganz im Gegenteil, ich halte deine Kommentare für ausgesprochen fundiert und lese diese gerne.

Ich bin bzgl. dieses Themas deswegen sensibilisiert, da ich in den letzten JZ durchaus andere Erfahrungen gemacht. Bzgl. des AMGs möchte ich das nicht in einem public Forum diskutieren.