Möglicherweise kann man das, aber selbst das mache ich nicht. Alles was mit KI/AI zu tun hat, ist immer das erste, das ich abschalte, wenn mir diese Möglichkeit geboten wird. Ansonsten nutze ich es einfach nicht und das ist nicht verhandelbar.
Nicht aus Angst, sondern weil ich davon nicht überzeugt bin, weil ich die Resultate und die sich daraus ergebenden "Möglichkeiten" kenne, weil ich es ablehne, die Kontrolle abzugeben. Ich nutze meine eigene KI/AI = Brain 1.0! Sie wird tagtäglich geupdatet.
		
		
	 
Das ist eine häufig anzutreffende Angst und die ist auch ernst zu nehmen! Würde man Large Language Models so unreflektiert nutzen (und einige tun das auch), würde ich der Argumentation zu 100% folgen!
Tatsache ist, dass LLMs Möglichkeiten bieten die sich einem nur erschließen wenn man es massiv mit Human Brain 1.0 nutzt. Dazu gehört vorher strukturiert zu überlegen welches Problem ich lösen will. Welchen Teil ich davon selbst am besten lösen kann und welchen Part ein LLM besser übernehmen kann und wie ich die Aufgabe dann beschreibe, dass das LLM das und nur das macht wozu ich es auffordere.
Man muß das nicht tun, da gebe ich Dir vollkommen recht 
@Symbiose , ich sehe für *mich* aber ganz klar berufliche Vorteile und die nur und ausschließlich i einer sehr reflektierten Nutzung.
Ich sehe immer wieder Leute blind Fragen in KIs tippen oder gar sprechen ohne zu reflektieren was sie da tun und das ist in der Tat sinnleer und die Resultate sind es dann auch. 
LLMs zu nutzen bedeutet einen höheren Aufwand bei der Formulierung und Strukturierung der Aufgabenstellung. Kurioserweise können sie dadurch auch zur Strukturierung von größeren Aufgaben genutzt werden, wenn man es richtig macht und die Zwischenergebnisse validiert bis das Resultat korrekt ist.
LLMs werden nach Analysen von 2 Gruppen genutzt: Die einen die keine Kenntnisse haben und mit LLMs welche vorgeben wollen ( beim Software Entwickeln Vibe Code genannt) oder die, die Kenntnisse im überdurchschnittlichen Rahmen haben und diese nutzen um ihre Leistung/Effizienz weiter zu steigern. Ersteres ist unreflektiert und führt zu keinen nutzbaren Ergebnissen ( allenfalls für Scripts, nicht jedoch für Software Entwicklung).
Wir dürfen Eines nicht außer acht lassen: Da passiert gerade etwas das groß ist. Groß deswegen, weil die Evolution seit Jahrtausenden versucht die Leistung unserer Gehirne zu verbessern und dabei an Limits stößt (etwa die Versorgung dieses Apparates). Viel mehr als bei uns geht derzeit auf der Evolutionsstufe nicht. Bei Vögeln hat sich eine andere Art Hirn durchgesetzt, Raben und Andere können mit sehr viel kleineren Gehirnen Dinge erbringen die einen nur staunen lassen. LLMs sind das erste Werkzeug, nach der Schrift und dem Video, die es uns erlauben die Leistung quasi extern zu erhöhen ( man darf das Prothese nennen denke ich). Ich spreche einige natürliche Sprachen, ich beherrsche auch viele Programmiersprachen. 
Mit einem LLM kann ich sehr schnell eine neue (Programmier-)sprache für mich nutzbar machen und sie dabei auch erlernen. Diese Erweiterung ist unbezahlbar, auch die Menge an eigentlich nicht relevanten Wissens (ich habe neulich nachgesehen wie lange eine bestimmte Rebsorte dekantiert werden muß und das ist in einem LLM enthalten in meinem Hirn nicht).
Wir sind da also erstmals dabei mit einem Werkzeug die Leistung unseres Gehirns durch etwas externes massiv erweitern zu können. Das schafft Angst bei Leuten die damit nicht vertraut sind. Das schafft Angst bei Leuten die immer nur die Risiken sehen statt der Chancen ( das ist die Sache mit dem halbtollen Wasserglas). Diese bekommen recht von der kritiklosen Nutzung solcher Werkzeuge - weil diese Leute dann irgendwann ohne Prothese nicht mehr denken können. Darum ist es wichtig hier ein Gegengewicht zu setzen und aufzuklären, dass es eine bewußte, reflektierte und von Menschen gesteuerte Nutzung geben kann. 
Denn sonst kommen wieder nur die Warnungen durch und wir reden schon zu viele Dinge kaputt und klein bevor wir auch nur evaluieren sie ggf. positiv zu nutzen. Und es ist wie immer in der Evolution: andere werden alle Werkzeuge nutzen, skrupellos. Daher gehen diese Werkzeuge auch nicht mehr weg und man ist gut beraten sich aktiv damit zu beschäftigen - was sicher nicht heißt alles gut zu heißen...oder das as Apple AI nennt in seinen Apps als gute Nutzung anzusehen.