@Fischblog Wie letztens... "Ich habe zwar keine Ahnung, aber ich habe die KI gefragt und die sagt, dass da Fehler im Entdeckerpfad sind. Ich kann das aber leider nicht prüfen, weil ich ja keine Ahnung hab, aber..." [Mail einer KI-Nutzenden zu Inhalten, die von einer promovierten Person erstellt und von zwei Fach-Profs gegengelesen wurden]

@Fischblog Dann erscheinen für viele KI Antworten göttlich.

@Fischblog Auch bei der KI gilt immer noch die alte IT-Erkenntnis „garbage in = garbage out“

@Fischblog Das ist wohl wie mit Wahlprogrammen.

@Fischblog das gilt nicht nur für K.I. Antworten

@Fischblog
@parents4future

dunning-kruger wurde debunked.

@Fischblog

Je weniger ahnung man hat, desto kompetenter wirkt KI ist doch einfach nur der nachfolger von:
Je weniger ahnung man hat, desto kompetenter wirkt eine fernsehdokumentation

@Fischblog
Deswegen gilt:
KI => Kompetenzillusion
#KI
#kompetenzillusion
#llm

@Fischblog you nailed it

@Fischblog Das ist so unfassbar wahr. Und ein selbsterhaltendes Problem. KI nützt nur was, wenn man sich eh schon auskennt. Das heisst wenn man nix zu nem Thema weiss, weiss man auch nicht, dass man Blödsinn erzählt bekommt. Wirklich grauenhaft ist das bei Gesundheitsthemen.

@Fischblog
Ich mag ja lieber Deepseek.

Auf die Frage "Wer ist Morsus Apri und welche politischen Positionen vertritt er?" kam die folgende Antwort (Auszug):

"Морсус Апри" — это псевдоним, который использовался рядом интернет-пользователей в политическом контексте, прежде всего в Германии и немецкоязычных интернет-форумах. Он наиболее известен своими правыми, крайне националистическими, антииммиграционными и часто исламофобскими высказываниями, а также тесными связями с движением ..."

1/2

@Fischblog Die Implikation ist korrekt, aber weder KI-spezifisch noch ein Korrolar zu Dunning-Kruger. Sorry to say.

Aus Sicht des Ahnungslosen ist jede in sich plausible Aussage von der Wahrheit nicht zu unterscheiden, unabhängig davon, woher die Aussage stammt.

Dunning Kruger beschreibt hingegen die Unfähigkeit zur Selbstreflektion bei inkompetenten Menschen, was zu Selbstüberschätzung führt. Wäre Deine Aussage eine Ergänzung dazu, müssten KI-Aussagen Menschen also im Vergleich zu ihrer eigenen Meinung nicht mehr, sondern weniger kompetent erscheinen, je weniger Ahnung sie selbst haben.

@Fischblog die KI muss also gar nicht mehr so viel zulegen. Wenn die Menschheit weiterhin abbaut ist die KI zwangsläufig irgendwann kompetenter als wir Menschen.

@Fischblog

Erschwerend kommt hinzu, daß die Antwort von einer scheinbar neutralen Maschine kommt und daß diese sehr höflich ist.

Auf der zwischenmenschl. Beziehungebene wird ein persönlicher Diener* simuliert - während die Faktentreue fehlt.

Ich lese gerade ein Buch über #Autismus, wo betont wird, daß nur 1/3 der nicht-autistischen Kommunikation auf der Sachebene stattfindet. Wenn sich 2/3 für die meisten gut anfühlen, ist es mglw. verführerisch, dafür beim restlichen 1/3 nachsichtig zu sein.

@Fischblog flüsternd "...oder vom big four consultant..."

@Fischblog tja, und doch bleibt einem leider oft nicht viel mehr übrig, als sich iterativ durch KI Antwort und Recherche durch zu oszillieren. Man hat ja nunmal keinen Zugriff auf beliebige Experten.

@Fischblog Deshalb sind Manager und Finanzfuzzis ja so begeistert von KI!

Daraus ergibt sich eine logische Folgerung: je begeisterter eine Gruppe von KI ist, umso einfacher ist es, sie durch KI zu ersetzen, ohne dass es jemand merkt.

@Fischblog

Völlig klar.
LLMs sind die Manager unter den Maschinen.
Überzeugendes Auftreten bei völliger Ahnungslosigkeit in Perfektion.

@Fischblog

Wer nichts weiß, muss alles glauben.

@Fischblog zusätzlich sollte mensch den Bestätigungsfehler nicht unterschätzen: LLM sind großteils darauf optimiert zu generieren, was vom Promter erwartet wird (immerhin ist es unterhaltsam, wenn man die KI eine Antwort genau negieren lässt).

@Fischblog Mathestudium-Vibes. Unterschreibe ich (auch)

@Fischblog Ich erlebe einen Aufstieg der Blender dank KI.

@Fischblog Maßlose Selbstüberschätzung gepaart mit grenzenloser Selbstliebe, was soll da schief gehen.

@Fischblog
Spannend.
Aus dem Effekt leitet sich ja eine "Abwertung echter Expertise" ab. Somit ist noch nicht "gegeben" wie er sich auf KI generierte Antworten auswirkt:

Ich denke man muss hier über die Prämisse argumentieren, dass die KI dem Fragestellenden versucht Recht zu geben. Denn alternativ, würde die KI korrigierend einwirken, dann wäre das zu erwartende Ergebnis eher im Sinne von "Abwertung der KI-expertise". Somit stünde dein Zusatz im Konflikt mit dem Haupteffekt!

@Fischblog Das gilt übrigens auch für Filme, Bücher, Artikel, Diskussionsrunden, etc.

@Fischblog
Das ist auf jeden Fall meine Erfahrung.
Andersrum: je mehr ich Ahnung von einem Thema habe, desto banaler sind die Antworten im Besten Fall.

@Fischblog
Oh, ja. Das ist besonders anstrengend, wenn Kollegen dann mit strahlenden Augen bei mir aufschlagen und mir von den neuesten Erkenntnissen berichten, die sie durch KI Antworten erhalten haben wollen.

@Fischblog Mal davon abgesehen, dass ich mir noch keine abschließende Meinung zu den Kritiken an dem vermeintlichen Dunning-Kruger-Effekt gebildet habe (z.B. https://www.psychologytoday.com/us/blog/how-do-you-know/202012/dunning-kruger-isnt-real):

Spielen hier nicht mehrere Faktoren hinein? Base Prompts, die Chatbots mit Überzeugung auftreten lassen; eine Neigung zur Distanzierung von Wissenschaft in bestimmten Milieus, die sich irgendwie als Anti-Establishment begreifen und eher technizistisch eingestellt sind?

@Fischblog Auch zu selten genutzt: Toupee Fallacy. Viel leichter verständlich als die Kampfjet-Anekdote zum Survivorship Bias.

@Fischblog jedes Mal, wenn jemand die KI befragt und das einfach ungeprüft hinnimmt, stirbt etwas in mir 😭

@Fischblog Ich hatte vorgestern ne Unterhaltung mit jemanden der nicht verstehen wollte wieso neuronale Netze ne komplett andere Technologie sind als LLMs... 🙄

@Fischblog @qwertziop „das fischer-corrolar“ 🤔

@Fischblog daher steigt auch IMO die Ablehnung von KI Output kausal mit der Sachkompetenz zum Thema.

@Fischblog Aber warum mag dann mein Professor, der quasi der Begründer seines Forschungsbereiches ist, die KI so sehr? (Meine Hypothese ist, dass die KI-Antworten ja aus seinen Texten generiert werden, und es ihm deshalb alles so richtig vorkommt)

@Fischblog das trifft es perfekt! 😁

@Fischblog KI sind so unglaublich intelligent. Sie werden nur noch von zwei Menschen auf der Welt übertroffen.

@Fischblog Klingt sinnvoll. Und vor allem: Je weniger Ahnung man hat, desto verlockender ist es, eine KI zum Thema zu befragen.