Post

@Fischblog tja, und doch bleibt einem leider oft nicht viel mehr übrig, als sich iterativ durch KI Antwort und Recherche durch zu oszillieren. Man hat ja nunmal keinen Zugriff auf beliebige Experten.

@Fischblog Deshalb sind Manager und Finanzfuzzis ja so begeistert von KI!

Daraus ergibt sich eine logische Folgerung: je begeisterter eine Gruppe von KI ist, umso einfacher ist es, sie durch KI zu ersetzen, ohne dass es jemand merkt.

@Fischblog

Völlig klar.
LLMs sind die Manager unter den Maschinen.
Überzeugendes Auftreten bei völliger Ahnungslosigkeit in Perfektion.

@Fischblog

Wer nichts weiß, muss alles glauben.

@Fischblog zusätzlich sollte mensch den Bestätigungsfehler nicht unterschätzen: LLM sind großteils darauf optimiert zu generieren, was vom Promter erwartet wird (immerhin ist es unterhaltsam, wenn man die KI eine Antwort genau negieren lässt).

@Fischblog Mathestudium-Vibes. Unterschreibe ich (auch)

@Fischblog Ich erlebe einen Aufstieg der Blender dank KI.

@Fischblog Maßlose Selbstüberschätzung gepaart mit grenzenloser Selbstliebe, was soll da schief gehen.

@Fischblog
Spannend.
Aus dem Effekt leitet sich ja eine "Abwertung echter Expertise" ab. Somit ist noch nicht "gegeben" wie er sich auf KI generierte Antworten auswirkt:

Ich denke man muss hier über die Prämisse argumentieren, dass die KI dem Fragestellenden versucht Recht zu geben. Denn alternativ, würde die KI korrigierend einwirken, dann wäre das zu erwartende Ergebnis eher im Sinne von "Abwertung der KI-expertise". Somit stünde dein Zusatz im Konflikt mit dem Haupteffekt!

@Fischblog Das gilt übrigens auch für Filme, Bücher, Artikel, Diskussionsrunden, etc.

@Fischblog
Das ist auf jeden Fall meine Erfahrung.
Andersrum: je mehr ich Ahnung von einem Thema habe, desto banaler sind die Antworten im Besten Fall.

@Fischblog
Oh, ja. Das ist besonders anstrengend, wenn Kollegen dann mit strahlenden Augen bei mir aufschlagen und mir von den neuesten Erkenntnissen berichten, die sie durch KI Antworten erhalten haben wollen.

@Fischblog Mal davon abgesehen, dass ich mir noch keine abschließende Meinung zu den Kritiken an dem vermeintlichen Dunning-Kruger-Effekt gebildet habe (z.B. https://www.psychologytoday.com/us/blog/how-do-you-know/202012/dunning-kruger-isnt-real):

Spielen hier nicht mehrere Faktoren hinein? Base Prompts, die Chatbots mit Überzeugung auftreten lassen; eine Neigung zur Distanzierung von Wissenschaft in bestimmten Milieus, die sich irgendwie als Anti-Establishment begreifen und eher technizistisch eingestellt sind?

@Fischblog Auch zu selten genutzt: Toupee Fallacy. Viel leichter verständlich als die Kampfjet-Anekdote zum Survivorship Bias.

@Fischblog jedes Mal, wenn jemand die KI befragt und das einfach ungeprüft hinnimmt, stirbt etwas in mir 😭