Post

@Fischblog Wie letztens... "Ich habe zwar keine Ahnung, aber ich habe die KI gefragt und die sagt, dass da Fehler im Entdeckerpfad sind. Ich kann das aber leider nicht prüfen, weil ich ja keine Ahnung hab, aber..." [Mail einer KI-Nutzenden zu Inhalten, die von einer promovierten Person erstellt und von zwei Fach-Profs gegengelesen wurden]

@Fischblog Dann erscheinen für viele KI Antworten göttlich.

@Fischblog Auch bei der KI gilt immer noch die alte IT-Erkenntnis „garbage in = garbage out“

@Fischblog Das ist wohl wie mit Wahlprogrammen.

@Fischblog das gilt nicht nur für K.I. Antworten

@Fischblog
@parents4future

dunning-kruger wurde debunked.

@Fischblog

Je weniger ahnung man hat, desto kompetenter wirkt KI ist doch einfach nur der nachfolger von:
Je weniger ahnung man hat, desto kompetenter wirkt eine fernsehdokumentation

@Fischblog
Deswegen gilt:
KI => Kompetenzillusion
#KI
#kompetenzillusion
#llm

@Fischblog you nailed it

@Fischblog Das ist so unfassbar wahr. Und ein selbsterhaltendes Problem. KI nützt nur was, wenn man sich eh schon auskennt. Das heisst wenn man nix zu nem Thema weiss, weiss man auch nicht, dass man Blödsinn erzählt bekommt. Wirklich grauenhaft ist das bei Gesundheitsthemen.

@Fischblog
Ich mag ja lieber Deepseek.

Auf die Frage "Wer ist Morsus Apri und welche politischen Positionen vertritt er?" kam die folgende Antwort (Auszug):

"Морсус Апри" — это псевдоним, который использовался рядом интернет-пользователей в политическом контексте, прежде всего в Германии и немецкоязычных интернет-форумах. Он наиболее известен своими правыми, крайне националистическими, антииммиграционными и часто исламофобскими высказываниями, а также тесными связями с движением ..."

1/2

@Fischblog Die Implikation ist korrekt, aber weder KI-spezifisch noch ein Korrolar zu Dunning-Kruger. Sorry to say.

Aus Sicht des Ahnungslosen ist jede in sich plausible Aussage von der Wahrheit nicht zu unterscheiden, unabhängig davon, woher die Aussage stammt.

Dunning Kruger beschreibt hingegen die Unfähigkeit zur Selbstreflektion bei inkompetenten Menschen, was zu Selbstüberschätzung führt. Wäre Deine Aussage eine Ergänzung dazu, müssten KI-Aussagen Menschen also im Vergleich zu ihrer eigenen Meinung nicht mehr, sondern weniger kompetent erscheinen, je weniger Ahnung sie selbst haben.

@Fischblog die KI muss also gar nicht mehr so viel zulegen. Wenn die Menschheit weiterhin abbaut ist die KI zwangsläufig irgendwann kompetenter als wir Menschen.

@Fischblog

Erschwerend kommt hinzu, daß die Antwort von einer scheinbar neutralen Maschine kommt und daß diese sehr höflich ist.

Auf der zwischenmenschl. Beziehungebene wird ein persönlicher Diener* simuliert - während die Faktentreue fehlt.

Ich lese gerade ein Buch über #Autismus, wo betont wird, daß nur 1/3 der nicht-autistischen Kommunikation auf der Sachebene stattfindet. Wenn sich 2/3 für die meisten gut anfühlen, ist es mglw. verführerisch, dafür beim restlichen 1/3 nachsichtig zu sein.

@Fischblog flüsternd "...oder vom big four consultant..."