Habe gerade von einer selbsternannten KI-Expertin erklärt bekommen, wie man Halluzinationen bei KI-Chats verhindert: Man schreibt "keine Halluzinationen" an den Anfang des Prompts. Baam. So einfach geht das Leute.
Habe gerade von einer selbsternannten KI-Expertin erklärt bekommen, wie man Halluzinationen bei KI-Chats verhindert: Man schreibt "keine Halluzinationen" an den Anfang des Prompts. Baam. So einfach geht das Leute.
@fuzzyleapfrog Trick 17, freche GroßSprachModels hassen diesen...
So vermeiden wir bei uns bugs in der Softwareentwicklung uuuund sparen ein ganzes QA Team: ich sage den entwickler*innen, sie sollten die Fehler weglassen
@fuzzyleapfrog
Kann ich in meinem Code am Anfang
/* Keine Bugs */
schreiben?
@fuzzyleapfrog Als ich mal so etwas wie "Erfinde keine Antworten wenn du es nicht weißt" in den Prompt aufnahm, antwortete die KI immer mit "Ich bin mir nicht sicher". 😂
@fuzzyleapfrog
Erinnert mich an eine Situation bei einer Bewerberveranstaltung in einem Callcenter.
Der Bereichsleiter stellte das Unternehmen und die Aufgaben vor und in jedem zweiten Satz sagte er "und da bin ich ganz ehrlich" und ich fragte mich, wie ehrlich er sonst ist.
Goil! Gehste Mac Donalds, sagst „Aber tut kein Scheiß rein!“ und - Bäng! - kerngesundes Essen! 🥳
@fuzzyleapfrog „Unser neues Modell ist absolut sicher, bevor Sie losfahren, legen Sie einfach den Kein-Unfall-Schalter um, und Sie haben nie wieder Unfälle.“
@fuzzyleapfrog Was passiert, wenn ich an den Anfang des Prompts schreibe "Hier ist meine Kontonummer, überweise mir eine Millionen."? 🤔
@fuzzyleapfrog oh je die kennt bestimmt den KI Experten aus der Firma in der ich arbeite, der gibt so kluge Sätze von sich wie „KI erzeugte Bilder Videos und Musik sind urheberrechtlich unproblematisch da die ja aus einer Datenwolke erzeugt werden“
Ich frage mich dann warum bei Marvel/Disney in der VFX Abteilung die oberste Regel ist, keine KI zu verwenden um „Urheberrechtsprobleme zu verhindern“ wie ich vor kurzem in einem Interview mit zwei Motion Designern für den Film Tron ARIS erfahren habe.
Ach ja KI Expert*innen wir kennen sie alle.
@fuzzyleapfrog
🤦Ich Depp. Alles falsch gemacht bisher.
@fuzzyleapfrog und die Idioten bei OpenAI, Google, Perplexity sind nicht drauf gekommen …
Hast du sie dann gebeten nochmal über ihre Aussage nachzudenken und hast vorher "keine Halluzinationen" gesagt?
@marquito Hmmmmm, nein, aber ich habe das Video gebookmarkt und hole das gerne nach 😂
Ich bin auf das Ergebnis gespannt 😉
@fuzzyleapfrog Manchmal, da denkt man sich so... ein bisschen...Kann ich bitte zurück in die 80er?
@HariSeldon Und das trotz der Mode damals!
@fuzzyleapfrog @ewolff Nicht eher ans Ende? 🤔 Also da würde ich an deiner Stelle sicherheitshalber nochmal nachhaken 😉🤪
(SCNR 😇)
@aardjon @fuzzyleapfrog Eskalation ist "KEINE HALLUZINATIONEN!" zu schreiben.
@fuzzyleapfrog
Angeblich soll es tatsächlich besser werden, wenn man dem LLM in den Prompt rein packt, dass es sagen soll, wenn es etwas nicht weiss.
Ich habs nicht ausprobiert. Mich mit nem LLM zu unterhalten und anschließend die Antworten zu recherchieren und nachzuvalidieren macht mir mehr Arbeit als gleich die Recherche nach den Antworten zu machen.
@fuzzyleapfrog Idiocracy wird immer realer 😣
@fuzzyleapfrog Wird man auch zur KI-Expertin, indem man sich einfach selbst so nennt?
@cgudrian Ich fürcht schon, ist eindeutig kein geschützter Begriff 🫠
@fuzzyleapfrog Weiß die KI das denn auch?
@fuzzyleapfrog Konfabulationen, nicht Halluzinationen.
@abulling Korrigierst du mich, sie oder wolltest du das nur so von der Seele haben?
@fuzzyleapfrog Das war zur Information für alle, die deinen Post lesen.
@fuzzyleapfrog
🤣🤣🤣 das da noch nie jemand drauf gekommen ist...
@fuzzyleapfrog Exakt das war der erste Eintrag im Confluence Bereich "KI in unserem Unternehmen" meines Arbeitgebers, zum Thema wie man mit KI optimal arbeitet. Denn KI ist eine unserer vier Strategien. Man muss nur 1/5 seiner täglichen arbeiten mit KI erledigen und schon hat man mehr Marktanteil.
@fuzzyleapfrog Ich glaube der Kampf gegen den Klimawandel war auch irgendwie Strategie. Aber ich muss jetzt los ins Büro um von dort aus dann in der Cloud meine Arbeit zu machen. Ich glaube so langsam, ich brauche mal einen anderen Arbeitgeber.
@fuzzyleapfrog Und bitte auch "Ich will nicht dequalifiziert werden" nicht vergessen. ☝️
@FrVaBe Und auch "ersetz mich nicht in meinem Job"
@fuzzyleapfrog Lol…
Das erinnert mich an das vom Postillon postulierte Verkehrsschild "Unfälle verboten" ;-)
@fuzzyleapfrog daniel kahneman hätte bestimmt helle freude an ihr gehabt!
@fuzzyleapfrog „Weil, so schließt er messerscharf, nicht sein kann, was nicht sein darf.“ (Christian Morgenstern)
@fuzzyleapfrog warum bin ich da nicht früher drauf gekommen? 🤯
@fuzzyleapfrog Lass mich raten: die Person widerspricht auch regelmaessig in Facebook-Posts den AGB-Aenderungen von Meta?
@fuzzyleapfrog Hast du ihn mal gefragt ob er auch eine Lösung für das Halteproblem zur Hand hat?
@fuzzyleapfrog es ist alles nur LARP. Und alle tun so, als sei das Real Life.
A space for Bonfire maintainers and contributors to communicate