gittaca
@gittaca@chaos.social  ·  activity timestamp 2 weeks ago
@prefec2 @zendis Wenn ich https://f13-os.de/microservices/rag/docs/rag/configuration-container/ richtig verstehe, werden #Ollama- & #HuggingFace-gehostete Modelle eingebunden.

Aber mal im Ernst: Wieso sollte Verwaltung sowas einsetzen?

> Es liegt in der Natur der Sache, dass generative KI Halluzinationen entwickelt. Dies kann nicht verhindert werden.
> -- https://f13-os.de/faq/#hintergrund-zu-ki-sprachmodellen-und-die-datengrundlage-von-f13

Falsche Sache! Holzweg!
Reiner Jung
@prefec2@norden.social replied  ·  activity timestamp 2 weeks ago
@gittaca @zendis was die Menschen in der Verwaltung wollen und was sie brauchen ist nicht unbedingt dasselbe. Das Wollen ist aber ein guter Aufhänger. In der Regel wünschen sie sich, dass Software gut integriert ist und, dass es schnell geht. Was sie brauchen ist Automation und datengetriebene Workflows. Also ein bisschen wie in der Wissenschaft.
gittaca
@gittaca@chaos.social replied  ·  activity timestamp 2 weeks ago
@prefec2 @zendis Genau. Vielleicht wäre aber mal die Frage angebracht, was der Mensch (Verwaltungsangestellte:r, Bürger:in) _möchte_? Statt über TechBro-Stöckchen zu springen.

Und: Es ist schon sichtbar, dass es eben nicht produktiver macht. Selbst wenn's +paar% wären: Zu welchem Preis? LLM-Provider-Abhängigkeit, Stromverschwendung (OK, in SH vielleicht weniger problematisch), Investment-Blase (siehe #NVidia-Aktie in Fonds: https://www.iheart.com/podcast/1119-better-offline-150284547/episode/the-haters-guide-to-the-ai-287260463/), Abgewöhnung von selber-Denken & -Lesen, etc.