Huhu ich mache gerade eine Fachrecherche zum Thema #Bäume und #Klimaanpassung. Dafür nutze ich ein #anthropic #claude Abo und die Smartphone App. Mir ist aufgefallen, das ich hier explizit sagen muss, dass über #toolcalling wissenschaftliche Literatur / Datenbanken durchforstet werden. Sonst werden die Fragen aus dem Modell beantwortet. Bei Tech Themen (Recherche zu einem Vergleich verschiedener Smartphones) wird automatisch über Tool calling das Web durchsucht. Was sind eure Erfahrungen?
8
Replies
0
Boosts
Bzw. Habt ihr Tips wie ihr tool calling optimiert über #Konnektoren, in #cowork oder #ClaudeCode?
@timaeus Unterlassen, wegen https://en.wikipedia.org/wiki/Colossus_(data_center). Oder ist #Klimaanpassung hier als Sportsgeist nach der Pfeife von Musk, Bezos & Co. zu verstehen?
Mit #Ollama, #LLMStudio & Co. können offene, kostenlose Modelle lokal genutzt und eben mit eigenem Ökostrom betrieben werden: https://www.theregister.com/on-prem/2024/03/17/how-to-run-an-llm-locally-on-your-pc-in-less-than-10-minutes/1412826
@gittaca Danke für den Hinweis ich nehme mir das nochmal zu Herzen 💚.
@timaeus Wenn Du auf Probleme mit einem lokalen Setup stößt, sag gerne Bescheid.
@gittaca Danke für das Angebot. Der erste Schritt wäre vermutlich potente Hardware mit mindestens 24 GB VRAM oder?
@timaeus Hilft sicherlich, aber messen was jetzt schon geht, ist auch möglich: https://www.llmfit.org/
@gittaca ich habe meinen Zweifel, das wenn alle Nutzerinnen sich eigene Infrastruktur aufbauen, das wirklich Ressourcenschonender ist. Aber sicher bin ich mir nicht.
