Discussion
@timaeus Unterlassen, wegen https://en.wikipedia.org/wiki/Colossus_(data_center). Oder ist #Klimaanpassung hier als Sportsgeist nach der Pfeife von Musk, Bezos & Co. zu verstehen?
Mit #Ollama, #LLMStudio & Co. können offene, kostenlose Modelle lokal genutzt und eben mit eigenem Ökostrom betrieben werden: https://www.theregister.com/on-prem/2024/03/17/how-to-run-an-llm-locally-on-your-pc-in-less-than-10-minutes/1412826
Bzw. Habt ihr Tips wie ihr tool calling optimiert über #Konnektoren, in #cowork oder #ClaudeCode?
@timaeus Unterlassen, wegen https://en.wikipedia.org/wiki/Colossus_(data_center). Oder ist #Klimaanpassung hier als Sportsgeist nach der Pfeife von Musk, Bezos & Co. zu verstehen?
Mit #Ollama, #LLMStudio & Co. können offene, kostenlose Modelle lokal genutzt und eben mit eigenem Ökostrom betrieben werden: https://www.theregister.com/on-prem/2024/03/17/how-to-run-an-llm-locally-on-your-pc-in-less-than-10-minutes/1412826
@gittaca ich habe meinen Zweifel, das wenn alle Nutzerinnen sich eigene Infrastruktur aufbauen, das wirklich Ressourcenschonender ist. Aber sicher bin ich mir nicht.
Install bonfire.cafe
Get the full app experience
