Discussion
Loading...

#Tag

  • About
  • Code of conduct
  • Privacy
  • Users
  • Instances
  • About Bonfire
gittaca
@gittaca@chaos.social  ·  activity timestamp 4 days ago

@ankoeln @muellertadzio Insb. noch zu 1.: Aufgaben, die zuvor auf'm eigenen PC _deterministisch_ und Strom-effizient gemacht wurden (oder halt im Hirn), werden nun in fossil-gepowerte Rate(!)zentren verschoben. Wie mit dem SUV von Haustür zum Gartenzaun zu fahren, um dort den Briefkasten zu leeren.

gittaca
@gittaca@chaos.social replied  ·  activity timestamp 4 days ago

@ankoeln @muellertadzio Ein mglw. relevanter LLM-Skill mag das selber-Hosten auf eigener Hardware sein. Geht auch für Schönschreibtools.

Dabei helfe ich im Sinne der von Herrn Matzat geforderten "Auseinandersetzung mit der Technologie" gerne, denn mit dem Punkt [wir sollten] "zugewandt, freundlich, hilfsbereit und geduldig agieren" hat er natürlich Recht.

#Ollama #Devstral #LanguageTool

  • Copy link
  • Flag this comment
  • Block
Mike Gifford, CPWA
@mgifford@mastodon.social  ·  activity timestamp 3 weeks ago

I started a little python project to take my ~20 years of #Flickr photos, categorize them and analyze the content using #ollama locally. So far the results are pretty good. Some hallucinations, but mostly useful content.

I'd be interested in knowing if others have tried this. What information has been useful to collect? Face identification is a big area my tool needs some work on. I want to group family/friends.

  • Copy link
  • Flag this post
  • Block
M Schommer
@musevg@chaos.social  ·  activity timestamp 2 months ago

So. Jetzt. Bin ich zwar bei meiner Quest zur #Ollama #localAI etwas schlauer als vorher, aber dafür habe ich jetzt 3 (statt vorher 3) Optionen auf der Liste.
Ratet mir bitte mal… was würdet ihr kaufen?
1. Zwei gebrauchte #RTX 2080 Ti mit 11GB von eBay für je 200-250€
2. Zwei neue 3060 mit 12GB für je ~230€
3. Eine neue 5060 Ti mit 16GB für ~420€
4. Anderes, nämlich…?

  • Copy link
  • Flag this post
  • Block
Tim Chambers boosted
sayzard
@sayzard@mastodon.sayzard.site  ·  activity timestamp 2 months ago

🚀 New Ollama Model Release! 🚀
Model: embeddinggemma
🔗 https://ollama.com/library/embeddinggemma

#Ollama#AI#LLM #mcpo

  • Copy link
  • Flag this post
  • Block
Tim Chambers boosted
Hacker News
@h4ckernews@mastodon.social  ·  activity timestamp 2 months ago

Finding thousands of exposed Ollama instances using Shodan

https://blogs.cisco.com/security/detecting-exposed-llm-servers-shodan-case-study-on-ollama

#HackerNews#Finding#Exposed#Instances#Shodan#Ollama#Cybersecurity#SecurityResearch

  • Copy link
  • Flag this post
  • Block
Tim Chambers boosted
Matt Williams
@technovangelist@fosstodon.org  ·  activity timestamp 2 months ago
#ollama's adding a UI! 🤯 The CLI/API champions are bringing a polished interface. Perfect for new users who want a simple, single-install experience. #ollama #ai#localAIhttps://youtu.be/prrWESXl7wg
  • Copy link
  • Flag this post
  • Block
sayzard
@sayzard@mastodon.sayzard.site  ·  activity timestamp 2 months ago

🚀 New Ollama Model Release! 🚀
Model: embeddinggemma
🔗 https://ollama.com/library/embeddinggemma

#Ollama#AI#LLM #mcpo

  • Copy link
  • Flag this post
  • Block
Matt Williams
@technovangelist@fosstodon.org  ·  activity timestamp 2 months ago
#ollama's adding a UI! 🤯 The CLI/API champions are bringing a polished interface. Perfect for new users who want a simple, single-install experience. #ollama #ai#localAIhttps://youtu.be/prrWESXl7wg
  • Copy link
  • Flag this post
  • Block
Hacker News
@h4ckernews@mastodon.social  ·  activity timestamp 2 months ago

Finding thousands of exposed Ollama instances using Shodan

https://blogs.cisco.com/security/detecting-exposed-llm-servers-shodan-case-study-on-ollama

#HackerNews#Finding#Exposed#Instances#Shodan#Ollama#Cybersecurity#SecurityResearch

  • Copy link
  • Flag this post
  • Block
Mikko Lehtovirta
@drml@mastodontti.fi  ·  activity timestamp 3 months ago
@rolle kun olet #ollama käyttäjä niin olisin kysynyt: kuinka "local" ollama siis perusasetuksilla on. Asensin juuri viimeisimmän päivityksen ja otin käyttöön sen gpt-oss:20b:n mutta jotenkin noista asetuksista saan vaikutelman että se kommunikoisi netin kanssa paitsi jos laitan "lentokonetilan" päälle?
  • Copy link
  • Flag this post
  • Block
Martin
@MartinH@social.cologne  ·  activity timestamp 3 months ago

Verständnisfrage: Ich habe #paperless_ngx auf meiner #Synology NAS installiert.
Ich habe #Ollama und #AnythingLLM auf meinem Desktop-Rechner installiert (aus Leistungsgründen, weil die Synology halt nicht so viel Leistung hat wie ein Desktop-Rechner).
Nun möchte ich #paperless_ai installieren. Wie kann ich das auf dem Desktop tun und mit dem bestehenden Ollama verbinden, damit ich nicht Gefahr laufe, nochmals Ollama auf der Synology NAS zu installieren?
#paperlessai

  • Copy link
  • Flag this post
  • Block
gittaca
@gittaca@chaos.social  ·  activity timestamp 4 months ago
@prefec2 @zendis Wenn ich https://f13-os.de/microservices/rag/docs/rag/configuration-container/ richtig verstehe, werden #Ollama- & #HuggingFace-gehostete Modelle eingebunden.

Aber mal im Ernst: Wieso sollte Verwaltung sowas einsetzen?

> Es liegt in der Natur der Sache, dass generative KI Halluzinationen entwickelt. Dies kann nicht verhindert werden.
> -- https://f13-os.de/faq/#hintergrund-zu-ki-sprachmodellen-und-die-datengrundlage-von-f13

Falsche Sache! Holzweg!

  • Copy link
  • Flag this post
  • Block
Log in

bonfire.cafe

A space for Bonfire maintainers and contributors to communicate

bonfire.cafe: About · Code of conduct · Privacy · Users · Instances
Bonfire social · 1.0.0 no JS en
Automatic federation enabled
  • Explore
  • About
  • Members
  • Code of Conduct
Home
Login