Discussion
Loading...

Discussion

  • About
  • Code of conduct
  • Privacy
  • Users
  • Instances
  • About Bonfire
spla
@spla@mastodont.cat  ·  activity timestamp 2 months ago

#Amazon és el bot més agressiu xafardejant mastodont.cat en un dia

cat /var/log/nginx/mastodont.cat.access.log.1 | grep "Amazonbot" |wc -l
18473

18.473 "escrapejades" en total, principalment enllaços a mitjans externs però:

cat /var/log/nginx/mastodont.cat.access.log.1 | grep "Amazonbot" | grep "/@" | wc -l
907
o sigui, 907 intents d'obtenir tuts de diversos usuaris.

cat /var/log/nginx/mastodont.cat.access.log.1 | grep "Amazonbot" | grep "/tags" | wc -l
271 -> tuts d'etiquetes

#scraping

  • Copy link
  • Flag this post
  • Block
worr
@worr@mastodont.cat replied  ·  activity timestamp 2 months ago
@spla Has pensat en Anubis per bloquejar els bots? Diferents projects de FOSS l'ha trobat molt efectiu

(i una nota: es diu "scraping," no "scrapping." "scrapping" vol dir una cosa completament diferent)

  • Copy link
  • Flag this comment
  • Block
spla
@spla@mastodont.cat replied  ·  activity timestamp 2 months ago

@worr vaig estar mirant Anubis però no sé com s'integraria amb un servidor Mastodon, no crec que agradi massa veure la pàgina de verificació d'Anubis abans de veure el contingut que es vol.
Gràcies per la correcció a "scraping"!

  • Copy link
  • Flag this comment
  • Block
Maquinari.cat
@maquinari_cat@mastodon.social replied  ·  activity timestamp 2 months ago
@spla Repassa la rotació de logs, no sigui que de tant bloquejar t'ompli el disc de porquería 😀
  • Copy link
  • Flag this comment
  • Block
spla
@spla@mastodont.cat replied  ·  activity timestamp 2 months ago
@maquinari_cat és automàtica des de sempre 💪
  • Copy link
  • Flag this comment
  • Block
spla
@spla@mastodont.cat replied  ·  activity timestamp 2 months ago

Des de les 7 de la tarda d'ahir, #fail2ban està bloquejant automàticament totes les IPs de bots xafarders, no només Amazonbot. Ara mateix ja ha bloquejat un total de 1.171 IP, bloqueig actiu de 327.
Edito: cap robot obté res de mastodont.cat, només "veuen" que s'ha interromput la connexió gràcies a una configuració específica de nginx (el programari que serveix continguts).

#scraping #BotsXafarders

filtre de fail2ban que bloqueja bots xafarders
filtre de fail2ban que bloqueja bots xafarders
filtre de fail2ban que bloqueja bots xafarders
  • Copy link
  • Flag this comment
  • Block
Cabòries Entròpiques 🦣 🤦🖤🤟
@4n0n1m8@mastodont.cat replied  ·  activity timestamp 2 months ago
@spla
culet
  • Copy link
  • Flag this comment
  • Block
sara :hometown:
@Caelumtangi@mastodont.cat replied  ·  activity timestamp 2 months ago
@spla fem una etiqueta exclusivament per aquest bot, i l' insultem! 😅
  • Copy link
  • Flag this comment
  • Block
spla
@spla@mastodont.cat replied  ·  activity timestamp 2 months ago
@Caelumtangi 😅
  • Copy link
  • Flag this comment
  • Block
Log in

bonfire.cafe

A space for Bonfire maintainers and contributors to communicate

bonfire.cafe: About · Code of conduct · Privacy · Users · Instances
Bonfire social · 1.0.0-rc.3.13 no JS en
Automatic federation enabled
  • Explore
  • About
  • Members
  • Code of Conduct
Home
Login