[ crodream @ 22.03.2005. 09:48 ] @
gledam jedan svoj manji site i primjetio meni čudnu stvar, radi se o bandwidthu, prema statistici ovaj mjesec su google i msn potrošili:

MSNBot 12295+72 | 494.17 MB
Googlebot 10657+36 | 433.58 MB

što je zajedno skoro 1gb bandwidtha dok je cijeli promet od posjete samo
133mb za cijeli mjesec, uz napomenu da se radi o maloj stranici sa svega 57 datoteka.

jel to uobičajeno ili da grešku tražim u statistici ili?
[ boccio @ 22.03.2005. 11:57 ] @
pa zavisi...pogledaj raw logove sta su googlebot i msnbot kupili pa napravi racunicu...uvek mozes da iskoristis robots.txt da ih malo "ohladis"...
[ crodream @ 22.03.2005. 13:22 ] @
vidim neko dupliranje linka od strane msn a vjerojatno i google no ne kužim kako ga je dobio jer se radi o običnim html datotekama bez ikakvih skripti:

primjer:
http://domena.com/registracija...ri/programiranje/optimizacija/

http://domena.com/registracija...ogramiranje/web-dizajn/pro.php

i tako u nedogled, izgleda da se vrti u krug
[ BURA @ 24.03.2005. 09:46 ] @
Meni je google prije tri dana napravio 50 000 učitavanja stranice?!?!
U log fajlovima se dobro vidi da je google bot. To mi je već napravio prvi put mjesec bana nakon što sam stranicu prijavio (01.2005) i to 13 000 učitavanja.
Stranica jeste malo veća ali nije ni 20% od onog što je u planu da se nadogradi. Srećom nemam ograničen promet ali opet 50 000 je previše.
[ crodream @ 24.03.2005. 11:08 ] @
iskreno ne znam što da napravim ždere bandwidth užasno samo na msn i google ovaj mjesec će otić 2gb, malo sam robots.txt porikatao da indeksira samo zadane direktorije pa ćemo vidjet iako je već bio msn ali opet u jednom navratu potrošio 50mb bandiwidtha
[ boccio @ 24.03.2005. 11:16 ] @
FYI pocetkom aprila se ocekuje PR update pa su deepcrawleri malo agresivni :)
[ crodream @ 24.03.2005. 20:24 ] @
a ne znam prevelika mi to agresivnost:), vjerojatno ja imam grešku negdje
[ Mister Big Time @ 04.04.2005. 23:49 ] @
Ah ti botovi. Sta je problem sto ti 1 GB mesecno ode na botove? Jedino ako imas neki bedni limit od 1.5 GB recimo, e onda je problem.
[ crodream @ 05.04.2005. 07:48 ] @
zato što stranica ima 50 fileova i posjetu od 30 ljudi dnevno:)