2chってぐぐったらマジでscがトップでワロタ #21

21以下、名無しにかわりましてVIPがお送りします:2015/03/30(月) 18:15:30.55 ID:8IntJAif

scのクローラと思わしきホストを弾こうがdat直読みを廃止しようがscのクロールが止まらない

↓ここからは俺の想像
scがGoogle Proxyの類を利用して(Googleクローラを装って)クロール(htmlからdatに変換して取得)しているんじゃね?
と思ってGoogleクローラを弾くが効果無しで弾くのを止めた
(検索エンジンのクローラを弾くだけならIPアドレスでBANしなくてもrobots.txtでお引き取り願える)

robots.txtは内容を見るとdatしかブロックしていないので上記の件とは殆ど無関係に思える
dat直読み廃止したし検索エンジンのクローラに対して無駄なことするなよってことで置いただけっぽい

このスレッドを全て表示


このスレッドは過去ログです。