クローラー、スパイダー対策について語りましょう。
参考
http://c-moon.jp/robots.shtml
有名らしい
ttp://www.daj.co.jp/filter/index.htm
[Google]■ロボット型検索エンジン１０■
http://pc2.2ch.net/test/read.cgi/hp/1045657865/
●とにかく神経質で気が小さい、了見が狭い(臆病、二言目には「世間」(「世間」と言っても、一部のＡ型を中心とした一部の人間の動向に過ぎない））
●他人に異常に干渉して自分たちのシキタリを押し付け、それから少しでも外れる奴に対しては好戦的でファイト満々な態度をとり、かなりキモイ（自己中心、硬直的でデリカシーがない）
●妙に気位が高く、自分が馬鹿にされるとカッと怒るくせに平気で他人を馬鹿にしようとする（ただし、相手を表面的・形式的にしか判断できず(早合点・誤解の名人)、実際にはたいてい、内面的・実質的に負けていることが多い）
●権力、強者には平身低頭だが、弱者に対しては八つ当たり等していじめる（強い者にはへつらい、弱い者に対してはいじめる）
●あら探しだけは名人級でウザく、とにかく否定的（例え10の長所があっても褒めることをせず、たった１つの短所を見つけては貶す）
●基本的に悲観主義でマイナス思考に支配されているため性格が鬱陶しい（根暗）
●何でも「右へ習え」で、単独では何もできない（群れでしか行動できないヘタレ）
●少数派の異質・異文化を理解しようとせず、あるいは理解を示さず、排斥する(差別主義者、狭量、視野が狭い、多数派＝正しい と信じて疑わない）
●集団によるいじめのリーダーとなり皆を先導する(陰湿かつ陰険で狡猾）
●他人の悪口・陰口を好むと同時に、自分は他人からどう見られているか、人の目を異常に気にする（自分がそうだから容易に他人を信用できない、ポーズだけで中身を伴っていないことが多い、世間体命）
●自分の感情をうまく表現できず、コミュニケーション能力に乏しい（同じことをレコードの再生のように何度も言って変）
●たとえ友達が多い奴でも、いずれも浅い付き合いでしかなく、心の友達はいない（心の感度が低く・包容力がなく・冷酷だから）
●頭が硬く融通が利かないためストレスを溜め込みやすく、また短気で、地雷持ちが多い（不合理な馬鹿）
●たとえ後で自分の誤りに気づいても、素直に謝れず強引に筋を通し、こじつけの言い訳ばかりする（もう腹を切るしかない！)
●男は、女々しいあるいは女の腐ったみたいな考えのやつが多い(例：「俺のほうが男前やのに、なんでや！（あの野郎の足を引っ張ってやる！！）」）
どこがおもしろいのか教えてくれ。
マジレスなんだがね。
norobotとか何とかは所詮「持ってかないで下さいお願いします」程度の実行力しかない訳で。
何個あるかわからないrobotエンジンすべてのUAやホスト名を弾くのも現実的ではない。
ほら、Webサイトを公開しない位しか選択肢はない。
google、Yahoo、goo程度なら>>3のスレで答えが出てるからそもそもこのスレの存在意義はない。
deny にしてあげよう。
24.138.50.177 - - [11/Mar/2003:16:53:09 +0900] "GET / HTTP/1.1" 200 9881 "-" "Mozilla/4.0 (compatible; grub-client-1.0.7; Crawl your own stuff with http://grub.org)"
adsl-64-165-111-42.dsl.snfc21.pacbell.net - - [11/Mar/2003:17:58:18 +0900] "GET / HTTP/1.1" 302 279 "-" "Mozilla/4.0 (compatible; grub-client-1.0.7; Crawl your own stuff with http://grub.org)"
FAQに
User-agent: grub-client
Disallow: /
で制限できるって書いてあるけど
特に悪質なのだけUA、IPアドレスで弾けばいいのでは
あー別にどーでもいーサイトなので放置しています。
ちゅーか、そもそもrobots.txtを読まないので、(ry
いつまでも保存しておくんじゃねーよ(-_-;)
archive.orgから再構築したことがあるのは秘密。
自分ですら忘れていたような3年前のデータを律儀にとっておいて
くれたことをありがたがったことも秘密。
User-agent: ia_archiver
Disallow: /
User-Agentを指定しないとダメな仕様って好きじゃない
使う前に十分な宣伝をする訳じゃないんだから
一度喰らってからじゃないと制限できないもん
だからここで情報を交換しようと言うわけじゃ無いのか？
無駄な抵抗なんだよ。公開しない。HTTPを使わない。認証システムの導入。これ。
つーか、板違い。Web制作板へ。
この板でやるなら、HTTPレベルではなく、ロボットがやってくるIPアドレスを
ファイアウォールでdenyするぐらいの話をしてください。
見られるかもしれないっていうどきどき感が良いんじゃない？
自宅鯖向きの話題だと思うけどなぁ･･･
注：エンジン次第です
CGIの出力とかクロールしてもしょうがないものをやめさせて
鯖の負担を軽くするもんじゃないの?
そんな数時間に一回飛んでくるとかならまだしも。
こんなのもあるぞ
確証はないが、おそらく デジタルアーツ の 企業情報収集代行 (Net iScope)用 のロボット、
もしくは フィルタリングソフト (「i-フィルター」)のデータベース構築用。
ドメイン名からすると後者っぽいですが、データを流用している 可能性もあり。
大義名分のためか、/robots.txt は読みません。UAもなし。 HEAD→GET したり、
"...#XXX" と "...#YYY" は別に取得するといった、 シロート製ロボットに非常にありがちな動作をします。
(HEAD→GET間は基本的にあかない。 2001/10以降のものはGETのみ)
ドブさらい系ではなく、めぼしい人の物だけを持っていく模様。
取得は割とアグレッシブで、非ブラウザではヒット数１位となる日も めずらしくありません。
単に有害サイト検出にしてはえらく頻度が高いので、 「企業情報収集」に使われているような気もします。
http://www.dais.is.tohoku.ac.jp/logs/agentgripes.html#netfilter
なぁ、この書き方だとその他1%のトップの場合もあり得るわけだ。
自分のサイト内コンテンツ閲覧の際、常にリファ必須とすればよろし。
リファなし或いは自サイトと関係ないまたは存在しないURLのリファだった場合、警視庁にでも
飛ばせばよろし。
以上。
って良し。
古風に表現してみるテスト
ﾊｧ?
まートップページは読まれてしまうが、それ以降は読まれないぞ？
少なくともグーグルボットはリファ吐かないから自サイト外へ飛ばせるが何か？
最近のパーソナルファイヤーウォールソフトはブラウザにリファ吐かせないようにしたりするから
そのやり方だとユーザからクレームがバンバン入るぞ。
リファ吐かせないことで何を守ってるのかよくわからんけど。
んなヤシは切り捨てればよろし。マジで。
というか、なんでリファ消すかなぁ？＞そういうヤシら。
リファがあるのが普通なんだしね。無いほうが異常。そんな異常なヤシがアクセス
するから鯖の方も異常をきたす。
なんかのセキュリティ対策なのかな？もしそうならただのアホだよね。
というか、漏れからみればただのバカ。
ﾜﾛﾀ
むしろ、Referer を送るか送らないかをユーザで選択できるインターフェースを
作りこむことをブラウザの作者に推奨してるし。
むしろ、前に見ていたページではない URL を Referer として送ってしまう
バグ（RFC では MUST NOT とされている）のあるブラウザが後を立たない現状では
パーソナルファイアウォールやローカルプロキシで消してしまうのが
いらん情報漏曳を防ぐためのもっとも合理的な解。
>>32
つーか、そもそも Referer をちゃんと送ってくるロボットなんて珍しくないし。
たとえば、>>29で挙げられているロボットはアクセス先 URL と同じ URL を
常に Referer として送ってくる。
リファがあろうがなかろうが、鯖側がリファ見る仕様ならクライアントが対応すれば
いいこと。鯖側が対応する次元の話ではない。それが気に入らないクライアントは
コンテンツを見なければいいだけの事。そこで自我を通そうとする行為はまた別の
お話。
リファが情報漏洩の引き金になった話は聞いたことがないが？
それ以前にあんな糞ブラウザなんぞ使っているヤシの気が知れない。
というか、リファ認証なんかは通れなくなるのだが？
まーリファを消しているクライアントがリファをオンにすればいいだけの話だが。
＞たとえば、>>29で挙げられているロボットはアクセス先 URL と同じ URL を
＞常に Referer として送ってくる。
というか、それではリファとは言えないのだが。。。
勉強不足です。セッション ID を URL の一部に含めるような
Web アプリケーションでは、referer 漏れによって第三者に
セッションハイジャックを許す脆弱性を持ったものがあります。
>それ以前にあんな糞ブラウザなんぞ使っているヤシの気が知れない。
過去には IE も mozilla も referer 漏れするバグがありましたが。
au の携帯電話にも。
リファラーは潔白。
つーかバイオレンスジャックはかなり好きだぞ。
ここではそれだけ分かればいい。
＞ある程度は有効。
≒気休め。
試してからカキコしろよ。
じゃあ超無敵！とか書いとけ（藁
何言ってんだよ、意味見えねーよ（ｗ
真っ当じゃ無い所はその情報をここで出せばいいじゃん？
セキュリティと一緒でこれだけをやっておけば安心と言うのは無いと思うが？
対策が掲載されている所ならの間違い
ロボット、リファ、ホスト制限。
特定の人にしか公開しないならポート番号変えるとか
各種認証入れればいい。
賛成
（ ＾＾ ）＜ ぬるぽ（＾＾）
ﾋﾟｭ.ｰ ( ＾＾ ） ＜これからも僕を応援して下さいね（＾＾）。
＝〔~∪￣￣〕
＝ ◎――◎ 山崎渉
User-agent: ia_archiver
Disallow: /aaa
Allow: /aaa/bbb
User-agent: ia_archiver
Allow: /aaa/bbb
Disallow: /aaa
このとき順番はどっちが正しいんでしょうか…
aaaというディレクトリの中でbbbだけ許可したいんです。
/aaa以外は許可です。
# Allow を解釈するロボットもあるかもしれんけど。
http://www.robotstxt.org/wc/norobots.html
http://www.robotstxt.org/wc/exclusion-admin.html
複雑な robots.txt を書いても、それをロボットが意図したとおりに
解釈してくれなきゃ意味がないので、「正しい書き方はどっち」と聞くよりも、
意図どおり解釈される書き方を試行錯誤して見つけだす方がいいのではないかと。
すんげー面倒だけど。
親切な説明有り難うございました！
まずはURLに行って勉強し直します。
http://www.robotstxt.org/wc/norobots-rfc.html
まあ「ないよ」と言い切られてしまう程度の知名度では
ロボットが実装していない可能性も非常に高いわけだが。
このPSPは、新規格UMD(ユニバーサルメディアディスク)というディスクを利用しており、そのサイズは直径6cmととても小さい(CDの半分程度)。 容量は1.8GBとなっている。
画面は4.5インチのTFT液晶で、480px x 272px(16:9)。MPEG4の再生やポリゴンも表示可能。外部端子として、USB2.0とメモリースティックコネクタが用意されているという。
この際、スク・エニもGBAからPSPに乗り換えたらどうでしょう。スク・エニの場合、PSPの方が実力を出しやすいような気がするんですが。
任天堂が携帯ゲーム機で圧倒的なシェアをもってるなら、スク・エニがそれを崩してみるのもおもしろいですし。かつて、PS人気の引き金となったFF７のように。
__∧＿∧_
|（ ＾＾ ）| ＜寝るぽ（＾＾）
|＼⌒⌒⌒＼
＼ |⌒⌒⌒~| 山崎渉
~￣￣￣￣
拒否したくなるんだよな。
挙動不審のロボットとは関係ないが、ia_archiverはどこかに適当に英語で消せやゴルァメールを送ると
直ちに注意することにするよ。
変わったのがわかるまで2〜3営業日かかる。
参加してくれなくて残念だ。
とかいうメールが返ってきて
しばらくするとブロックしたとかでて見ることが出来なくなる。
ﾋﾟｭ.ｰ （ ・３・） ( ＾＾ ） ＜これからも僕たちを応援して下さいね（＾＾）。
＝〔~∪￣￣￣∪￣￣〕
＝ ◎――――――◎ 山崎渉&ぼるじょあ
ってやつが、画像だけ持っていくようなアクセスをよくしてるんですが、
イメージ検索か何か動いてますか？
（略）だしねぇ。
その画像とはそやつが(;´Д｀)ﾊｧﾊｧしそうな画像でつか？
毎回同じ画像でつか？
そこらへんが分からんと（ry
毎回違う画像ですが、何日かしたら前に取った画像もまた持っていきます。
過去ログのリンクを辿らないと出てこないような去年のものとかも、取得対象のようですが、
毎回全部持っていくわけではなくて、１ファイルとか３ファイルとか。
とにかく、なにが目的なのかサッパリ分からないので、そんなアクセスログを見たことがないでしょうか？
ってつもりでカキコしてみました。
Mozilla/3.01 (compatible;)
になってます。
うーん、robotはぢきのページにも出てなかったしよく分からん……(w
どうしても気になるようだったらルーターとかでdenyしてみるとかどうよ？
明日あたり漏れの鯖のログも検索してみようかな。
先読みキャッシュしたような記憶があったようなないような。
│ ＾ ＾ │＜これからも僕を応援して下さいね（＾＾）。
⊂| |つ
（＿）（＿） 山崎パン
ほかのロボットは一週間に一回ぐらいやってくるのですが、msnbotは一日一回は必ず来ます。
リンクがあるところは、更新されていないページも含めて全部。
CGIとか呼び出しまくりです(；´д⊂）
http://www.itmedia.co.jp/news/articles/0407/02/news037.html
おおっ、この記事は読み落としていました。
二回読んで更新がなかったページの取得頻度は下げて欲しいなぁ
あんなに激しく取りに来るわりには、技術プレビューの検索結果にも出てこないし (;´Д`)
を舐めていくし…
アクセスログの半分以上がmsnbotなのは勘弁してくれよ。
ひとまずrobots.txtを置く、UAを見て無効なデータを返す、
ルータでフィルタする等の対策をとってみるかな？
CustomLog access_log.txt combined env=!nolog
わたしは、これで無視することにしました
バーチャルホスト http://hoge.ddns.net/ で見られるようにしたんだが、
相変わらずbotは /~ore でアクセスして来るんだけど、
これを拒否する方法ってある?
単純に
User-agent: *
Disallow: /~ore
でいいの?
/~ore/でアクセスしてきた時に404を返してやれば、そのうち来なくなるんじゃないの？
その名の通りYahooのクローラ
最近とんと減ってしまった。なんでだろう？
YahooやMSNからの検索はそこそこ定常的にあるのに。
Googleからのもゼロって訳じゃないんだけどね。
うちのように小さなサイトは検索エンジンからのアクセスが
大切なアクセス源なのに。
原因がわかる人いる？
あんまり同じ単語繰り返しても無視される傾向にある様な気がする。
うーん、普通にいろんな日々の話題を扱ったブログを公開している程度で、
目を付けられるような動きじゃないはずなんですが…。
もしかしたら、IPアドレスの逆引きがISPのドメイン名になっている事が
まずいのかも知れないと思い、逆引き設定してくれるISPに引越し予定です。
自分で検索してみて出てくる？
TOP カテ一覧 スレ一覧 2ch元 削除依頼 ▲
お前らサーバー監視ツール何使ってる？ (244)
「DICE」ってどうよ？ (141)
XMailについて語ろう (703)
Atomマザーで自宅サーバーはどうですか？ (212)
intitle:"Index of /" (176)
【対策】どこまで静音対策してますか？ (381)
--log9.info------------------
[DAW]モニターコントローラー[モニスピ] (224)
★12bit、8bitサンプラースレッド・8台目★ (312)
DTM】ヤフオク審議スレッド！その12 (512)
【ﾚｺﾝﾎﾟｰｻﾞ】ｶﾓﾝﾐｭｰｼﾞｯｸ(電脳生活)被害者の会 (846)
☆DTMやってる女の子集まれ☆3 (727)
DTM板からプロになった人っているの？ (151)
【capsule】中田ヤスタカのエロエロ13【Perfume】 (576)
前スレ：【曲は】ボーカル募集【できたけど】９ (534)
★ reFX ★ part 2 (703)
(＾ω＾) 寂しいお (269)
【アナログ・デジタル】MIXERｽﾚ Part10【ミキサー】 (129)
サウンド＆レコーディングマガジン11 (598)
【ファミコン】FINAL RIMIX！【レトロゲー】Stage12 (637)
- ギターの打ち込み 10弦目 - (108)
YAMAHA MOTIF XS8(XS7) と ROLAND Fantom-G8(G7) (257)
祝!!「mopho｣発売!! (373)
--log55.com------------------
★2ch.scは何故失敗したのか
★クロール批判要望スレ
★削ジェンヌに文句ある人集合
★迷惑行為報告担当 - 小さな親切募集中 2
★2ch.scへの要望スレ Part3
★かっこう観測所
★スレ立て人キャップ
★2ch.scニュース系板観測所