Baiduspiderウザすぎ！！　ヽ(`Д´)ﾉ

1 ：2007/02/12 〜 最終レス ：2013/06/15

オレの鯖にBaiduspiderアタックしてくるんじゃねぇぇ！！！！

2 ：

しゃぶれよ

3 ：

#最新版　百度弾き推奨　.htaccess
DirectoryIndex index.html index.htm .ht
ErrorDocument 403 http://www.baidu.com/
SetEnvIf User-Agent "Baiduspider" deny_bot
SetEnvIf User-Agent "sogou spider" deny_bot
order allow,deny
allow from all
deny from env=deny_bot
# Baiduspider_ip
deny from 60.24.0.0/13
deny from 220.181.0.0/16
deny from 61.135.0.0/16
deny from 122.152.129.
deny from 122.152.128.

4 ：

Baiduspiderってrobots.txt読んでるから安心してたら
image.baidu.comやらasd.tj.cnやら仲間がﾜﾗﾜﾗいるんだな…。
最初から素直にIPではじいておけば良かったよ。
先月は中国からの訪問客が30%越えだった。

5 ：

2chもBaiduにやられたっぽい。
ここ数日の鯖不安定はどうもBaiduが原因らしい
http://qb5.2ch.net/test/read.cgi/operate/1168100274/587-

6 ：

.htaccessと併用して、robots.txtも念のため
置いておきましょう
User-agent: baiduspider
Disallow:

7 ：

ここのロボット１日５０００アクセスとか異常

8 ：

sage

9 ：

確認してみたら、うちのサイトにはまったくボット来てなかった。
なんか疎外感・・・

10 ：

百度の検索画面はまんまＧｏｏｇｌｅのパクリ
この民度の低さから行くとｍｐ３の次は
・日本の画像系根こそぎ（ＡＶのパッケージも使う貪欲さ）
・YouTubeの様な動画系サイト（勿論そのまんま盗用）
ホストを変え（悪質）、時間を空けずアクセス。頼むもう来ないでくれ。
ついでに↓も来てる。firefoxでの目視だと思う。反体制かどうかの判別か？
別に心配しなくてもテメーらの国なんて相手にしてねーよ
xd-22-132-a8.bta.net.cn

11 ：

ここのとこ2chやwikipediaが不安定だったのは
コイツのせいらしい

12 ：

Baiduに限らずapnicで確認できる中韓への割り当てIPアドレスを全部弾けば良いんでないの？
日本国内で当該アドレスを使っているプロバイダがいるかも知れんけど、それは仕方ない。
欧米向けのサイトを運営している身では、この措置で特に問題は感じられないけど…

13 ：

yodaoもウザい

14 ：

baiduにアクセスさせておいて、突然チベット民主化のHPに
してみようかな（ｗ

15 ：

>>14
robots,txt読まないでクロールしまくりのbaibuでもそれは効きそうだな
二度と来なくなったりしてｗｗ
中国が嫌がるキーワードってなんだろう
文字色背景色にして埋め込んでみるかな

16 ：

>>15
天安門事件、天皇陛下万歳、ダライ･ラマ、中印戦争

17 ：

天安門事件、中国民主化、チベット・ウイグル解放、法輪講とかかなぁ？
繁体字とEnglishも用意してあげるといいかもね。

18 ：

繁体字じゃなくて、中国本土は簡体字か

19 ：

>>15
中国公安に目付けられてアクセス増大の悪寒

20 ：

百度は行儀悪すぎ
３段構えくらいで対処しないと
.htaccessでIPで弾き
.htaccessでUAで弾く
robots.txtで弾く

これを全部やってもIP変えて、UA偽装してやってくる
最悪じゃ・・・・

21 ：

Baiduからアクセスされたらkeywordタグに天安門事件って入れとけば良いかな？

22 ：

>21
一中一台などのNGワードを入れていても、取りあえずはクロールして情報収集はしていくんじゃないかな。

23 ：

http://up00.hyperbit.info/up/trash-box/file/20070212174652262.jpg
http://up00.hyperbit.info/up/trash-box/file/20070212174625261.jpg

24 ：

>>21
実験してみる価値はあるかもね

25 ：

もうファイアーウォールとかパケットフィルタレベルで無反応にするしかないね。
反応しなければ相手もタイムアウトまで動けないから。

26 ：

これ俺のところにも来てサイト中の画像に恐ろしい数の絨毯爆撃していったんだけど
一体何をしたいんだ？Googleimageみたいな画像検索インデックスでも作ってるの？

27 ：

判明してるUAってどれくらいあるの？

28 ：

>>26
image.baidu.com参照
すぐにそこから検索掛けて人がやってくるようになるよ。

29 ：

>>28
うちはbaidu経由で人が来たことないよ
SPAMは来るようになったけど

30 ：

来てないと思ってたら
www39/76/78/80/36/41/82/51/61/50/55/60/56/57/62/79/74/77/109/102.asd.tj.cn
Baiduspider+(+http://www.baidu.com/search/spider_jp.html)
Baiduspider+(+http://www.baidu.com/search/spider.htm)
からものすごいアクセスがあった
あとxd-22-75-a8/xd-23-177-a8.bta.net.cnからもアクセスあったけど、これもbaidu?
リファラーを確認すると一応image.baidu.comからアクセスあるけど…

31 ：

>>30
bta.net.cn
↑
これもbaidu
>>10を参考に

32 ：

>>29
うちは画像沢山持っていかれてから毎日かなりのアクセスがある。
しかも見せないように制限してたら、メルフォから文字化けで、
なんかよく分からないメールが山ほど来た。
その数　1分間に4通、全部で約100通。今はこっちも制限してる。

33 ：

2000枚近い画像置いてある俺のサイトは((((((；ﾟДﾟ))))))ｶﾞｸｶﾞｸﾌﾞﾙﾌﾞﾙ
.htaccessで弾いてるけどきりがねー

34 ：

http://www.baidu.com/search/spider_jp.html
これ、ちょっと信じてしまったんだがウソなのか？

35 ：

俺は嘘だと思っている

36 ：

>>34
何から何まで嘘だ。
baiduは確かにrobots.txtを読んだが、image.baidu.comなどの
baidu内コンテンツ用ロボットはrobots.txtを読まない。
またサーバーにも負荷をかけまくる。
関係ないが、34の3を読んでも分かるとおり
baiduが成りすましをふせぐのは「ポームページ」だ。ホームページではない。
付け加えると、成りすましをしているのはbaidu自身である。

37 ：

まぁ、ふつうのロボットなら大目に見るんだけどね・・・
１日５０００hitとか異常でしょ
どう見ても・・・
しかもUA偽装でIPもコロコロ変えてさ
これじゃマジで荒らしです

38 ：

>>35-36
thx!
勉強になった

39 ：

search.live.com(MSN)もかなり糞
流石にbaiduほどは無いけど。

40 ：

うちはアクセス数だとGoogle>baidu>yahoo>msn>他諸々
転送量でいくとbaidu>google>yahoo>msnなんだけどね(baiduだけ桁が3桁違う)
やっぱ画像ばっかり重点的にねらってるのかね

41 ：

俺の所は3ヶ月前ぐらいから
リクエスト数TOP４クローラーに取られてる
robots.txtぐらい読んでくれよ…
http://up2.viploader.net/pic/src/viploader416345.jpg

42 ：

１００歩譲ってインデックスするなら許すが、負荷かけまくって
インデックスしないって最悪。

43 ：

負荷かけまくってインデックスしてそれが原因で更に負荷が掛かるよりはマシ

44 ：

>>41
それクロールってレベルじゃねーだろ
攻撃されてんじゃね？

45 ：

どや、参ったか。ｗ
http://up2.viploader.net/pic/src/viploader416384.gif

46 ：

>>45
全然閲覧者いないんだから百度のクローラーにぐらい見せてやれよ

47 ：

オマエの全然ってゼロじゃないんだな。

48 ：

>>46
エロサイトじゃないからこれで十分なんだよ。ｗ

49 ：

http://up2.viploader.net/pic/src/viploader416557.png
(´・ω・`)ｼｮﾎﾞｰﾝ
(´・ω・,';,';,',
(´・ω,';,';,',
(´,';,';,',
(,';,';,
';,,

50 ：

>>41のは酷いな

51 ：

百度訴えた方がいいんじゃね？
やりすぎ

52 ：

>>41 なんでロボットだけで２Ｇ近くも帯域食われテンの、ヒデー

53 ：

訴えるとなるとどういった法に違反してんの？
これだけきてるとなるとsakuraが訴えたら負けるってことはなさそうだけど

54 ：

威力業務妨害とかどうなんだろう。
サーバーをダウンさせるわけだし。

55 ：

さくらに直訴したらルーターかipfwで弾いてくんないかな

56 ：

>>55
それをすると逆に訴えられそうな予感
まず無いと思うが

57 ：

相手は中国だから公平な裁判が出来る設備がありません。

58 ：

>>53
迷惑してるのはsakura以外にもあるとおもうから他社と協力して何とかしてくれたらなぁ

59 ：

>>53
派手にサーバが逝ったら、電子計算機損壊等業務妨害なんかもいけると思う
威力業務妨害よりちょっとだけ罪が重い

60 ：

xreaで地味にやってんのにBaiduのせいで鯖内の転送量トップ10入りですよ。
弾いたら転送量4分の一に落ちて一安心。

61 ：

今更だけど読み方はバイドゥでいいんだよね？

62 ：

俺はバイブって呼んでる

63 ：

俺はベイヅって読んでる

64 ：

そうかバイじゃなくてベイって読んだほうがいいのかな

65 ：

俺はシナクローラーって読んでる

66 ：

梅毒ローラーだよ

67 ：

田代マニア

68 ：

おれは、あるあるクローラー

69 ：

韓国のnaver検索が日本再上陸といううわさがあるけど
ここのロボットもBaidu並にタチが悪いぞ

70 ：

>>69
むしろnaverとの過去の戦いを見れば、baiduが雑魚に思える。

71 ：

シナチョンのロボットってろくなの無いよな

72 ：

先行者とかな

73 ：

先行者は土地のエネルギー量によってパワーが変化するから一概には言えない

74 ：

なんか言ってるぞ
http://baidu.jp/

75 ：

>>74
爆撃で取り終わったって事だろ、弾かれてるからほとぼりが冷めるまで、って所
俺は絶対解除しないがなｗ
今の子は知らないかもしれないが昔料理人でチャーハンの達人　周さん
と言うのがいたんだけど億近い脱税？で追徴食らった時、ワイドショーの記者に
「中国ではそんな（法律）の無い」って言ってた。たかが料理でも極めると
儲かるんだな〜と思った。Baiduさんここは日本ですよ・・・(　ﾟдﾟ)､ﾍﾟｯ

76 ：

>>74
珍しいね、謝るなんて。よほど日本のｻｲﾄから弾かれたんだろうな。
または苦情が殺到したか…。
しばらくは設定はそのままで様子見するかな。

77 ：

UA偽装の件はどうなってんの？
前科者がいまさら何言っても信用出来ないね

78 ：

>>74
今までの大陸クローラーの行動を考えても信用しない方がいいね
弾くのが一番
http://faq.sakura.ne.jp/wiki/wiki.cgi?%2ehtaccess#i11

79 ：

outfoxbotっての最近多いんだけどこれなに？

80 ：

百度 日本法人、「Baiduspider問題」への対応を表明
GoogleやYahoo!で「Baiduspider」と検索してみよう。
検索結果にざっと目を通すと「出入り禁止」「〜がやってきた」「行儀が悪い」などと否定的な言葉が並ぶ。
Baiduspiderとは中国の検索エンジン「百度（baidu）」のWebページ収集ロボット（クローラ）の名称だが
総じてウェブマスターからの評判は悪い。実際、私自身も運営するサイトでは Baiduspider を弾いている。
要は、クロール頻度が高くサーバに多大な負荷をかけてしまうことが問題なのだ。
http://blog.japan.cnet.com/takawata/archives/2007/02/_baiduspider.html

81 ：

最近はbaiduと同じぐらいにAskが凄いｗ

82 ：

ウチは最近baiduしか来ないorz
もっと他のロボットも来いよ

83 ：

百度は中国の最大の検索エンジンです（ネットユーザの約7割）。
海外初の進出となった日本市場へは2006年の12月に本格的に参入致したばかりです。
さて、弊社はまもなく日本語版検索サービスを開始致しますが、それにあたり現在日本語サイトの情報収集Spiderのリサーチを実施しております。
それにより御社のサイトに過剰なアクセスが発生したため、管理者の方には多大なるご心配をおかけ致しました。
私はこの百度Spiderの作業管理担当者としてこの度百度Spiderが御社のサイトにご迷惑をおかけしましましたことに関して誠に申し訳なく思っております。
今後はこの問題について会社全体が真摯に受け止め、日本のインターネット業界におけるルールに従い、このようなことが二度とないように努めていく所存でございます。
弊社はここまで現れた問題について以下のように調整しました：
(1) 各サイトにクローラー負荷を下げさせています。Baiduspiderの最大クローラー頻度は9回/秒から1回/3秒までに下げさせました。以前クローラー頻度の1/27になりました。
(2) 各サイトの規模とIP負荷に対し、それぞれ対応できるクローラー対策を設定し、中小のサイトに対し、クローラー頻度は20秒/回以内にコントロールしています。
(3) サイトに対し圧縮クローラー機能を追加して、同じ負荷でサイトにのアクセス量はもともとの1/3に下げさせます。
(4) 各サイトに対し、毎日のクローラー総量をコントロールし、もしサイトの最大制限を超えると、当日で調整させます。
(5) もし各サイト管理者はBaiduspiderに対し、何かご質問がございましたら、たいへんお手数ですが、webmaster-jp@baidu.comまでにご連絡して頂きたいと思います。
百度はこの様な努力し、御社のページビューにも役に立つよう最適なネットワーク構築や、より一層の協力関係を築けるよう、日々全力をあげてまいります。
そしてユーザーがより良い体験をでき、弊社のリソースを日本のユーザーの皆様にご提供できれば幸いでございます。

84 ：

baidu、日本語下手すぎだよ、baidu…

85 ：

謝罪と賠償！！

86 ：

>>79
中華系
もちろん遮断

87 ：

中国割当のIPアドレスを全てdenyすれば良いんでないの？
俺のサイトでは全く問題ないけど、みんなのサイトはそんな単純なことじゃないのかな？

88 ：

>>87
それがベストだろうけど
割り当てが変更されると国内の利用者も弾いてしまう可能性が…
それと国内から百度のクローラーにアクセスされたって報告も有る

89 ：

日本でサービス始めたら、天安門とかチベットとか
検索できるのかな？

90 ：

>>89
出来るけど中国公安にマークされます

91 ：

>88
俺みたいにdenyIPアドレスリストを毎日更新するほど暇な奴は少ないか…もう日課になっているけどｗ
完全自動化できれば良いんだろうけど、それでもタイムラグで国内からのアクセスができなくなる可能性はあるのか。
国内からのクローラってのも気になるね。

92 ：

>>91
こののIPから来てるみたい
122.152.128.0 - 122.152.191.255
descr: Asia Netcom Corporation
descr: Internet Service Provider
country: JP
http://pc10.2ch.net/test/read.cgi/hosting/1166860563/542,544,560

93 ：

いや〜、ほんとこの中国人死んでくれないかなぁ〜
死ななくてもいいから、日本上陸はあきらめてほしいな
マジでウザ過ぎる

94 ：

Googleでさえ日本上陸はYahooがいるせいで困難だと言っていた
そこにbaiduごときが入ってこれるわけがなかろう

95 ：

>92
ここはさくら共用スレから派生したものだったのですね。
ありがとう、早速deny指定しました。

96 ：

中華系クローラー遮断リストみたいなのあれば便利なのに

97 ：

百度、2006年通年の決算を発表--CEOは「日本への投資の回収には我慢が必要」とも
ttp://japan.cnet.com/column/china/story/0,2000055907,20343629,00.htm?ref=rss
我慢というかｸﾝﾅ

98 ：

日本企業ですら国内市場の将来性を悲観的に考えている所が
多いのに、なんでわざわざ海外から参入するのかね・・・・

99 ：

NaverとかBaiduは、特にクズで困るね。
朝鮮人や中国人は、「ページを集めてやってるんだ」とか思い上がってるのか？
GoogleとYahooとMSNのロボット以外は、askとかも全部弾いてる。
askからなんて、めったに来ないし。
他は東大が走らせてるクローラーとか、なんとかgo.jpの研究用クローラー。
行儀はいいけど、こっちにはなんのメリットも無いし、deny。ｗ

100read 1read

1read 100read
TOP カテ一覧 スレ一覧 2ch元 削除依頼 ▲

熊本のWeb制作会社について語ろう (151)
好きなフォントサイズをあげろ！〜css〜 (217)
怒られるだろうけど (210)
【無料】高機能レンタル鯖XRIA【無広告】 (204)
この野郎スレ第四弾だこの野郎！！ (507)
【アクセス解析】Google Analytics 7 (378)
--log9.info------------------
【祈】ダンスインザダークの子供たち46【Ｇ�T制覇】 (894)
武藤師の娘さんが萌え萌えな件　Part7 (223)
この馬に先着した馬をあげてください Revival Part6 (492)
クロフネ産駒応援スレ16 (426)
今年も未勝利の調教師を見守るスレpart16 (736)
マンハッタンカフェ産駒応援スレ12 (136)
当てるぞ大穴馬券[beautiful dreamer６] (916)
1000レスいくと橋口師に勝利の女神が微笑むスレ (721)
セイウンスカイとその子供達-8頭目 (401)
勝浦正樹９ (335)
【できるさ】浦和競馬スレッドその２５【馬次第】 (694)
【飛躍の年】秋山真一郎21鞍目【クラシック制覇へ】 (821)
村田一誠スレ 15+ (808)
【Darley】ダーレー・ジャパンpart8【Japan】 (861)
予想スレッド２５０ (230)
【S1復活を】加藤慎平22【夢見て】 (928)
--log55.com------------------
女はこんなに異常な生き物８
日本の女は寄生虫ｗｗｗ産む機械ｗｗｗ
モツ焼き屋【中古紳士・淑女のサロン】３７２
結婚したがらない男性が増えている Part759
国民民主党　党内政局総合スレッド68
N国党【立花孝志】テレビ置いてないけど持ってます。
日本共産党の議席数だけを予想するスレ 39
【JCPｻﾎﾟｰﾀｰｽﾞ+】 日本共産党総合Part 777【山本太郎と連合組む事が決定！】