====== 2016.09.21 robot.txt ======

下記サイトを参考にrobot.txtを置いてみた。
bingbot以外は効果有りみたい。

[[http://oxynotes.com/?p=9056]]

<code>
User-agent: bingbot
Disallow: /

User-agent: MJ12bot
Disallow: /

User-agent: AhrefsBot
Disallow: /

User-agent: BLEXBot
Disallow: /

User-agent: Yandex
Disallow: /

User-agent: baiduspider
Disallow: /

User-agent: SemrushBot
Disallow: /
</code>

{{tag>日記}}