下記サイトを参考にrobot.txtを置いてみた。
bingbot以外は効果有りみたい。
User-agent: bingbot Disallow: / User-agent: MJ12bot Disallow: / User-agent: AhrefsBot Disallow: / User-agent: BLEXBot Disallow: / User-agent: Yandex Disallow: / User-agent: baiduspider Disallow: / User-agent: SemrushBot Disallow: /