このツールについて
クロールルールから規格準拠の robots.txt ファイルを生成します。ファイルはブラウザ内でローカルに作成されます。
よくある質問
robots.txt はどこに置きますか?
ドメインのルート(例: https://example.com/robots.txt)に置き、クローラーが見つけられるようにします。
Disallow は何をしますか?
行儀のよいクローラーに対し、列挙したパスを取得しないよう要求します。1 行に 1 パス、スラッシュで始めます。
allow、disallow、crawl-delay、sitemap のルールを含む有効な robots.txt を作成します。
— ここに結果が表示されます —
クロールルールから規格準拠の robots.txt ファイルを生成します。ファイルはブラウザ内でローカルに作成されます。