UTILS.
100% ブラウザ内で完結
🤖

robots.txt 生成ツール

allow、disallow、crawl-delay、sitemap のルールを含む有効な robots.txt を作成します。

— ここに結果が表示されます —

このツールについて

クロールルールから規格準拠の robots.txt ファイルを生成します。ファイルはブラウザ内でローカルに作成されます。

よくある質問

robots.txt はどこに置きますか?
ドメインのルート(例: https://example.com/robots.txt)に置き、クローラーが見つけられるようにします。
Disallow は何をしますか?
行儀のよいクローラーに対し、列挙したパスを取得しないよう要求します。1 行に 1 パス、スラッシュで始めます。

その他のツール