WEBサイトの製作、管理、とかの日記ブログです。

<<   2023年08月   >>
SunMonTueWedThuFriSat
  12345
6789101112
13141516171819
20212223242526
2728293031  
新着記事
カテゴリ
過去ログ
コメント
検索
robots.txtでSitemap
一昔前は、サイトマップの存在を検索サイトに通知するには、
Googleならウェブマスターツール
Yahoo!ならサイトエクスプローラー
などにサイトを登録してサイトマップを送信しなくてはいけませんでしたが、
今では
robots.txt
に1行書くだけでサイトマップの存在を検索エンジンに知ってもらえます。

robots.txt

Sitemap: http://example.com/sitemap.xml.gz
こんな感じで一行。

robots.txt
内のどこでも構わないんで、
User-agent:
は不要です。

まともな検索エンジンのクローラなら、巡回にきたときにかならず robots.txtを確認しますので、
その時に拾ってくれます。
一度ロボにきてもらわないといけないので、
作ったばっかのサイトのsitemapを通知する場合は、更新Pingなどでrobots.txtを拾いにきてもらいましょう。

robots.txtは、サーバーのDocumentRootに置きます。
http://example.com/abc/robots.txt
↑こんな感じの位置はダメです。
http://example.com/robots.txt
↑必ず最上位に。

他にもウェブマスターツールを使わずにRESTで通知する仕様がある検索サイトもありますが、
自分から通知していない検索サイトにも存在を知ってもらえるので、
robots.txtでの通知が一番だと思います。


この記事へのコメント
名前:
URL
コメント:
この記事へのトラックバック :
whblog 1.7