Google    ビジネスサポートプランニング: robots.txt 取得エラー Google+

東大阪在住。印刷系・通販系が得意です。半年で取得するPマーク導入支援、SNS・懸賞サイトを使った、ローコストSEO対策・コンバージョンアップ、会社を変えるISO9001、効果的なSPツール・プレミアムグッズ・景品等の解説をブログでおこなっています。 現在はお仕事の依頼を受け付けておりません。

analytics

このブログを検索

2015年1月11日日曜日

robots.txt 取得エラー

Googlebot は、サイトをクロールする前にサイトの robots.txt ファイルにアクセスすます。
robots.txt ファイルで、特定のページや URL のクロールブロックの有無を確認します。
robots.txt ファイルが存在するが、robots.txt ファイルにアクセスできない場合(ステータス コード 200 又は 404 が返されない)は、クロールすべきでない URL をクロールしないように、クロールを延期します。
この場合、Googlebot は robots.txt ファイルにアクセスできる状態になり次第、クロールを再開します。

0 件のコメント:

コメントを投稿

バイナリーオプション BinaryFX

人気の投稿