記事がGoogleにインデックスされない原因、クローラーの申請対策

インデックスさせる方法

あれ?Googleにインデックスされてない…?

「最近、なぜかWEBサイトのアクセス数が激減している。」
「サイト運営を始めて3か月経つのに、検索流入がゼロ。」

原因はさまざま考えられますが、まず初めに確認するのは、そのサイトがGoogleにインデックスされているかどうかです。

どれだけ多くのページを作っても、1ページの文字数が1万文字を超えていても、Googleにインデックスされなければ、検索エンジンで見つけることはできません。

つまり、WEBサイトがGoogleにインデックスされていなければ、そのWEBサイトは世の中に存在していないことと同じなのです。

では、Googleにインデックスされていない原因は何でしょうか。また、どうすればインデックスされやすくなるのでしょうか。

今回のテーマ
今回は、記事がインデックスされない原因を知りたい人、インデックスの申請方法を知りたい人のために、次の内容をお話します。

  • 記事がインデックスされていない原因
  • インデックス登録を申請する方法

それでは早速見ていきましょう。

Googleにインデックスされない原因

Googleからペナルティを受けたため

Googleから何らかのペナルティを受けている場合は、WEBページ(WEBサイト)のインデックスが削除される恐れがあります。

まずは、サーチコンソールにある「手動による対策」と「セキュリティの問題」によってペナルティを受けているかどうかを確認してください。

サーチコンソールでペナルティを受けているか確認する

ペナルティの具体的な解除方法、質の低いリンクの否認方法(リンク否認ツールの使い方)は以下を参考にしてください。

WordPressの設定でnoindexにチェックが付いているため

WordPressの表示設定で「検索エンジンがサイトをインデックスしないようにする」にチェックがついていると、Googleにインデックスされない可能性があります。

Wordpressの表示設定で「検索エンジンがサイトをインデックスしないようにする」のチェックを外す

WordPressのメニューから「設定 > 表示設定」と進み、上記にチェックがついている場合は外してください。

プラグイン設定でnoindexにチェックが付いているため

「All in One SEO」などWordPressプラグインの設定で、noindexにチェックが付いている可能性があります。noindexのチェックは、全体設定と個別ページ設定の2箇所あります。

まず全体設定は、All in One SEOの「一般設定」の「Noindex設定を見直す」という箇所です。最低限、「投稿」「固定ページ」「ランディングページ」のチェックは外しておきましょう。

All in One SEOの一般設定のNoindex設定を見直す

個別ページの設定は、「投稿の編集」の「All in One SEO Pack」の中にあります。1ページずつ確認するのは大変ですが、仕方がありません。チェックがついていれば、外してください。

ALLINONESEOのNOINDEXとNOFOLLOWチェック

robots.txtでクローラーを除外しているため

新規WEBサイトやリニューアルサイトの公開前に、「robots.txt」でWEBページの巡回を制限していた場合、公開後に「robots.txt」を削除し忘れているかもしれません。

User-agent:
*Disallow: /

WEBサイト公開時には、「robots.txt」の記述を削除するか、上記のDisallowをAllowに変えましょう。

meta robotsタグでクローラーを除外しているため

新規WEBサイトやリニューアルサイトの公開前に、「meta robotsタグ」でWEBページの巡回を制限していた場合、公開後に「meta robotsタグ」を削除し忘れているかもしれません。

<meta name="robots" content="noindex"/>

WEBサイト公開時には、「meta robotsタグ」の記述は削除しましょう。

canonicalタグで重複ページだと認識されているため

WEBページの重複を防ぐ「canonicalタグ」が間違ったページに設置されているため、クローラーに間違った情報を伝えている可能性があります。

たとえば、新しいWEBページを作る際に、canonicalタグが含まれる既存ページの全文をコピーして作ると、canonicalタグを含んだページができてしまいます。

<link rel=”canonical” href=”https://www.wakarukoto.com/testtesttest” />

間違ったページにcanonicalタグが含まれている場合は、削除してください。

中古ドメインがペナルティを受けているため

中古ドメインを利用した場合、以前のWEBサイトがペナルティを受けている影響によって、インデックスされない可能性があります。

サーチコンソールの「手動による対策」と「セキュリティの問題」を確認して、ペナルティの記述があれば解除しなければいけません。

なお、新規ドメインを取得したつもりでも、実は中古ドメインを取得していることもあります。そのため、まず「ドメイン年齢」を調べましょう。

ドメイン年齢 ドメインエイジ

ドメイン年齢 – ドメインエイジ

実際のドメイン取得日よりも以前からドメインが存在していた場合は、Wayback Machineを活用して、前にどのようなWEBサイトが運営されていたか調べてください。

500エラーでインデックス不適扱いを受けているため

見た目では問題がないInternal Server Error(500エラー)によって、WEBページがインデックスされないこともあります。

500エラーとは、CGIなどのプログラムのミスによって起こるエラーで、修正が必要です。

サーチコンソールの「URL検査ツール(旧Fetch as Google)」を使って、レンダリングしたときにエラーを返すかチェックしてください。または、カバレッジレポートでエラーを返している場合もあります。

WordPressの場合は、プラグインのPHPが影響することもあるため、インデックスされなくなった時期とプラグインの導入時期を比べて、プラグインを外すなどの対応が必要です。

新規ドメインでクローラーが巡回しにくいため

新規ドメインを取得したばかりの場合は、他のWEBサイトとのつながりがなくクローラーが巡回しにくいため、インデックスされないことがあります。

新規ドメインが原因の場合は時間が経てば解消しますが、なるべく早くクローラーの巡回を促したい場合は「URL検査ツール」を使いましょう。

そもそもインデックスされないページもあるため

「なぜこのページはインデックスされてないんだ!」とヒステリックになっても仕方がありません。

GoogleのJohn Mueller(ジョン・ミュラー)によると、そもそもすべてのページがインデックスされるとは限らないそうです。

インデックスされない原因は不明です。手間はかかりますが、1ページずつ対応すれば未インデックスは解消できると思います。

Googleにインデックス登録を申請する方法

上記のインデックスされない根本的な原因を解消したら、次はGoogleにインデックスを申請しましょう。

サーチコンソールのURL検査ツールを使う

Googleサーチコンソールの「URL検査ツール」を使って、WEBページのインデックスをGoogleに申請してください。

サーチコンソールの画面上部にある入力フォームから、Googleにインデックスして欲しいURLを入力して、「Enter」で実行します。使い方は、以下を参考にしてください。

XMLサイトマップをGoogleに送信する

XMLサイトマップ(sitemap.xml)とは、WEBサイトを構成するページURLと更新日をリスト化したxmlファイルのことです。

サーチコンソールなどでXMLサイトマップを設置すると、クローラーがサイトマップを認識してURLなどの情報を収集し、インデックスを申請することにつながります。

XMLサイトマップを定期的にGoogleに送信することでクローラビリティが高まります。

サイトマップについて – Search Console ヘルプ

Pingを送信する

Ping送信(更新情報サービス)とは、新しく公開したWEBページを検索エンジンに通知する手段の一つです。

WordPressを使っている場合は、「設定 > 投稿設定」と進み、更新情報サービスのテキストボックス内にPingの送信先を記載して、変更を保存をクリックすれば、次回から検索エンジンに通知してくれます。

WordpressからPingを送信する画面

以下は、「WordPress Codex 日本語版」に記載されている日本語のPing送信先リストです(停止しているものもあるかも)。

Ping送信先は他にもありますが、過度なPing送信はGoogleからスパム認定される恐れもあります。現在、Ping送信はとくに重視されていないため、心配な場合は送る必要はないでしょう。

http://api.my.yahoo.co.jp/RPC2
http://bulkfeeds.net/rpc 
http://blog.goo.ne.jp/XMLRPC
http://blogsearch.google.co.jp/ping/RPC2
http://coreblog.org/ping/
http://ping.bloggers.jp/rpc/
http://ping.blogmura.jp/rpc/
http://ping.cocolog-nifty.com/xmlrpc
http://ping.exblog.jp/xmlrpc
http://www.blogpeople.net/ping/

更新通知サービス – WordPress Codex 日本語版

インデックスされていない記事は機会損失

WEBサイトやブログにとって、記事がインデックスされていることはとても重要です。

100ページの中で、たった1ページインデックスされていないだけでも、それがコンバージョンページだったり、コンバージョンページの導線だった場合は機会損失になります。

とは言え、定期的にインデックスされているかどうかを確かめるのはとても手間がかかります。

そこで、文中にも記しましたが、XMLサイトマップを設置したり、自動的にPingを送信することで、少しでもインデックスが登録されない機会損失を防ぐようにしましょう。

ちなみに、Ping送信は「WordPress Ping Optimizer」や「PubSubHubbub(パブサブハバブ)」などのプラグインを使って、より確実に送信することもできます。

わたしは一応「PubSubHubbub」を使っていますが、ある程度クローラビリティが高まれば、それほど必要なくなるかなと考えています。

クローラビリティを高めることのメリットは、以下に記載したので参考にしてください。

参考になったらSNSでシェアをお願いしますm(_ _)m