PDA

View Full Version : robots.txtの設置場所について


six.o.six
2002/01/19, 01:55 PM
以前robots.txtの設置についてのスレッドが立っていたのですが、robots.txtをホーム
ディレクトリに設置すればいいと結論が出ていたのを見て疑問に思いスレッドを立てま
した。

ExciteのQ&Aでは、
robots.txtファイルは個人のホームディレクトリではなく、サーバーのドキュメン
トルートに置くファイルで通常はサーバーの管理者による設定が必要。

とのことなのですが…

私はFetchでデータのアップロードを行っていまして、public_htmlというディレクト
リに繋がるようになっています。しかしその上の/(Maildir,namazu,public_html,s
ecure_html,shared_htmlがある層)にも繋げる事が出来るようなのですが、そちら
にrobots.txtをアップしてもよいのでしょうか?

サポートさんよろしくお願いします。

mstk
2002/01/19, 02:35 PM
robots.txt を置く場所は、そのホストのルートディレクトリです。
というのは、ロボットは、できるだけ http://www.hoge.com/robots.txt を読みに行くようにしようということになっているからです。
通常のサーバーで、ユーザーのページを http://www.hoge.com/~User/ のように見るようになっている所だと、ユーザーは http://www.hoge.com/robots.txt を設置することができませんので、サーバー管理者による設定が必要になります。
しかしXREAの場合は、

ユーザーのホームディレクトリの中のpublic_htmlディレクトリ = サーバーのドキュメントルート

になりますので、 public_html 以下に置くことで、http://User.sX.xrea.com/robots.txt というURLで読まれるファイルを設置することができるのです。

ここまで読んでもらえればわかるように、 secure_html 以下に robots.txt を置いても無意味です。https://sX.xrea.com/robots.txt に設置しなければいけませんので、サーバー管理者による設定が必要になります。そもそもhttpsで読みにくるロボットが存在するのかどうかは知りませんが。 shared_html 以下は、多分大丈夫だと思うのですが、よく知りません。

あくまでも、robots.txt は、ロボットがWebサーバーを通して読み込むファイルなので、Webサーバーを通して読む事ができない、public_html よりも上のディレクトリに置いても意味はありません。

six.o.six
2002/01/20, 01:17 AM
public_htmlディレクトリ=サーバーのドキュメントルートなんでか!
知らなかった…もしかしたら仕様に書いてあったのを見落としてたのかもしれませんねι
助言ありがとうございました!さっそくpublic_htmlディレクトリにアップします!