robots.txtの配置場所
robots.txtを配置して対ロボット戦を行う場合、
トップディレクトリに
robots.txt
を配置すればよい。
その下のディレクトリに影響を与えたいのであれば、
User-Agent: *
Disallow: /robot_ha_kuruna/
というように書けばよい。
プログラマによるプログラマのためのサイト(20年プログラマやってきた職業軍人がお届けする戦闘指南書)
2010年4月30日
robots.txtを配置して対ロボット戦を行う場合、
トップディレクトリに
robots.txt
を配置すればよい。
その下のディレクトリに影響を与えたいのであれば、
User-Agent: *
Disallow: /robot_ha_kuruna/
というように書けばよい。
解決しなかったら検索してみるよろし。
dmirror + LVM で対象ディスク領域のスナップショットバックアップ 各 ...
404ページを専用ページにしたい場合、 にて.htaccessを利用した記述を書 ...
wgetのnpオプションは、 『親ディレクトリを参照しない』 というためのオプシ ...
awstatsで、出来るだけ訪問者数を正確に知りたい場合、ロボットを随時追加して ...
Apacheのモジュールであるmod_authn_anonは、ApacheでFT ...
リモートワークを12年続けてきたITエンジニアが、メリットとデメリットを語る
私はリモートワークを12年続けています。今話題のテレワーク、在宅ワーク、リモート ...
->orderByRaw("concat(year,month,day) asc ...
git config --global core.editor vi これで、. ...
root@debian-gnu-linux-10:/home/aaaaaaa# ...
==テスト環境== .envに APP_ENV=local プログラム上では i ...
WEBサイトで、更新されたファイルだけ最新を読み込ませたい時
最新を読み込ませたい時は img src="aiueo.jpg?12345" み ...
ディスカッション
コメント一覧
まだ、コメントがありません