一部のロボットによるウェブサイトのインデックス作成をブロックします。ただし、すべてのロボットをブロックするわけではありません。
https://robotstxt.org
ロボット.txt
データにアクセスする 59,067,545 ウェブサイト それは Some Robots Disallow 顧客. 私たちは知っている 39,138,226 ライブウェブサイト 使用して Some Robots Disallow そして追加の 19,929,319 使用したサイト Some Robots Disallow 歴史的に そして 525,939 ウェブサイト アメリカ合衆国.
リストを取得する 59,067,545 使用中のウェブサイト Some Robots Disallow 位置情報、ホスティングデータ、連絡先の詳細などが含まれます。 39,138,226 現在公開中のウェブサイト そして追加の 1,039,838 このリスト内のサイトにリダイレクトするドメイン。 19,929,319 以前この技術を使用していたサイトそして 525,939 ウェブサイト アメリカ合衆国 現在使用中 Some Robots Disallow.
国
Financial
Group
Region