一部のロボットによるウェブサイトのインデックス作成をブロックします。ただし、すべてのロボットをブロックするわけではありません。
https://robotstxt.org
ロボット.txt
データにアクセスする 57,432,087 ウェブサイト それは Some Robots Disallow 顧客. 私たちは知っている 39,138,226 ライブウェブサイト 使用して Some Robots Disallow そして追加の 18,293,861 使用したサイト Some Robots Disallow 歴史的に そして 578,482 ウェブサイト アメリカ合衆国.
リストを取得する 57,432,087 使用中のウェブサイト Some Robots Disallow 位置情報、ホスティングデータ、連絡先の詳細などが含まれます。 39,138,226 現在公開中のウェブサイト そして追加の 1,048,534 このリスト内のサイトにリダイレクトするドメイン。 18,293,861 以前この技術を使用していたサイトそして 578,482 ウェブサイト アメリカ合衆国 現在使用中 Some Robots Disallow.
国
Financial
Group
Region