Common Crawl Bot Disallow 使用統計

Common Crawl Bot Disallow

Common Crawl Crawler によるサイトのクロールをブロックします。

https://commoncrawl.org/

ロボット.txt · AIボット

Common Crawl Bot Disallow 顧客

データにアクセスする 4,766,999 ウェブサイト それは Common Crawl Bot Disallow 顧客. 私たちは知っている 3,681,953 ライブウェブサイト 使用して Common Crawl Bot Disallow そして追加の 1,085,046 使用したサイト Common Crawl Bot Disallow 歴史的に そして 2,540,879 ウェブサイト アメリカ合衆国.

Common Crawl Bot Disallow 競合他社および類似企業

リストを取得する 4,766,999 使用中のウェブサイト Common Crawl Bot Disallow 位置情報、ホスティングデータ、連絡先の詳細などが含まれます。 3,681,953 現在公開中のウェブサイト そして追加の 1,797,361 このリスト内のサイトにリダイレクトするドメイン。 1,085,046 以前この技術を使用していたサイトそして 2,540,879 ウェブサイト アメリカ合衆国 現在使用中 Common Crawl Bot Disallow.

サイト合計

トータルライブ
3,681,953
1,797,361 追加のウェブサイトリダイレクト?.
アメリカ合衆国 ライブサイト
2,540,879
ライブと歴史
4,766,999
トップ 1m
2.52%
25,232
トップ 100k
5.83%
5,834
トップ 10k
10.08%
1,008

アメリカ合衆国
2,540,879
イギリス
185,871
オーストラリア
134,925
カナダ
100,546
ドイツ
57,958
スペイン
42,536
ロシア
41,719
スイス
34,891
イタリア
28,598
フランス
27,550
オランダ
27,144
ニュージーランド
25,841
ブラジル
23,160
.co
22,045
スウェーデン
20,913
ノルウェー
13,567
デンマーク
13,352
ベルギー
12,359
アイルランド
11,536
日本
10,119
オーストリア
9,734
ポーランド
9,705
。自分
9,533
フィンランド
9,025
MX メキシコ
7,591
KR 韓国
5,543
ZA 南アフリカ
5,354
IN インド
5,210
HU ハンガリー
5,206
PT ポルトガル
4,959
SG シンガポール
4,877
IO .io
4,796
CZ チェコ共和国
4,377
SK スロバキア
3,947
CN 中国
3,707
GR ギリシャ
3,610
SA サウジアラビア
2,843
ID インドネシア
2,728
HK 香港
2,726
TW 台湾
2,692
RO ルーマニア
2,624
TH タイ
2,529
AI アンギラ
2,139
AE アラブ首長国連邦
2,065
AR アルゼンチン
1,829
TR 七面鳥
1,416
IS アイスランド
1,378
TV 。テレビ
1,313
SI スロベニア
1,310
VN ベトナム
1,259
CC ココス諸島
1,243
CL チリ
1,234
PH フィリピン
1,167
MY マレーシア
1,150
IR イラン
1,137
IM マン島
1,040
UA ウクライナ
995
LT リトアニア
985
CR コスタリカ
961
IL イスラエル
895
EE エストニア
814
LU ルクセンブルク
775
CY キプロス
728
PR プエルトリコ
656
PE ペルー
646
BG ブルガリア
644
LV ラトビア
605
HR クロアチア
568
EC エクアドル
532
LB レバノン
466
KE ケニア
465
GT グアテマラ
459
MT マルタ
447
LI リヒテンシュタイン
380
RS セルビア
351
DO ドミニカ共和国
334
UY ウルグアイ
322
NU ニウエ
306
PA パナマ
294
MA モロッコ
277
VC セントビンセントおよびグレナディーン諸島
275
EG エジプト
273
PK パキスタン
273
VE ベネズエラ
266
NG ナイジェリア
266
BY ベラルーシ
259
GG ガーンジー島
247
AL アルバニア
245
RW ルワンダ
217
KW クウェート
203
TZ タンザニア
198
JE ジャージー
194
KZ カザフスタン
189
BM バミューダ
188
KY ケイマン諸島
187
GH ガーナ
186
BS バハマ
183
LK スリランカ
179
JO ヨルダン
170
QA カタール
169
FM ミクロネシア
162
UG ウガンダ
162
HN ホンジュラス
155
BD バングラデシュ
147
VI アメリカ領ヴァージン諸島
141
TT トリニダード・トバゴ
131
RE 再会
131
KH カンボジア
128
GE ジョージア
122
SH セントヘレナ
119
BZ ベリーズ
118
BH バーレーン
116
BB バルバドス
114
SV エルサルバドル
113
NP ネパール
112
MC モナコ
111
JM ジャマイカ
99
BA ボスニア・ヘルツェゴビナ
99
MU モーリシャス
94
AM アルメニア
91
ET エチオピア
88
NI ニカラグア
88
NA ナミビア
87
OM オマーン
84
WS サモア
82
FO フェロー諸島
80
AX オーランド諸島
73
ZM ザンビア
73
AG アンティグア・バーブーダ
72
FJ フィジー
68
PW パラオ
66
PY パラグアイ
65
MD モルドバ
65
TC タークス・カイコス諸島
65
MV モルディブ
61
MM ミャンマー
61
MK マケドニア
60
BO ボリビア
60
ZW ジンバブエ
60
SN セネガル
57
SC セイシェル
57
TO トンガ
56
MZ モザンビーク
56
GP グアドループ
54
TN チュニジア
54
AS アメリカ領サモア
52
MN モンゴル
50
HT ハイチ
49
GI ジブラルタル
49
GL グリーンランド
48
BW ボツワナ
47
CD コンゴ
47
CI コートジボワール
43
AF アフガニスタン
42
AD アンドラ
40
CX クリスマス島
39
ST サントメ・プリンシペ
39
DZ アルジェリア
38
SO ソマリア
36
GU グアム
35
PG パプアニューギニア
35
AO アンゴラ
34
PS パレスチナ
34
MG マダガスカル
34
AZ アゼルバイジャン
33
MW マラウイ
31
VG イギリス領ヴァージン諸島
31
IQ イラク
31
MQ マルティニーク
30
CM カメルーン
30
AW アルバ
30
UZ ウズベキスタン
29
GY ガイアナ
29
VU バヌアツ
27
BN ブルネイ
25
CU キューバ
24
LR リベリア
23
CK クック諸島
23
SL シエラレオネ
22
GM ガンビア
21
GD グレナダ
20
LC セントルシア
19
LA ラオス人民民主共和国
19
SR スリナム
18
MS モントセラト
18
PM サンピエール島とミクロン島
15
CW キュラソー
14
ML マリ
13
SZ スワジランド
13
PF フランス領ポリネシア
13
SD スーダン
12
GS サウスジョージア島およびサウスサンドウィッチ諸島
11
TL 東ティモール
11
SB ソロモン諸島
11
LY リビア
11
MO マカオ
10
GA ガボン
10
SJ スヴァールバル諸島とヤンマイエン島
10
MP 北マリアナ諸島
9
KG キルギスタン
9
DJ ジブチ
9
BI ブルンジ
9
GF フランス領ギアナ
9
DM ドミニカ
9
KN セントクリストファー・ネイビス
9
BF ブルキナファソ
9
SM サンマリノ
9
SY シリア
9
MR モーリタニア
8
TG 持ち帰り
8
TJ タジキスタン
8
BJ ベナン
8
YT マヨット
7
BT ブータン
7
LS レソト
6
WF ウォリス・フツナ
6
NC ニューカレドニア
6
YE イエメン
5
SX シント・マールテン
5
KI キリバス
5
UM アメリカ領小離島
5
FK フォークランド諸島
5

Financial

AMER AMER
2,672,465
ANZ ANZ
160,766
ANZUK ANZUK
346,637
APAC APAC
207,867
ASEAN3 ASEAN+3
33,312
ASEAN5 ASEAN+5
195,581
ASEAN6 ASEAN+6
199,288
FOURASIANTIGERS ASIAN TIGERS
16,853
AUKUS AUKUS
2,861,675
BASIC BASIC
37,431
BRIC BRIC
73,796
BRICS BRICS
79,150
CANZUK CANZUK
447,183
CIVETS CIVETS
11,590
CLMV CLMV
1,467
EMEA EMEA
601,017
FRIT FRIT
56,148
FRITES FRITES
98,684
IMEA IMEA
24,444
LATAM LATAM
39,494
LATCAR LATCAR
43,170
MART MART
60,953
MEA MEA
19,234
MENA MENA
11,044
MEP MEP
10,917
MIKTA MIKTA
152,203
MINT MINT
12,001
PIGS PIGS
79,703
SEA SEA
13,954
TIGERCUB Tiger Cub Economies
8,833
VISTA VISTA
12,586

Group

AFRICANUNION African Union
9,115
ARABLEAGUE Arab League
6,904
APEC Asia-Pacific Economic Cooperation
2,891,938
AER Assembly of European Regions
497,436
ACS Association of Caribbean State Members
11,990
ASEAN Association of Southeast Asian Nations
13,943
BIMSTEC Bay of Bengal Initiative for Multi-Sectoral Technical and Economic Cooperation
8,245
CARICOM Caribbean Community Members
1,163
CARIFTA Caribbean Free Trade Association
913
CAIS Central American Integration System
2,522
CEFTA Central European Free Trade Agreement Members
857
PARISCLUB Club de Paris
3,352,820
CIS Commonwealth of Independent States Members
42,402
COMMONWEALTH Commonwealth of Nations
469,039
CPLP Community of Portuguese Language Countries
28,265
COE Council of Europe
583,478
DAC Development Assistance Committee
3,348,154
EAC East African Community
1,102
EAP Eastern Partnership
303,574
INNERSIX EC Inner Six
154,384
OUTERSEVEN EC Outer Seven
283,287
ECO Economic Cooperation Organization
3,138
EAEU Eurasian Economic Union
42,267
EURONEST Euronest Parliamentary Assembly
303,282
EEA European Economic Area
317,334
EFTA European Free Trade Association
50,216
EU European Union
302,009
EUEEACH European Union, European Economic Area and Switzerland
352,225
FEAS Federation of Euro-Asian Stock Exchanges
16,063
G2 G2 Nations
2,544,586
G20 G20 Nations
3,187,546
G7 G7 Nations
2,951,521
3G Global Governance Group
88,032
G77 Group of 77
72,417
GUAM GUAM Organization for Democracy and Economic Development
1,215
GCC Gulf Cooperation Council
5,480
IBSA IBSA Dialogue Forum
33,724
ISA International Solar Alliance
3,052,444
IAO Interparliamentary Assembly on Orthodoxy
81,126
DACH Majority German-speaking states of Central Europe
102,583
NATO North Atlantic Treaty Organization
3,093,614
OECD Organisation for Economic Co-operation and Development
3,363,215
OECS Organisation of Eastern Caribbean States
2,676
OIC Organisation of Islamic Cooperation
15,158
OAS Organization of American States
2,681,239
OEI Organization of Ibero-American States
86,884
BSEC Organization of the Black Sea Economic Cooperation
51,564
OPEC Organization of the Petroleum Exporting Countries
6,907
TURKIC Organization of Turkic States
1,676
PACIFICALLIANCE Pacific Alliance
10,031
SCO Shanghai Cooperation Organisation
51,144
SAARC South Asian Association for Regional Cooperation
6,031
SADC Southern African Development Community
6,191
MERCOSUR Southern Common Market
25,376
NORAM Sovereign states and dependent territories of North America
2,656,163
USAN Union of South American Nations
373
V4 Visegrad Group
23,235

Region

AFRICA Africa
8,863
BALKANS Balkan States
10,964
BALTICS Baltic States
2,404
BENELUX Benelux Union
40,278
CENTRALAFRICA Central Africa
390
CENTRALAMERICA Central America
2,188
CENTRALASIA Central Asia
237
CENTRALEUROPE Central Europe
127,508
CHAPS CHAPS
32,969
EASTAFRICA East Africa
1,606
EASTASIA East Asia
24,847
EUROPE Europe
583,927
LEVANT Levant Narrow
3,718
MIDDLEEAST Middle East
10,644
NORDICS Nordics
58,446
CUSA North America
2,641,425
NORTHAFRICA Northern Africa
673
NORTHERNEUROPE Northern Europe
72,175
SCANDINAVIA Scandinavia
47,832
SOUTHAMERICA South America
29,146
SOUTHASIA South Asia
6,031
SOUTHERNAFRICA Southern Africa
5,507
SOUTHERNCONE Southern Cone
3,450
SOUTHERNEUROPE Southern Europe
82,907
SUBSAHARA Sub-Saharan Africa
8,158
WESTAFRICA Western Africa
675
WESTASIA Western Asia
10,890
WESTERNEUROPE Western Europe
368,349
テクノロジーグループを参照