Common Crawl Bot Disallow Nutzungsstatistiken

Common Crawl Bot Disallow

Blockieren Sie das Crawlen einer Site durch Common Crawl Crawler.

https://commoncrawl.org/

Robots.txt · KI-Bot

Common Crawl Bot Disallow Kunden

Erhalten Sie Zugriff auf Daten über 4.707.876 Websites das sind Common Crawl Bot Disallow Kunden. Wir wissen von 3.689.029 Live-Websites mit Common Crawl Bot Disallow und eine zusätzliche 1.018.847 Websites, die verwendet Common Crawl Bot Disallow historisch Und 2.532.686 Websites in Vereinigte Staaten.

Common Crawl Bot Disallow Wettbewerber und Ähnliches

Erhalten Sie eine Liste von 4.707.876 Websites mit Common Crawl Bot Disallow Dazu gehören Standortinformationen, Hosting-Daten, Kontaktdaten, 3.689.029 derzeit aktive Websites und eine zusätzliche 1.831.128 Domänen, die auf Sites in dieser Liste weiterleiten. 1.018.847 Websites, die diese Technologie zuvor verwendet habenUnd 2.532.686 Websites in Vereinigte Staaten derzeit verwendet Common Crawl Bot Disallow.

Site-Gesamtzahlen

Gesamt Live
3.689.029
1.831.128 zusätzliche Website-Weiterleitungen?.
USA Live-Sites
2.532.686
Live und Historisch
4.707.876
Spitze 1m
2,61%
26.065
Spitze 100k
6,14%
6.141
Spitze 10k
11,78%
1.178

Länder

Vereinigte Staaten
2.532.686
Vereinigtes Königreich
184.918
Australien
133.794
Kanada
100.129
Deutschland
56.357
Spanien
42.086
Schweiz
34.146
Russland
31.206
Italien
29.787
Frankreich
27.527
Niederlande
26.794
Brasilien
25.908
Neuseeland
25.696
.co
22.232
Schweden
20.807
Norwegen
13.590
Dänemark
13.199
Belgien
12.179
Irland
11.407
Japan
10.202
Polen
9.810
.Mich
9.687
Österreich
9.501
Finnland
8.954
MX Mexiko
7.517
HU Ungarn
5.619
KR Südkorea
5.571
ZA Südafrika
5.319
IN Indien
5.317
PT Portugal
4.918
IO .io
4.913
SG Singapur
4.834
CZ Tschechische Republik
4.410
SK Slowakei
3.901
CN China
3.792
GR Griechenland
3.644
SA Saudi-Arabien
3.250
ID Indonesien
2.926
TW Taiwan
2.819
HK Hongkong
2.740
RO Rumänien
2.734
TH Thailand
2.553
AI Anguilla
2.221
AE Vereinigte Arabische Emirate
2.073
AR Argentinien
1.819
TR Truthahn
1.446
IS Island
1.386
VN Vietnam
1.370
TV .Fernseher
1.325
SI Slowenien
1.300
IR Iran
1.293
CL Chile
1.256
CC Kokosinseln
1.248
PH Philippinen
1.185
MY Malaysia
1.135
UA Ukraine
1.041
IM Isle of Man
1.018
LT Litauen
991
CR Costa Rica
957
IL Israel
893
EE Estland
805
LU Luxemburg
750
CY Zypern
671
PR Puerto Rico
652
BG Bulgarien
645
PE Peru
643
LV Lettland
607
HR Kroatien
559
EC Ecuador
532
LB Libanon
466
KE Kenia
463
GT Guatemala
455
MT Malta
437
LI Liechtenstein
385
RS Serbien
362
DO Dominikanische Republik
335
UY Uruguay
326
NU Niue
321
PA Panama
288
PK Pakistan
278
VC St. Vincent und die Grenadinen
277
MA Marokko
276
EG Ägypten
275
NG Nigeria
273
BY Weißrussland
265
VE Venezuela
261
GG Guernsey
258
AL Albanien
248
RW Ruanda
214
KW Kuwait
203
TZ Tansania
198
JE Jersey
187
GH Ghana
187
KY Cayman-Inseln
186
KZ Kasachstan
186
BM Bermuda
181
LK Sri Lanka
180
BS Bahamas
180
QA Katar
171
JO Jordanien
168
FM Mikronesien
164
UG Uganda
161
HN Honduras
155
BD Bangladesch
154
VI Amerikanische Jungferninseln
142
RE Wiedervereinigung
137
KH Kambodscha
133
TT Trinidad und Tobago
132
SH St. Helena
127
GE Georgia
122
BH Bahrain
116
NP Nepal
116
BB Barbados
115
SV El Salvador
113
BZ Belize
113
MC Monaco
113
AM Armenien
100
BA Bosnien und Herzegowina
99
JM Jamaika
96
MU Mauritius
95
ET Äthiopien
92
NI Nicaragua
90
WS Samoa
86
NA Namibia
86
OM Oman
84
FO Färöer Inseln
82
ZM Sambia
74
AG Antigua und Barbuda
73
PW Palau
72
FJ Fidschi
68
PY Paraguay
66
MK Mazedonien
66
MD Moldawien
65
AX Åland-Inseln
65
TC Turks- und Caicosinseln
65
TO Tonga
62
BO Bolivien
60
ZW Simbabwe
60
TN Tunesien
57
SN Senegal
56
SC Seychellen
56
MV Malediven
55
MM Myanmar
55
MZ Mosambik
55
GP Guadeloupe
53
AS Amerikanisch-Samoa
52
GI Gibraltar
51
MN Mongolei
49
HT Haiti
48
GL Grönland
47
BW Botswana
46
ST São Tomé und Príncipe
45
AF Afghanistan
44
CD Kongo
44
CI Elfenbeinküste
43
AD Andorra
43
DZ Algerien
43
CX Weihnachtsinsel
42
SO Somalia
38
AO Angola
36
GU Guam
35
MG Madagaskar
35
PG Papua-Neuguinea
35
PS Palästina
34
AZ Aserbaidschan
33
CM Kamerun
33
MW Malawi
31
AW Aruba
31
IQ Irak
31
MQ Martinique
30
UZ Usbekistan
29
VG Britische Jungferninseln
28
GY Guyana
28
VU Vanuatu
27
LR Liberia
25
CU Kuba
23
BN BRUNEI
23
CK Cookinseln
23
GD Grenada
21
LC St. Lucia
20
LA Demokratische Volksrepublik Laos
20
GM Gambia
20
MS Montserrat
19
SL Sierra Leone
18
PM Saint-Pierre und Miquelon
15
SR Suriname
15
GS Südgeorgien und die Südlichen Sandwichinseln
14
SB Salomon-Inseln
14
ML Mali
13
CW Curacao
13
SZ Swasiland
13
PF Französisch-Polynesien
13
LY Libyen
11
SD Sudan
11
KG Kirgisistan
10
TL Osttimor
10
BF Burkina Faso
10
MO Macau
10
SM San Marino
10
SJ Spitzbergen und Jan Mayen
10
BI Burundi
9
DJ Dschibuti
9
BJ Benin
9
DM Dominica
9
KN St. Kitts und Nevis
9
SY Syrien
9
GA Gabun
9
MP Nördliche Marianen
8
MR Mauretanien
8
TG Togo
8
TJ Tadschikistan
8
GF Französisch-Guayana
8
YT Mayotte
7
NC Neukaledonien
7
BT Bhutan
7
YE Jemen
6
LS Lesotho
6
WF Wallis und Futuna
6
SX Sint Maarten
5
KI Kiribati
5
UM Kleinere abgelegene Inseln der Vereinigten Staaten
5
FK Falklandinseln
5

Financial

AMER AMER
2.666.597
ANZ ANZ
159.490
ANZUK ANZUK
344.408
APAC APAC
207.381
ASEAN3 ASEAN+3
33.799
ASEAN5 ASEAN+5
194.814
ASEAN6 ASEAN+6
198.606
FOURASIANTIGERS ASIAN TIGERS
16.937
AUKUS AUKUS
2.851.398
BASIC BASIC
40.336
BRIC BRIC
66.223
BRICS BRICS
71.542
CANZUK CANZUK
444.537
CIVETS CIVETS
11.901
CLMV CLMV
1.578
EMEA EMEA
587.911
FRIT FRIT
57.314
FRITES FRITES
99.400
IMEA IMEA
25.092
LATAM LATAM
42.163
LATCAR LATCAR
45.915
MART MART
50.981
MEA MEA
19.775
MENA MENA
11.595
MEP MEP
11.467
MIKTA MIKTA
151.254
MINT MINT
12.162
PIGS PIGS
80.435
SEA SEA
14.244
TIGERCUB Tiger Cub Economies
9.169
VISTA VISTA
12.880

Group

AFRICANUNION African Union
9.107
ARABLEAGUE Arab League
7.330
APEC Asia-Pacific Economic Cooperation
2.872.112
AER Assembly of European Regions
485.244
ACS Association of Caribbean State Members
11.895
ASEAN Association of Southeast Asian Nations
14.234
BIMSTEC Bay of Bengal Initiative for Multi-Sectoral Technical and Economic Cooperation
8.382
CARICOM Caribbean Community Members
1.155
CARIFTA Caribbean Free Trade Association
912
CAIS Central American Integration System
2.506
CEFTA Central European Free Trade Agreement Members
874
PARISCLUB Club de Paris
3.331.641
CIS Commonwealth of Independent States Members
31.902
COMMONWEALTH Commonwealth of Nations
466.351
CPLP Community of Portuguese Language Countries
30.978
COE Council of Europe
569.801
DAC Development Assistance Committee
3.335.068
EAC East African Community
1.093
EAP Eastern Partnership
302.025
INNERSIX EC Inner Six
153.394
OUTERSEVEN EC Outer Seven
281.079
ECO Economic Cooperation Organization
3.329
EAEU Eurasian Economic Union
31.767
EURONEST Euronest Parliamentary Assembly
301.727
EEA European Economic Area
315.760
EFTA European Free Trade Association
49.507
EU European Union
300.399
EUEEACH European Union, European Economic Area and Switzerland
349.906
FEAS Federation of Euro-Asian Stock Exchanges
16.325
G2 G2 Nations
2.536.478
G20 G20 Nations
3.169.471
G7 G7 Nations
2.941.606
3G Global Governance Group
87.119
G77 Group of 77
76.223
GUAM GUAM Organization for Democracy and Economic Development
1.261
GCC Gulf Cooperation Council
5.897
IBSA IBSA Dialogue Forum
36.544
ISA International Solar Alliance
3.045.975
IAO Interparliamentary Assembly on Orthodoxy
70.790
DACH Majority German-speaking states of Central Europe
100.004
NATO North Atlantic Treaty Organization
3.083.114
OECD Organisation for Economic Co-operation and Development
3.350.105
OECS Organisation of Eastern Caribbean States
2.760
OIC Organisation of Islamic Cooperation
15.958
OAS Organization of American States
2.675.297
OEI Organization of Ibero-American States
89.068
BSEC Organization of the Black Sea Economic Cooperation
41.284
OPEC Organization of the Petroleum Exporting Countries
7.486
TURKIC Organization of Turkic States
1.704
PACIFICALLIANCE Pacific Alliance
9.981
SCO Shanghai Cooperation Organisation
40.826
SAARC South Asian Association for Regional Cooperation
6.151
SADC Southern African Development Community
6.154
MERCOSUR Southern Common Market
28.119
NORAM Sovereign states and dependent territories of North America
2.647.529
USAN Union of South American Nations
364
V4 Visegrad Group
23.740

Region

AFRICA Africa
8.861
BALKANS Balkan States
11.137
BALTICS Baltic States
2.403
BENELUX Benelux Union
39.723
CENTRALAFRICA Central Africa
393
CENTRALAMERICA Central America
2.171
CENTRALASIA Central Asia
235
CENTRALEUROPE Central Europe
125.429
CHAPS CHAPS
33.241
EASTAFRICA East Africa
1.606
EASTASIA East Asia
25.183
EUROPE Europe
570.253
LEVANT Levant Narrow
3.687
MIDDLEEAST Middle East
11.189
NORDICS Nordics
58.140
CUSA North America
2.632.815
NORTHAFRICA Northern Africa
681
NORTHERNEUROPE Northern Europe
71.746
SCANDINAVIA Scandinavia
47.596
SOUTHAMERICA South America
31.899
SOUTHASIA South Asia
6.151
SOUTHERNAFRICA Southern Africa
5.470
SOUTHERNCONE Southern Cone
3.467
SOUTHERNEUROPE Southern Europe
83.633
SUBSAHARA Sub-Saharan Africa
8.146
WESTAFRICA Western Africa
681
WESTASIA Western Asia
11.444
WESTERNEUROPE Western Europe
364.120
Technologiegruppen durchsuchen