из Роботы.txt в Индия. Последнее обновление 26th апр 2024.
Some Robots Disallow на данный момент является самой популярной технологией в этой категории.