Information for site owners who found this address in their access logs.
SectorBot requests the home page only of a domain, reads the returned HTML, and derives two labels from it: the business sector and the country the business appears to operate from. It is used to build a directory of company websites by country and sector.
/robots.txt first, then the home page if allowed. Runs are monthly.Mozilla/5.0 (compatible; SectorBot/1.0; +https://serdartorun.dev/bot)
User-agent: SectorBot Disallow: /or the usual catch-all
User-agent: * with Disallow: /.
Rules that only cover sub-paths (for example Disallow: /search) do not
block the home page, so they will not stop it.Erişim kayıtlarında bu adresi gören site sahipleri için bilgilendirme.
SectorBot bir alan adının yalnız ana sayfasını ister, dönen HTML'i okur ve buradan iki etiket çıkarır: işletmenin sektörü ve faaliyet gösterdiği ülke. Ülke ve sektör bazlı bir şirket web sitesi dizini oluşturmak için kullanılır.
/robots.txt, izin varsa ana sayfa. Turlar aylıktır.User-agent: SectorBot Disallow: /ya da yaygın
User-agent: * + Disallow: / ikilisi.
Yalnız alt yolları kapsayan kurallar (örn. Disallow: /search) ana
sayfayı engellemez, bu yüzden botu durdurmaz.