Poukisa zouti sa a itil
Sèvi ak Tès Chemen Robots.txt lè ou bezwen evalye yon gwoup robots.txt ou kole a kont yon crawler espesifik ak yon chemen lè l sèvi avèk règ allow oswa disallow ki matche pi long lan. Rezilta a imedyat epi fasil pou verifye anvan ou re-itilize li.