#Documento robot para sitio Zabaleta Burgui #Metemos primero el sitemap.xml Sitemap:http://www.zabaletaburgui.com/sitemap.xml #--------------------------------------- #Ahora las directrices para los robots #Elegimos el robot, en este caso las normas son para todos al poner * User-Agent:* #Le decimos lo que no queremos que indexe Disallow:/assets/cache/ Disallow:/assets/CVS/ Disallow:/assets/docs/ Disallow:/assets/export/ Disallow:/assets/FeedX/ Disallow:/assets/import/ Disallow:/assets/js/ Disallow:/assets/modules/ Disallow:/assets/plugins/ Disallow:/assets/site/ Disallow:/assets/snippets/ Disallow:/assets/templates/ Disallow:/manager/ #Le damos 10 segundos de pausa entre peticion de pagina para no saturar nuestro servidor Crawl-delay:10