# robots.txt generiert von www.webmasterelite.de # URL:http://www.reptilien-amphibien.de # =================================== # Generator: http://pixelfolk.net/tools/robots # Erstellt am: 30.01.2009, 21:18 # Webseite: http://www.reptilien-amphibien.de # =================================== Crawl-delay: 5 Sitemap: http://www.reptilien-amphibien.de/sitemap.xml # =================================== # Folgende Seiten sollen nicht indexiert werden: # =================================== User-agent: * Disallow: /cgi-bin/ Disallow: /admin/ Disallow: /temp/ # =================================== # Schließe folgende Spider komplett aus: # =================================== User-agent: googlebot User-agent: googlebot-image User-agent: yahoo-slurp User-agent: yahoo-mmcrawler User-agent: msnbot User-agent: psbot User-agent: teoma User-agent: exabot User-agent: gigabot User-agent: ia_archiver User-agent: baiduspider User-agent: nutch User-agent: WebReaper User-agent: WebCopier User-agent: Offline Explorer User-agent: HTTrack User-agent: Microsoft.URL.Control User-agent: EmailCollector Disallow: /