# robots.txt fuer http://www.beispiel.de/
User-agent: *
Disallow: /temp/       # Die Dateien sind sehr kurzlebig
Disallow: /arbeitsverzeichnis/   # Die ändern sich jeden Tag
Disallow: /images/     # Bilder nicht downloaden
Disallow: /styles/     # Bilder nicht downloaden
Disallow: /cgi-bin/    # CGI Ausgaben nicht indexieren
#Disallow: /news.html   # Die news.html ändert sich täglich