# # robots.txt für http://www.tus-valmetal.de # # # # Für die Suche bei tus-valmetal.de User-agent: * #Hinter der Angabe der Robots folgt nun eine Auflistung der Verzeichnisse und Dateien, die nicht aufgenommen werden soll. #Hier kann man auch explizit angeben, welche Dateien oder Verzeichnisse aufgenommen werden dürfen. Dabei muss jedes # Verzeichnis, jede Datei in einer Zeile angegeben werden, angefangen mit Disallow oder Allow, dann folgt ein Doppelpunkt #und die Angabe der Datei, des Verzeichnisses. So kann das dann aussehen: #Disallow: /verzeichnis1/ #Disallow: /verzeichnis2/unterverzeichnis/ #Disallow: /datei.htm Disallow: /werbebanner/ # Werbung Disallow: /DFS/ # Bilder nicht downloaden Disallow: /images/ # Bilder nicht downloaden Disallow: /Fussball/AHFahrt/ # CGI Ausgaben nicht indexieren # Disallow: /aktuell.htm Die news.html ändert sich täglich User-agent: EmailCollector Disallow: /