# Datei robots.txt (Kleinschreibung wichtig) # erstellt von C-Gonsult am 01.03.2001 # diese Datei muß im root-VZ des Servers plaziert werden # diese Datei wird von den robots als erstes angefordert # SYNTAX # * = Jokerzeichen # # = Kommentar einfügen # disallow = sperrt bestimmte Verzeichnisse oder Dateien # für jedes Unterverzeichnis muß eine eigene Zeile disallow generiert werden # B E G I N N D E R A N W E I S U N G E N user-agent: * disallow: /logs/ allow: / # E N D E D E R A N W E I S U N G E N # Suchmaschinen instruieren # disallow ist aelter als allow und wird deshalb von mehr # robots verstanden. Es ist ratsam lieber disallow statt allow zu verwenden # Alle Robots ausschließen # user-agent: * # disallow: / # Alle Robots einladen (eine leere Datei erfüllt den gleichen Zweck) # user-agent: * # disallow: # Alle Robots von bestimmten Verzeichnissen fern halten # user-agent: * # disallow: /unwichtig/ # disallow: /cgi-local/ # Einen bestimmten Robot ausschließen # user-agent: Giordano # disallow: / # Einen bestimmten Robot einladen # user-agent: WebCrawler # disallow: # Mehrere Dateien für alle ausschließen # user-agent: * # disallow: /diesunddas.html # disallow: /unddiesehier.html # Dateitypen für alle ausschließen # user-agent: * # disallow: /*.gif # disallow: /*.doc # spezielle Anweisungen für GOOGLE-BOT # Dateitypen für Googlebot ausschließen # user-agent: Googlebot # disallow: /*.gif$