Wann Robots.txt passt
Robots.txt und Crawler-Zugriff testen: Liest die robots.txt einer Domain und erkennt Sitemaps, Disallow-Regeln und AI-Crawler-Hinweise. Nutze den Einstieg, wenn eine url-Eingabe rund um Robots.txt Status und Disallow-Regeln schnell belastbar eingeordnet werden soll.