SEO Lexikon: Was ist das „Crawl-Budget“?

Als Crawl Budget bezeichnet man eine gewisse Anzahl von Untersuchungen insbesondere durch Google, wie die Suchmaschinen eine komplette Website untersuchen. Gerade bei sehr großen Websites wie Online Shops oder Online Magazinen kommt Google häufig nicht auf jede Unterseite per sofort.

Das Crawl-Budget kann man aber durch verschiedene Mittel beinflussen. So kann man z. B. steuern, welche Seiten eine Suchmaschine besuchen darf oder welchen internen Links eine Suchmaschine folgen darf.

Hier muss man aber erst definieren, ab wann das Crawl-Budget eine wichtige Rolle einnimmt:

Die Crawl-Budget-Killer

Zu viele Inhalte

Eine Website hat insgesamt zu viele einzelne Unterseiten online. Der Google Bot kommt quasi nicht mit der Indexierung oder Aktualisierung der Inhalte hinterher.

Zu viele Produkte

In einem Online Shop befinden sich viel zu viele Produkte und Variationen dieser Onlineprodukte. Die Menge kann selbst Google kaum noch verarbeiten.

Zu viele Artikel

Ein Nachrichtenportal oder ein News-Magazin stellt täglich mehrere Inhalte ins Netz. Google wird veraltete Inhalte immer seltener überprüfen (können).

Zu viele Forenbeiträge

Sogar die eigenen User können einem das Leben schwerer machen, wenn sie zuviele neue Posts in dein Forum schreiben. Aber User zu reduzieren ist keine Lösung.