
Seznam příliš vytěžuje web
Dá se nějak omezit přístup SeznamBotu na web? Třeba pomocí robots.txt? Podle logu mě leze na web i 19 x za vteřinu. Pak mě to hází chybu 503 přetížení.
Jak velké omezení mu nastavit podle vás?
Něco je zde, ale já se v tom neviznám: https://napoveda.seznam.cz/cz/fulltext-hledani-v-internetu/robots-txt/syntaxe/
Vždyť tam jsou jasné příklady. Stačí je jenom zkopírovat a vložit k sobě na web.
Takto?
User-agent: Seznambot
Request-rate: 300/1m
Buď tam toho bota chceš nebo nechceš.
Ono jich po webech chodí docela hromada, takže povolit jednoho stahovat 300 stránek za minutu...
Asi bych ho omezil na stránky/den (podle významnosti a četnosti změn tvého obsahu).