Seznam příliš vytěžuje web
Dá se nějak omezit přístup SeznamBotu na web? Třeba pomocí robots.txt? Podle logu mě leze na web i 19 x za vteřinu. Pak mě to hází chybu 503 přetížení.
Jak velké omezení mu nastavit podle vás?
Něco je zde, ale já se v tom neviznám: https://napoveda.seznam.cz/cz/fulltext-hledani-v-internetu/robots-txt/syntaxe/
Vždyť tam jsou jasné příklady. Stačí je jenom zkopírovat a vložit k sobě na web.
Takto?
User-agent: Seznambot
Request-rate: 300/1m
Například.
Buď tam toho bota chceš nebo nechceš.
Ono jich po webech chodí docela hromada, takže povolit jednoho stahovat 300 stránek za minutu...
Asi bych ho omezil na stránky/den (podle významnosti a četnosti změn tvého obsahu).
Jinak to je pokračování tohohle?
https://pc.poradna.net/questions/3069845-error-log-nevim-co-je-za-chybu-na-webu
19 přístupů za sekundu snad zvládá i "kalkulačka".