こんにちは、ウェブサイト、具体的には www.cvedetails.com とすべての CVE をクロールしようとしていますが、約 600 の CVE の後、次のエラーが発生しました。
Maximum execution time of 30 seconds exceeded in phar:///root/PHP/VULDRONE/goutte.phar/vendor/symfony/dom-crawler/Symfony/Component/DomCrawler/Crawler.php on line 173
max_execution_time
の値を 900 秒に変更しましたphp.ini
が、うまく動作しないようです。
Xリクエストの後にスリープも使用していますが、成功しません。ユーザーエージェントを変更しようとしましたが、同じです。
クロールからブロックされたために何ができないのかわかりません。
前もって感謝します