文章編輯:網(wǎng)站建設 文章來源:網(wǎng)站優(yōu)化基礎 瀏覽量:次
Robots文件是當搜索引擎在抓取和訪問網(wǎng)站的時候所第一個訪問的文件。
我們在這個文件上可以設置搜索引擎。設置哪些頁面可以被搜索引擎抓取,還有哪些頁面不被搜索引擎抓取。如果是個人網(wǎng)站,涉及到個人隱私的部分可以設置成不被搜索引擎所抓取。這樣的話就不會在網(wǎng)站中搜索和檢查到。如果是一般性的商業(yè)網(wǎng)站,我們會設置成所有的頁面都會被抓取。
[聲明]本網(wǎng)轉(zhuǎn)載網(wǎng)絡媒體稿件是為了傳播更多的信息,此類稿件不代表本網(wǎng)觀點,本網(wǎng)不承擔此類稿件侵權(quán)行為的連帶責任。故此,如果您發(fā)現(xiàn)本網(wǎng)站的內(nèi)容侵犯了您的版權(quán),請您的相關內(nèi)容發(fā)至此郵箱【qin@198bona.com 】,我們在確認后,會立即刪除,保證您的版權(quán)。