联系电话:1561-8787-321
热门资讯
头条资讯

网页多长更适合搜索引擎抓取?

  站点反应:

 

  网站主体内容都是js生成,针对用户拜访,没有做优化;可是网站特针对爬虫抓取做了优化,且将图片也直接做了base64转化;但是优化后发现内容却不被百度录入

 

  页面质量很好,还特意针对爬虫做了优化,为什么内容反而不录入了呢?

 

  工程师剖析:

 

  1、网站针对爬虫爬取做的优化,直接将图片二进制内容放到了html中导致页面长度过长,网站页面长?#21364;?64k;

 

  2、 站点优化后将主体内容放于?#31449;浚?#22270;片却放于前面;

 

  3、爬虫抓取内容后,页面内容过长被切断,已抓取部分无法识别到主体内容,?#31449;?#23548;致页面被认定为空短而不录入。

 

  工程师主张:

 

  1、不主张站点使用js生成主体内容,如js烘托犯错,很可能导致页面内容读取过错,页面无法抓取

 

  2、 如站点针对爬虫爬取做优化,主张页面长度在128k之内,不要过长

 

  3、针对爬虫爬取做优化,请将主题内容放于前方,避免抓取切断形成的内容抓取不全

英国南安普敦大学法学院
黑龙江福彩网22选5 沙巴体育平台在线 下载彩83平台 老时时彩app 天津时时官方网址 北京时时百科 黑龙江大星彩36选7走势图 易购彩app老版本 187极速时时开奖网站 北京十一选五app 北京赛历史查询 透开奖号 重庆时时最新开奖结果走势图360 江苏时时百度贴吧 云南十一选五开奖信息 上海时时最快直播