Python爬虫工具cURL你用过吗?小伙伴们大家好,今天给大家分享的开源项目是一个python爬虫工具。有兴趣的朋友不妨在阅读本文后尝试一下。这个开源项目是curlconverter。不知道大家有没有分析过整个网站。去码字的时候,有一项特别繁琐的工作。不知道小伙伴们有没有注意。就是复制请求头中的头信息。需要反复复制粘贴,过程有点多余。今天给大家推荐的这个项目就完美的解决了这个问题。话不多说,直接看效果。操作流程以谷歌浏览器为例1.F12打开控制台,找到网络选项。2、找到你要请求的URL,右键复制,选择“CopyascURL”。3.将复制的cURL放入curl命令框。curl命令框浏览器处理结果可以选择多种语言,比如:Go、PHP、JavaScript,这里就不一一列举了,我选择的是Python语言。代码结果显示importrequestcookies={'_ga':'GA1.2.1517699888.1586403509','_gid':'GA1.2.1746914094.1586403509',}headers={'Connection':'keep-alive','Cache-Control':'max-age=0','Upgrade-Insecure-Requests':'1','User-Agent':'Mozilla/5.0(Macintosh;IntelMacOSX10_15_4)AppleWebKit/537.36(KHTML,likeGecko)Chrome/80.0.3987.163Safari/537.36','Sec-Fetch-Dest':'document','Accept':'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9','Sec-Fetch-Site':'none','Sec-Fetch-Mode':'navigate','Sec-Fetch-User':'?1','Accept-Language':'zh-CN,zh;q=0.9','If-None-Match':'W/"5e659e99-1542"','If-Modified-Since':'Mon,09Mar202001:40:41GMT',}response=requests.get('https://curl.trillworks.com/',headers=headers,cookies=cookies)项目地址:https://github.com/NickCarneiro/curlconverter/curl命令框地址:https://curl.trillworks.com/今不知道田老师的推荐大家喜不喜欢?如果喜欢,请在文章底部留言或点赞,表示对我的支持。您的评论、点赞、转发和关注是我持续更新的动力!关注我的公众号回复:“1024”,免费领取海量学习资源,先到先得!
