谷歌浏览器获取cookies方法


以爬取豆瓣短评为例,豆瓣短评在未登录的情况下只能爬取220条评论,然后就会403。我试过更换代理ip和headers都没用,但使用cookies登录可以解决这个问题。以下是获取cookies的步骤,获取后直接加在headers里面就好。

1.打开要爬取的网页

如果是爬取豆瓣短评,就打开对应的评论网页,在评论网页中获取cookie。注意这里如果打开的是豆瓣主页,后期爬虫时会遇见403。

2. 打开:右上角省略号→更多工具→开发人员工具

3. 找到“network”,然后ctrl+r加载

4.在“name”这一列,找到你要爬取的网址,点击一下。

5.在request headers里面找到cookie,搞定。

————————————————
版权声明:本文为CSDN博主「weixin_46607513」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/weixin_46607513/article/details/123032929

声明:iTony's Blog|版权所有,违者必究|如未注明,均为原创|本网站采用BY-NC-SA协议进行授权

转载:转载请注明原文链接 - 谷歌浏览器获取cookies方法


Carpe Diem and Do what I like