개발
크롤링 중 데이터를 받아오지 못할 때.
내공얌냠
2022. 10. 31. 15:23
크롤링 중 데이터를 받아오지 못할 때.
- user-agent, referrer
- cookies
- auth, authorization 등 권한의미 포함 값
- 전부 다
import json
import requests
url = 'https://comic.naver.com//comment/comment?titleId=783053&no=52'
# 1. user-agent, referrer
headers = {
'User-Agent' : 'Mozilla/5.0 (Windows NT 10.0;Win64; x64)\AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98\Safari/537.36'
, 'referer': 'https://comic.naver.com//comment/comment?titleId=783053&no=52'
}
resp = requests.get(url, headers=headers)
resp.content
References
https://cceeddcc.tistory.com/5
파이썬(Python) 웹 크롤링 관련 : requests
[기본 사용 방식] 1 2 3 4 5 6 7 8 9 import requests requests.get(...) #get요청 (주로 html조회요청) requests.post(...) #post요청 (주로 추가/수정/삭제요..
cceeddcc.tistory.com
728x90
반응형