[스파르타코딩클럽] 웹개발 종합반-3주차

파이썬으로 넘어가는 주.

 

-웹스크래핑

requests 설치

import requests # requests 라이브러리 설치 필요

r = requests.get('http://openapi.seoul.go.kr:8088/6d4d776b466c656533356a4b4b5872/json/RealtimeCityAir/1/99')
rjson = r.json()

gus = rjson['RealtimeCityAir']['row']

for gu in gus:
    gu_name = gu['MSRSTE_NM']
    gu_mise = gu['IDEX_MVL']
    if (gu_mise > 50) :
        print(gu_name,gu_mise)

패키지 추가 설치하기(beautifulsoup4): bs4

 

-기본세팅 

import requests //요청

from bs4 import BeautifulSoup //솎아내기

 

# 타겟 URL을 읽어서 HTML를 받아오고,

headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}

data = requests.get('https://movie.naver.com/movie/sdb/rank/rmovie.nhn?sel=pnt&date=20200303',headers=headers)

 

# HTML을 BeautifulSoup이라는 라이브러리를 활용해 검색하기 용이한 상태로 만듦 # soup이라는 변수에 "파싱 용이해진 html"이 담긴 상태가 됨 # 이제 코딩을 통해 필요한 부분을 추출하면 된다.

soup = BeautifulSoup(data.text, 'html.parser')

 

############################# # (입맛에 맞게 코딩) #############################

import requests
from bs4 import BeautifulSoup

headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}
data = requests.get('https://movie.naver.com/movie/sdb/rank/rmovie.naver',headers=headers)

soup = BeautifulSoup(data.text, 'html.parser')

trs = soup.select('#old_content > table > tbody > tr')

for tr in trs:
    a_tag = tr.select_one(' td.title > div > a') 
    if a_tag is not None: //중간에 나오는 none이 아닐때
        title = a_tag.text
        print(title)

-태그 안의 텍스트를 찍고 싶을 땐 → 태그.text

태그 안의 속성을 찍고 싶을 땐 → 태그['속성']

 

-beautifulsoup 내 select에 미리 정의된 다른 방법

# 선택자를 사용하는 방법 (copy selector)

soup.select('태그명')

soup.select('.클래스명')

soup.select('#아이디명')

 

soup.select('상위태그명 > 하위태그명 > 하위태그명')

soup.select('상위태그명.클래스명 > 하위태그명.클래스명')

 

# 태그와 속성값으로 찾는 방법

soup.select('태그명[속성="값"]')

 

# 한 개만 가져오고 싶은 경우

soup.select_one('위와 동일')

 

-NoSQL ex)MongoDB

파이몽고 기본코드

from pymongo import MongoClient
client = MongoClient('localhost', 27017)
db = client.dbsparta

# 코딩 시작


//insert
doc = {'name':'bobby','age':21}
db.users.insert_one(doc)//db안 users라는 콜렉션안에 넣어라.

same_ages = list(db.users.find({'age':21},{'_id':False}))
user = db.users.find_one({'name':'bobby'})

db.users.update_one({'name':'bobby'},{'$set':{'age':19}})

db.users.delete_one({'name':'bobby'})

-pymongo 기본세팅

from pymongo import MongoClient # pymongo를 임포트 하기(패키지 인스톨 먼저 해야겠죠?)

client = MongoClient('localhost', 27017) # mongoDB는 27017 포트로 돌아갑니다.

db = client.dbsparta # 'dbsparta'라는 이름의 db를 만듭니다.

from pymongo import MongoClient
client = MongoClient('localhost', 27017)
db = client.dbsparta


movie = db.movies.find_one({'title':'매트릭스'})
target_star = movie['star']

target_movies = list(db.movies.find({'star':target_star},{'_id':False}))

# list를 보기 편하게
for target in target_movies :
    print(target['title'])

# DB업데이트
db.movies.update_one({'title':'매트릭스'},{'$set':{'star':'0'}})

 

-숙제 : 지니뮤직 크롤링하기

import requests
from bs4 import BeautifulSoup

from pymongo import MongoClient
client = MongoClient('localhost', 27017)
db = client.dbsparta


headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}
data = requests.get('https://www.genie.co.kr/chart/top200?ditc=D&rtm=N&ymd=20211005',headers=headers)

soup = BeautifulSoup(data.text, 'html.parser')

trs = soup.select('#body-content > div.newest-list > div > table > tbody > tr')

for tr in trs :
    rank = tr.select_one('td.number').text[0:2].strip() # 파이썬 문자열 자르기.text[x:y]
    title = tr.select_one('td.info > a.title.ellipsis').text.strip()
    singer = tr.select_one('td.info > a.artist.ellipsis').text
    print(rank, title, singer)

-3주차가 튜터님의 말씀대로 가장 할 만한 챕터였다. 숙제도 몇개 빼고는 가장 할 만한! 이로써 1주2주차를 또 복습하러 가야하는 이유가 하나 더 생긴..?

머리가 나빠서 아직도 잘 모르겠네 ㅠㅠ..... 복습만이 살길이닷!

 

 

 

***5만원 할인 링크 클릭!***

https://spartacodingclub.kr/?f_name=%EA%B9%80%EB%B3%B4%EC%9B%90&f_uid=6110d79e50065eacde984bab 

스파르타코딩클럽