스파르타 코딩 클럽 웹 개발 종합반 3주차

1. 개발 진행 상황

2. 개발 중 발생한 이슈와 해결

3. 새로 배운 것

• javascript 로딩 후 바로 실행

$(document).ready(function(){
listing(); // 로딩 후 바로 listing() 실행
});

• 영화 데이터 하나씩 출력 하기

 function listing() {
            $.ajax({
                type: 'GET',
                url: '/movie',
                data: {},
                success: function (response) {
                    let rows = response['movies']
                    for(let i = 0; i <rows.length; i++) {
                        let comment = rows[i]['comment']
                        let title = rows[i]['title']
                        let desc = rows[i]['desc']
                        let image = rows[i]['image']
                        let star = rows[i]['star']
                        }
            }
        })
    }

• 파이썬 시작하기(파이썬 기초 문법)

1) 변수와 기본 연산

# 변수와 기본연산 

a = 3  # 3을 a에 넣는다
b = a  # a를 b에 넣는다
a = a + 1  # a + 1을 다시 a에 넣는다

num1 = a*b  # a*b의 값을 num1 변수에 넣는다
num2 = 99  # 99라는 값을 num2 변수에 넣는다

# 자료형
name = 'bob' # 변수에 문자열 넣음
num = 12 # 변수에 숫자 넣음

is_number = True # True 또는 False의 형태로 리턴되는 boolean형이 들어갈 수도 있음

2) 리스트형

#리스트형
a_list = [] # 값이 없는 리스트
a_list.append(1) # 리스트에 값을 넣음, 리스트 맨 뒤에 값이 추가 됨
a_list.append([2,3]) # 리스트에 [2, 3]이라는 리스트를 넣음

# a_list[1] 값은? [1,[2,3]]
# a_list의 값은? 1
# a_list[0]의 값은? [2,3]
# a_list[1][0]의 값은? 2

	[0]	[1]
[0]	1
[1]	2	3

3) Dictionary형

a_dict = {}
a_dict = {'name':'bob','age':21}
a_dict['height'] = 178

# a_dict의 값은? {'name':'bob','age':21, 'height':178}
# a_dict['name']의 값은? 'bob'
# a_dict['age']의 값은? 21
# a_dict['height']의 값은? 178

4) Dictionary형과 List형의 조합

people = [{'name':'bob','age':20},{'name':'carry','age':38}]

# people[0]['name']의 값은? 'bob' 
# people[1]['name']의 값은? 'carry'

person = {'name':'john','age':7}
people.append(person)

# people의 값은? [{'name':'bob','age':20},{'name':'carry','age':38},{'name':'john','age':7}]
# people[2]['name']의 값은? 'john'

	[name]	[age]
[0]	bob	20
[1]	carry	38
[2]	john	7

5) 함수 정의

# 수학문제에서
f(x) = 2*x+3
y = f(2)
y의 값은? 7

# 참고: 자바스크립트에서는
function f(x) {
	return 2*x+3
}

# 파이썬에서
def f(x):
	return 2*x+3

y = f(2)
y의 값은? 7

# 함수응용
def sum_all(a,b,c):
	return a+b+c

def mul(a,b):
	return a*b

result = sum_all(1,2,3) + mul(10,10)

# result라는 변수의 값은? 106

6) 조건문 if, else

def oddeven(num):  # oddeven이라는 이름의 함수를 정의한다. num을 변수로 받는다.
	if num % 2 == 0: # num을 2로 나눈 나머지가 0이면
		 return True   # True (참)을 반환한다.
	else:            # 아니면,
		 return False  # False (거짓)을 반환한다.

result = oddeven(20)
# result의 값은 무엇일까요? True(참)


def is_adult(age):
	if age > 20:
		print('성인입니다')    # 조건이 참이면 성인입니다를 출력
	else:
		print('청소년이에요')  # 조건이 거짓이면 청소년이에요를 출력

is_adult(30)
# 무엇이 출력될까요? '성인입니다'

7) 반복문

fruits = ['사과','배','감','귤']

for fruit in fruits:
	print(fruit)

# 사과, 배, 감, 귤 하나씩 꺼내어 찍힙니다.

# 응용 - 특정 과일 개수 구하기
fruits = ['사과','배','배','감','수박','귤','딸기','사과','배','수박']

count = 0
for fruit in fruits:
	if fruit == '사과':
		count += 1

print(count)

# 사과의 갯수를 세어 보여줍니다. 2

• 예제

people = [{'name': 'bob', 'age': 20}, 
          {'name': 'carry', 'age': 38},
          {'name': 'john', 'age': 7},
          {'name': 'smith', 'age': 17},
          {'name': 'ben', 'age': 27}]

# 모든 사람의 이름과 나이를 출력해봅시다.
for person in people:
    print(person['name'], person['age'])


# 이번엔, 반복문과 조건문을 응용한 함수를 만들어봅시다.
# 이름을 받으면, age를 리턴해주는 함수
def get_age(myname):
    for person in people:
        if person['name'] == myname:
            return person['age']
    return '해당하는 이름이 없습니다'


print(get_age('bob'))
print(get_age('kay'))
# bob의 나이가 출력 된다. kay라는 이름이 people에 없기 때문에 '해당하는 이름이 없습니다'가 출력된다.
# 출력: 20 해당하는 이름이 없습니다

• 파이썬 패키지: 모듈(일종의 기능들의 묶음)을 모아 놓은 단위로 라이브러리라고 볼 수 있음. 외부 라이브러리를 사용하기 위해서 패키지 설치가 필요함
• 나만의 파이썬 패키지 목록

 

• 파이썬에서 가상환경(virtual environment): 같은 시스템에서 실행되는 다른 파이썬 응용 프로그램들의 동작에 영향을 주지 않기 위해, 파이썬 배포 패키지들을 설치하거나 업그레이드하는 것을 가능하게 하는 격리된 실행 환경
• DB(DataBase)

1) RDBMS(SQL): 행/열의 생김새가 정해진 엑셀에 데이터를 저장하는 것과 유사, 데이터 50만 개가 적재된 상태에서, 갑자기 중간에 열을 하나 더하기는 어렵지만 정형화되어 있는 만큼, 데이터의 일관성이나 / 분석에 용이할 수 있음. ex) MS-SQL, My-SQL 등

2)No-SQL: 딕셔너리 형태로 데이터를 저장해두는 DB로 데이터 하나 하나 마다 같은 값들을 가질 필요가 없음, 자유로운 형태의 데이터 적재에 유리한 대신, 일관성이 부족할 수 있음. ex) MongoDB

 

• MongoDB(패키지 pymongo설치 필수)

1) pymongo로 조작하기

# pymongo 연결 및 사용
from pymongo import MongoClient
client = MongoClient('내 URL 입력')
db = client.dbsparta

# 데이터 넣기(저장), 'users'라는 collection에 {'name':'bobby','age':21}를 넣습니다.
# 방법1
db.users.insert_one({'name':'bobby','age':21})
db.users.insert_one({'name':'kay','age':27})
db.users.insert_one({'name':'john','age':30})
# 방법2
doc = {'name':'bobby','age':21
		'name':'kay','age':27
        'name':'john','age':30}
db.users.insert_one(doc)

# 모든 데이터 뽑아보기 -> 여러개 찾기
all_users = list(db.users.find({},{'_id':False}))
    
# 특정 결과 값 뽑아보기 -> 한개 찾기
user = db.users.find_one({'name':'bobby'})

# 수정하기
db.users.update_one({'name':'bobby'},{'$set':{'age':19}})

# 삭제하기
db.users.delete_one({'name':'bobby'})

• 웹스크래핑 결과 저장하기

import requests
from bs4 import BeautifulSoup

# pymongo 기본 세팅
from pymongo import MongoClient
client = MongoClient('mongodb+srv://test:sparta@cluster0.55vah.mongodb.net/Cluster0?retryWrites=true&w=majority')
db = client.dbsparta

# URL을 읽어서 HTML를 받아오고,
headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 10.0; Win64; x64)AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36'}
data = requests.get('https://movie.naver.com/movie/sdb/rank/rmovie.naver?sel=pnt&date=20210829',headers=headers)

# HTML을 BeautifulSoup이라는 라이브러리를 활용해 검색하기 용이한 상태로 만듦
soup = BeautifulSoup(data.text, 'html.parser')

# select를 이용해서, tr들을 불러오기
movies = soup.select('#old_content > table > tbody > tr')

# movies (tr들) 의 반복문을 돌리기
for movie in movies:
    # movie 안에 a 가 있으면,
    a_tag = movie.select_one('td.title > div > a')
    if a_tag is not None:
        rank = movie.select_one('td:nth-child(1) > img')['alt'] # img 태그의 alt 속성값을 가져오기
        title = a_tag.text                                      # a 태그 사이의 텍스트를 가져오기
        star = movie.select_one('td.point').text                # td 태그 사이의 텍스트를 가져오기
# 도큐먼트 만들어 하나씩 insert 하기
doc = {
            'rank': rank,
            'title': title,
            'star': star
        }
        db.movies.insert_one(doc)

4. 참고 레퍼런스

https://blog.naver.com/codef_api/222721006534

비개발자가 쉽게 설명하는 웹 크롤링(Crawling)과 웹 스크래핑(Scraping)의 차이점

5. 오늘 한 일 / 회고

• 웹개발 종합반 강의 진행중(여러번 반복중! 점점 이해가 가는 느낌)

6. TO-DO LIST

• 웹개발 종합반 강의

7. 추가 공부

• 웹 크롤링(Web crawling) vs 웹 스크래핑(Web scraping)

컴퓨터일반 공부할 때 빅데이터 부분에서 웹 크롤링을 개념적으로 접했었는데 내가 배웠던건 비정형화된 데이터들을 추출하는 것 정도였다.

크롤링과 스크래핑과 차이가 무엇일까?

1) 정의

- 웹 크롤링

소프트웨어 따위가 웹을 돌아다니며 유용한 정보를 찾아 특정 데이터베이스로 수집해 오는 작업. 또는 그러한 기술.

- 웹 스크래핑

인터넷 웹 페이지에 나타나는 데이터 중에서 필요한 데이터만을 추출하도록 만들어진 프로그램. 각 사이트로부터 데이터를 수집해 오는 기술, 일정 포맷으로 변환하는 기술 따위가 핵심이다.

 

2) 특징

- 웹 크롤링

웹상에서 방대한 양의 자료를 수집 함 -> 특정 키워드 심층 분석이 필요할 때 좋음

실시간 정보 수집을 위해 계속해서 작동 -> 자주 변화하는 데이터 파악에 좋음

-웹 스크래핑

특정 사이트 또는 특정 페이지에 대한 데이터에 집중 -> 데이터 포인트를 정확히 알고, 확실한 정보만을 수집-> 장기적인 서비스 대역폭이나 비용 절감 가능

 

3) 정리

원하는 데이터를 찾는다는 점에서 두 개념의 비슷한 부분이 있으나 웹크롤링은 웹페이지에 링크를 타고타고~ 계속 탐색을 하는것이고 웹 스크래핑은 특정 웹사이트에서 특정 데이터를 추출하는 것