* 딥러닝 공부한 것 기록_1 * 


학교에서 프로젝트로 공부하고 있는 딥러닝에 관해서

나름대로 공부한 것들을 기록해보았습니다.


정확할지 아닐지는 몰라도 이 글이 도움이 된다면 언제든지 제 지식을 가져다가 쓰시길 바래요!



-------------------------------------------------------------------------------------------------------



데이터 모으는 것부터 하자(데이터 만드는 것이 딥러닝의 시작)

텐서플로우 사용(파이썬)

성능이 안나온다? -> 데이터를 보자(네트워크문제보다 데이터문제가 더 클수도)


cost function 에서 H(X) 는 그래프 선(linear)상의 값, Y 는 실제 값

제곱 : 패널티를 쎄게 줄 수 있다.


min(cost(w)) = 로스(cost)가 가장 작은 가중치(w)를 찾는 것.

=> convex 함수(볼록함수)


행렬 활용해야 한다.


시그모이드 함수와 크로스 엔트로피 코스트

H(x) = Wx일때 H(x)에 시그모이드를 쓰면 

그래프(코스트)가 이상하게 나옴.(convex,볼록 함수가 안나옴. 최소값 찾기가 힘듬)

그래서 크로스 엔트로피 코스트 함수가 나온것.

그런데 여기서 log를 사용한 코스트함수를 쓰는데, if를 빼고 모든 상황에서 사용

가능한 크로스 엔트로피 코스트 함수를 만들어 냈음.


그럼 결과가 2개 초과인 경우에는?

2차원 배열로 사용. 3개? 3X3 w행렬. 4개? 4X4 w행렬.

여기서 x1 x2 x3 피쳐값을 넣어서...(x1 = feature 1)

결과값이 0.2 20 0.7 나왔다? -> 시그모이드 사용 -> 확률로 나와짐.


정리

리니어 리그레션. 가설 H(x) -> 키-몸무게 2개뿐

3개이상? 멀티 리니어 리그레션


시그모이드에서 지수함수가 들어가는데, 그러면 이상한 그래프가 나옴.

이 그래프를 좀더 찾기 쉽게 만들어주려면 지수함수의 반대인 로그함수값이 들어가는데,

이 로그함수값이 포함된 코스트 펑션을 크로스 엔트로피 코스트 펑션이라고 부른

Posted by NDC :