전체 글

하나의 뉴런은 단순한 연산을 한다 단순한 연산 = 선형연산 선형모형은 분류 모형 하나의 뉴런은 단순한 분류기 단순한 분류기는 선형분류기로 이해할 수 있다. 퍼셉트론의 아이디어는 선형분류기 들어오는 입력 값에 대해 선형 연산을 해서 그 결과가 양수, 음수 인지 판단해서 activation(non-activation)을 한다. 하나의 퍼셉트론은 선형분류기다. 그런데 뉴럴 네트워크는 비선형 분류기 퍼셉트론은 선형분류기, 다층퍼셉트론은 비선형분류기 비선형성을 갖게 하는 게 활성화 함수 퍼셉트론 전체를 놓고 보았을 때는 활성화함수가 비선형연산을 하는 애다. 비선형 연산을 함에도 불구하고 logistic regression도 비선형적인 곡선을 통과하지 않냐. 왜 선형분류기라고 하냐면 경계선을 결정짓는 역할을 하는 ..

https://www.youtube.com/watch?v=LyGKycYT2v0&list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab&index=9 전통적으로, 내적(dot product) 같은 것은 선형대수 강의에서 상당히 앞쪽에 나와. 보통 시작 부근에 있지. 그래서 내가 이 시리즈에서 뒷쪽에 놓는 게 좀 이상하게 보일수도 있어. 내가 이렇게 한 이유는 기존 방법대로 소개하면 벡터의 기초지식만 있어도 되긴한데, 하지만 수학에서 내적의 역할에 대한 제대로된 이해를 하려면 선형변환이라는 이해가 반드시 있어야만 해. 하지만, 그전에 간단하게 소개할게. 기존 방법이 내적을 어떻게 소개하는지를. 내가 가정하는 건 많은 사람들에게 적어도 부분적으로라도 검토받았어. 수치적으로, 같은 차원의 두 벡..

https://www.youtube.com/watch?v=v8VSDg_WQlA&list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab&index=8 안녕 모두들! 오늘 챕터사이 각주 분량의 짧은 내용을 가져왔어. 지금까지 선형변환에 대해서 얘기했는데, 단지 2차원벡터에서 2차원벡터로 변환되는 것만 얘기했었어. 2x2 행렬만 다뤘었지. 혹은 3차원벡터에서 3차원벡터로 이동하는 3x3 행렬을 다루거나 말야. 하지만 몇몇 리플을 보니 비정사각 행렬에 대한 질문이 올라오더라고. 그래서 잠깐 시간을 내서 기하학적으로 이 행렬들이 어떤지 보여주려고 해. 이 시리즈의 지금쯤이면, 넌 이미 충분한 배경지식을 가지게 되서 이 질문에 대해 스스로 찾아볼만한 단계일거야. 난 여기선 약간의 멘탈 모멘텀만을 주..

https://www.youtube.com/watch?v=uQhTuRlWMxw&list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab&index=7 지금쯤이면 아마도 알거야 이 동영상 시리즈의 대부분이 행렬과 벡터연산의 이해를 선형변환의 시각화 렌즈를 통해서 본거지. 이 동영상도 마찬가지야. 역행렬(inverse matrix) 개념을 설명할때나 열공간, 계수(rank), 영공간(null space) 설명할때도 그런 렌즈를 통해서 설명할거야. 미리 말해두건대, 이런 것들을 실제 계산하는 방법에 대해서는 다루지 않을거야. 누구에게는 그게 꽤 중요할 수도 있지만. 다른 동영상들을 찾아보면 그런 계산법을 다루는 좋은 게 많이 있을거야. 검색할때 키워드로 "가우스 소거법(Gaussian elimi..

https://www.youtube.com/watch?v=Ip3X9LOh2dk&list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab&index=6 안녕, 또 만났네. 그럼, 이제는 너에게 충분히 설명했다고 생각해. 선형변환에 대한 시각적 이해가 됬을거고, 선형변환을 행렬로 표현하는 방법도 알거야. 지난 동영상들에서 통해서 계속 얘기했었지. 근데 너가 선형변환을 다루다보면, 어떤 것들은 공간을 확대시키는 것 같을거고, 또 어떤 것들은 공간을 축소시키는 것 같을거야. 이런 변환을 이해하는데 꽤 도움이 되는 방법 한가지가 있어. 바로 물체를 얼마나 확장되거나 축소되는지 특정해보는거야. 더 구체적으로 설명하자면, 특정 지역의 크기를 증가하거나 감소시키는 팩터(factor 요인)값을 측정해보는 ..

https://www.youtube.com/watch?v=rHLEWRxRGiM&list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab&index=5 [고전 음악] "리사: 아빠는 어디있어요?" "프링크: 글쎄, 가장 멍청한 사람이 보기에도 확실할거야." "...쌍곡기하학 고급학위를 취득한사람이란 말야... 호머 심슨은 비틀거릴 수 밖에 없어." " 3차원 공간에서!" - 만화 심슨 중에서 여러분 안녕, 오늘은 꽤 짧은 동영상을 가져왔어. 챕터사이의 각주정도되는 분량이야. 지난 두 동영상을 통해 내가 말했던 것은 선형변환(linear transformation) 과 행렬(matrix) 이였어. 근데 특수한 예제 상황만을 보여줬었어. 2차원 벡터 -> 2차원 벡터로 바뀌는 예제들만 보여줬었지..

https://www.youtube.com/watch?v=XkY2DOUCWMU&list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab&index=4 안녕하세요 여러분? 지난 시간에는 선형변환이 어떤 것인지 설명해드렸고 선형변환을 행렬을 이용해 표현하는 방법도 소개해드렸습니다. 지난 번에 다룬 내용을 다시 요약해드리겠습니다. 왜냐하면 이건 정말 중요한 것이거든요. 물론, 요약만으로 부족하다고 느낀다면 다시 이전 동영상 전체를 시청하는 것도 좋은 방법입니다. 기술적으로 말하자면, 선형변환은 한마디로 함수입니다. 벡터를 집어넣으면 [벡터가 정의역] 벡터가 나오는 것이지요. [벡터가 치역] 지난번에 제가 이것을 시각적으로 보여드렸습니다. 어떻게 선형변환을 생각할 수 있는 지를요. 공간을 이리저리..

https://www.youtube.com/watch?v=kYB8IZa5AuE&list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab&index=3 불행하게도, 누구도 매트릭스가 무엇인지 말할 수 없습니다. 당신 스스로 찾아야만 합니다. - 모피어스 (영화 매트릭스 중에서) (행렬 연산을 시각적으로 이해시키는 놀라울정도로 적절한 문장) 안녕 모두들! 제가 선형대수에서 단지 하나의 주제를 선택해야 한다면, 특히 선형대수에 대해 하나도 모르는 학생을 위해서 하나 선택해야 한다면, 그것은 선형변환(linear transformation) 과 행렬과의 관계입니다. 이 동영상에서는 2차원 예제를 통해 선형변환이 무엇인지에 관해 집중해보겠습니다. 그리고 행렬-벡터 곱셈과 어떤 관련이 있는지도 알아보..