hae-koos

NeRF 논문을 읽고, 매주 새로운 논문을 공부했지만 블로그에 정리할 시간은 나질 않았다. 지금도 마찬가지이나 로컬 PC의 GPU와 연구실 서버가 열심히 일하고 있는 중이다. 그렇다고 퇴근해버리기에는 다음 실험까지 돌리고 가고 싶어서 시간이 살짝 떴다. https://hae-koos.tistory.com/97 NeRF 논문 리뷰 및 설명 3D 연구를 진행하기 위해 읽었던 논문들이 꽤 있는데 노션과 미팅노트 형태로만 정리되어 있어서 논문읽기에 싫증이 나거나 단순한 일을 하고 싶을 때 하나씩 블로그로 옮겨보고자 한다. 그 시 hae-koos.tistory.com 오늘 정리할 논문은 D-NeRF. NeRF가 Static Scene을 다뤘다면 Dynamic Scene을 다룬 논문이다. 즉, 시간 축의 정보까지 ..

3D 연구를 진행하기 위해 읽었던 논문들이 꽤 있는데 노션과 미팅노트 형태로만 정리되어 있어서 논문읽기에 싫증이 나거나 단순한 일을 하고 싶을 때 하나씩 블로그로 옮겨보고자 한다. 그 시작은 NeRF로 - ! 2020년 3월, arXiv에 올라와 ECCV 2020 Best Paper로 올라간 (a.k.a) NeRF는 3D Scene Representation을 implicit function으로 encoding하여 고퀄리티의 렌더링 결과를 보여줬다. Neural Rendering에 관련한 배경지식이 전혀 없었던 나는 애초에 렌더링이라는 개념부터 정립할 필요가 있었다. 렌더링 : 3차원 공간에 존재하는 Object를 2차원, 즉 하나의 장면으로 바꾸어 표현하는 것 NeRF가 푸는 문제의 이름이 Novel ..

# Resampling 정상 케이스와 모야모야 케이스를 촬영하는 MR Protocol이 다르다는 점과 촬영 기기의 차이, 그리고 심지어 같은 스캐너를 사용했다고 하더라도 Voxel Spacing에 차이가 존재할 수 있다. 이를 1 : 1 : 1로 맞춰주기 위해 resampling을 진행하였다. resampling 코드나 방법은 검색하는대로 쉽게 찾아볼 수 있었다. # RoI Crop 학부 시험기간과 겹치고 교수님들께 피드백 받는 시간이 길어지는 동시에 가장 애를 먹였던 RoI Crop이다. 사람들마다 머리 모양이 모두 다르고, 머리를 차지하는 뇌의 크기도 다르다. 또한 앞서 언급하였던 스캔 프로토콜의 차이에 따라 이미지 속 뇌가 차지하는 면적이 모두 달랐기에 전체 이미지에서 RoI의 상대위치를 계산할 수..

모든 게시물은 macOS Monterey 12.0.1 버전 기준으로 작성하였습니다. 부스트캠프 AI Tech 3기를 위한 Pre-Course 를 토대로 작성하였습니다. Sequential Model Sequential Data를 처리하는 가장 큰 어려움은 지금까지는 우리가 얻고 싶은 것이 하나의 Label이었는데 Sequential Data는 길이가 제각각이다. 받아들일 입력의 차원이 고정되어 있지 않다는 것이다. 몇개의 단어, 음절, 이미지가 들어올 지 모르므로 그 크기에 상관없이 동작할 모델이 필요하다. 이전에 어떤 말이 들어왔을 때 다음 말이 무엇일지 예측하는 문제. 시간이 지날수록 고려해야 하는 지난 시간의 데이터들이 늘어난다. 이를 가장 간단히 만드는 것은 Fixed Time Span. 과거의 ..

모든 게시물은 macOS Monterey 12.0.1 버전 기준으로 작성하였습니다. 부스트캠프 AI Tech 3기를 위한 Pre-Course 를 토대로 작성하였습니다. Convolution 방법은 위 이미지와 같지만 이 과정이 가지는 의미가 무엇일까? 적용되는 필터를 해당 이미지에 도장처럼 찍는 것인데 그 종류에 따라 blur, emboss, outline 등 다양한 결과가 나올 수 있다. 만약 커널이 3x3에 각 값이 1/9라면 그 커널 속 이미지의 평균이 해당 출력값으로 들어갈 것이다. Input 채널과 Fileter 채널이 동일한 상태에서 왼쪽과 같은 과정으로 이루어지는데 오른쪽 이미지처럼 Filter 수가 늘어난다면 Output 채널 역시 늘어날 것이다. 그 Convolution을 여러번 쌓고 M..

모든 게시물은 macOS Monterey 12.0.1 버전 기준으로 작성하였습니다. 부스트캠프 AI Tech 3기를 위한 Pre-Course 를 토대로 작성하였습니다. Introduction 1. Generalization Iteration이 반복될 때마다 Training Error는 당연히 줄어들 것이다. 하지만 시간이 지나가고 나면 Test Error에 대해 그 성능이 떨어지게 된다. 즉, Training Error와 Test Error 사이의 차이가 증가한다. 이러한 현상을 오른쪽 이미지와 같이 Overfitting이라 한다. 학습 데이터조차 맞추지 못하고 있는 것이 Underfitting. 2. Cross-Validation 일반적으로 학습과 테스트를 위한 데이터를 나눠서 훈련시키는 경우가 많다...

모든 게시물은 macOS Monterey 12.0.1 버전 기준으로 작성하였습니다. 부스트캠프 AI Tech 3기를 위한 Pre-Course 를 토대로 작성하였습니다. Neural Network 생물학적 뇌의 신경망을 모방한Computing System. 이미지라는 텐서가 주어지면 라벨이라는 벡터가 산출되는 모델이 있다고 하자. 내가 정의한 함수(행렬 연산과 비선형 연산의 반복)로 이를 근사하겠다. 입력과 출력이 1차원인 문제가 있다고 하자. 선형회귀. 그 목적은 입력과 출력을 연결하는 모델을 찾는 것이다. 선형이므로 라인에 대한 기울기와 y절편 두 파라미터를 찾는 문제가 될 것이다. 데이터는 1차원 x와 y가 N개 모여있다. x에서 y_hat으로 mapping 시키는 선형모델 그 기울기와 절편을 찾는..

모든 게시물은 macOS Monterey 12.0.1 버전 기준으로 작성하였습니다. 부스트캠프 AI Tech 3기를 위한 Pre-Course 를 토대로 작성하였습니다. Convolution & CNN [ 강의 소개 ] Convolution 연산과 다양한 차원에서의 연산방법을 공부합니다. Convolution 연산의 역전파에 대해 공부합니다. Convolution은 이미지나 영상 처리에 있어서 자주 활용되는 연산이다. Fully Connected Network에 비해 Convolutional Neural Network가 가지는 장점을 이해하고 그 역전파 연산에 대해 공부한다. https://setosa.io/ev/image-kernels/ Image Kernels explained visually An i..

모든 게시물은 macOS Monterey 12.0.1 버전 기준으로 작성하였습니다. 부스트캠프 AI Tech 3기를 위한 Pre-Course 를 토대로 작성하였습니다. Bayes' Theorem, Causality, Simpson's Paradox [ 강의 소개 ] 조건부확률에서 이어지는 개념인 베이즈 정리와 인과관계 추론에 대해 공부합니다. 데이터가 새로 추가될 때 정보 갱신에 사용되는 베이즈 정리에 대해 공부합니다. 베이즈 정리는 데이터가 새로 추가될 때 정보를 업데이트하는 방식의 기반이 되므로 머신러닝에 사용되는 예측모형의 방법론으로 굉장히 자주 사용됩니다. 사전확률, 사후확률. evidence 등의 개념에 대해 확실히 짚고 넘어가야 합니다. 인과관계 추론에 있어 조건부확률을 섣불리 사용해서는 안되..

모든 게시물은 macOS Monterey 12.0.1 버전 기준으로 작성하였습니다. 부스트캠프 AI Tech 3기를 위한 Pre-Course 를 토대로 작성하였습니다. 미분과 그래디언트 그리고 경사하강법 [ 강의 소개 ] 미분의 개념과 그래디언트 벡터에 대해 설명합니다. 경사하강법의 알고리즘과 실제 코드에서의 구현을 보여줍니다. 접선의 기울기를 활용하여 함수의 최솟값으로 향해 이동하는 원리를 바탕으로 경사하강법의 알고리즘과 수식을 이해할 수 있다. 특히, 변수가 벡터라면 편미분을 통해 구한 그래디언트 벡터를 통해 d차원으로 경사하강법을 확장할 수 있다. 비선형 모델, 신경망, softmax, 활성화함수, 역전파 알고리즘 [ 강의 소개 ] 선형모델은 단순한 데이터를 해석할 때 유용하지만 복잡한 문제 해결에..