Tuesday, July 15, 2008

곰돌이 푸~

참... 인터넷엔 없는 게 없다. 일요일 아침 만화시간에 하던 푸우 주제가.
나보고 푸우 닮았다고 하길래 생각난 김에 검색. (하긴 살이 쪘을땐 그랬나?)
푸우에 나오는 캐릭터는 모두 크리스토퍼 로빈의 봉제인형.
귀염둥이 캐릭터가 많이 나온다.

하지만... 나의 favorite character는 역시 이요르~
이요르는 어록도 많다... 그 중에 하나
"A tail isn't a tail to them, it's just a little bit extra at the back."
노인같이 말하는 게 꼭 나 같지 않아? ㅎㅎㅎ

Monday, July 14, 2008

C 함수를 CUDA로 포팅하기

CPU에서 구현했던 각종 C 함수를 GPU에서 돌리기 위해 며칠째 똑같은 삽질을 계속하는 중.

GPU는 서로 다른 자료를 가지고 동일한 연산을 수행하는 데에 매우 탁월하므로 상당한 가속이 이루어질 것으로 생각하고 포팅하고 있지만 여러가지 난제에 부딪히고 있다.

1) 알고리즘 복잡도
물론 상당히 복잡한 알고리즘도 포팅할 수는 있겠지만, 과연 효율적인가에 대해서는 의문이 남는다. 주지한 바대로 GPU상에서 가속되는 요인 중 하나는 동시에 여러 쓰레드가 돌기 때문이다. 동시에 구동 가능한 쓰레드의 수는 세 가지의 요인에 의해 결정된다. 첫번째는 사용된 레지스터의 수이고, 두 번째는 shared memory의 크기, 마지막 하나는 사용한 GPU의 사양이다. 이 세 가지는 런타임에 결정되는 것이 아니라 컴파일 시점에 결정되는데, 사용한 컴파일러 (정확히 얘기하면 CUDA nvcc의 버전)에 따라 다르게 결정되므로 CUDA 라이브러리의 버전을 잘 결정할 필요가 있다.

예를 들어, hypothesis-test의 형태를 갖는 알고리즘을 만든다고 하면, test단계는 보통 비교적 간단한 사칙연산으로 해결되는 경우가 많다. 이러한 사칙연산에는 GPU가 매우 강력한데 이는 비교적 레지스터를 적게 쓰면서 해결할 수 있고, 구현상 branch가 적은 단일 flow process가 되는 경우가 많기 때문이다. 이러한 구조의 계산에서 병렬계산은 매우 강력하며 상당히 많은 수의 쓰레드를 동시에 수행할 수 있다. 반면, hypothesis 단계는 단순 random process나 markov random walk의 경우처럼 간단하게 구현되는 경우가 아닌 model fitting이 필요한 경우라면 비교적 복잡해진다. 특히 수치해석기법이 활용된 경우에는 수많은 반복 연산과 divergent branch가 존재하므로 그만큼 많은 레지스터를 소모하게 된다.

간단한 예로 numerical recipe등에 있는 singular value decomposition 알고리즘을 보면, householder matrix로 바꾸어 reduction하는 과정을 거치는데, 이 과정에서 loop와 branch가 많아서 레지스터 소모량이 크다. svd를 한 번 사용하면 cuda 2.0 beta의 경우 레지스터를 거의 30개 정도 사용하게 되며 이 경우 쓰레드는 최대 16개 구동할 수 있다. 물론 그것만 할 수는 없으므로 더 사용하게 되면 동시 구동되는 쓰레드의 수는 더 줄어든다.

가속성능이 얼마나 나올지는 구현한 알고리즘에 따라 달라질 수 있다. 관건은 사용된 레지스터의 수를 줄이는 것이며 이는 컴파일러 성능에 비례한다.

2) pointer argument의 사용
CUDA로 포팅하면서 조금 난감한 문제 가운데 하나는 __device__함수에서 메모리 할당이 안된다는 점이다. GPU에서는 계산만 수행하므로 메모리관리는 외부에서 직접 해주어야 한다. 그런데 보통의 C 함수 구현에서는 보통 가변메모리를 할당해서 다른 함수의 인자로 넘겨주어 결과를 받아오는 경우가 많고 특히 벡터나 행렬연산을 하는 경우에 이런 패턴으로 구현하는 경우가 많다. 이러한 패턴은 CUDA를 사용해도 허용되지 않으므로 내부에서 사용될 메모리를 밖에서 미리 잡아 넘겨주어야 한다.

그러나 모든 부속함수의 모든 지역변수를 일일히 cudaMemAlloc으로 잡는 것은 너무 번거로운 일이고 device global 메모리를 사용하면 coalescing을 신경써야 하므로 일이 너무 커진다. 특히나 알고리즘이 복잡해질수록 더욱 그렇다. 이때는 shared memory를 사용해서 빠르게 access해야 하는데, 서로 다른 쓰레드가 서로 간섭하지 않도록 shared memory space를 디자인하는 것이 중요하다. 예를 들어 쓰레드의 갯수가 n이고 m 벡터를 인자로 넘기는 상황이라면, nm 크기의 shared memory를 잡아서 함수내에서 써 주는 식이다.

여기서도 볼 수 있는 것은 함수 내의 메모리할당이 많은 알고리즘일수록, 그리고 벡터의 크기가 클 수록 shared memory의 사용량이 비례해서 증가한다는 점이다. 쓰레드 블록내에서 shared memory의 크기가 한정되어 있으므로 global memory를 사용하지 않는다면 쓰레드 갯수를 늘리는 것이 한정되며 이는 가속성능을 저하시킨다.

shared memory를 얼마나 쓸지는 코딩 단계에서 결정되므로 신중히 결정해야 한다. 너무 크면 동시에 구동되는 쓰레드가 적어질 수 있고, global memory에 많이 할당하면 그만큼 쓰레드 수행 속도가 느려진다.
(shared memory 변수는 함수 내에서도 정의할 수 있는 것으로 보이나 가급적이면 전역변수로 선언하자. 컴파일러나 런타임라이브러리에 따라 다른 결과를 보이는 것 같다.)

3) Precision의 문제
GPU는 아직까지 single precision 계산만을 지원한다. CUDA 2.0과 GT200 GPU가 나오면서 double precision계산이 지원되기 시작한 것으로 보이지만, Compute Capa. 1.3이상인 GPU를 사용해야만 가능한 것 같다. 결국, 시도라도 해보려면 GT200을 사용하는 GTX280, GTX260이나 Tesla S1070, C1060중에 하나를 사용해야 한다는 의미. (2008년 7월 15일 현재)

결국 알고리즘이 double precision을 필요로 하는 경우에는 CUDA 활용이 제한될 수 밖에 없다. 이런 경우는 수치해석기법이 필요한 경우 많이 발생할 것 같은데, condition number가 작은 문제인 경우, 또 반복적인 계산을 통해 최적화를 수행하는 과정이 들어간 경우 등이 이에 해당할 것이다. 특히나 중간 계산값에 따라 결과 정확도가 많이 달라지는 경우에는 precision을 반드시 체크해봐야 할 것 같다.

진짜 이딴 식으로 살지는 말자 --;;

뭐... 멀리서나마 시끄럽게 돌아가는 한국 뉴스에 관심이 간다. 언제 돌아가게 될 지도 모르고... 사실 싸움구경 불구경이 재밌다고들 하지 않나. 재미로만 보기에는 좀 그런 뉴스들이 많긴 하지만.

특히나 공돌이로서 재밌는 구경거리는 봉하마을과 청와대 사이에 자료를 갖고 갔니 마니 하는 논쟁. 전자문서인 데이터베이스의 원본이 어쩌고, 서버를 통째로 떼갔다는둥, 근데 자료를 복구한다는 둥 하는 횡설수설 브리핑을 읽고 있으면 개그맨인건가 싶은 생각도 들고, 뜻도 모르면서 말을 하고 있는 사람이 좀 이상해 보이기도 하고. 인수인계할때 자료 준다니까 싫다 할때는 언제고 지금와서 없다고 난리법석을 부리는 것도 웃기고, (뭐.. 몽니부리는 거겠거니 하는 생각이었지만.) 누가 자료 준다고 하면 안볼거 뻔히 알면서도 일단 받아 챙기는 공돌이 습성이 생각나 조금 웃기도 했다. 다른 한 편으로는 전자문서의 열람과 사본제작이 다를 수 있는가에 대한 상당히 기술적인 논쟁까지 겹쳐지며 공돌이로서는 꽤 재밌는 논쟁이 되어가고 있었더랬다.

근데, 오늘 뜬 기사 둘.

靑 "盧측 기록반출로 국정운영 할 수 없어"
'前대통령 기록물 현직도 열람’ 법 추진

욕을 안할래야 안할 수가 없다.

원래 못보는 자료가 없어서 국정운영을 못한다는 건 또 무슨 해괴한 말이며, 전임자의 기록을 현직도 보게 만들겠다고? 왜 일부 자료에 대해서 20년 30년씩 비공개하는지에 대한 개념이 전혀 없는거냐? 조선시대 임금들도 못하던 걸, 그것도 다 이유가 있어 그리 하는것을 깡그리 무시한다니 어이가 없다.

첫번째 기사가 사실이라면, 대놓고 나는 병신입니다 하는거나 같은거고. 왜냐고? 원래 그 자료는 못보는 거라니까? 원래 없는 자료가 없어서 일을 못한다는 건 뭔 병신같은 개소리냐고. 주식회사 대한민국이라 인수인계할때 다 내놓고 가야하는거 아니냐고? 그런 정신머리로 국가의 일을 하니 나라꼴이 그 모양이지. 그럼 왜 준다 할때 안 받고 오렌지 타령이나 하고 있었냐고.

게다가 정말 굳이 필요하면 국회 2/3의 동의를 구해서 볼 수도 있는 길이 있다. (미국법의 예를 따른 거겠지만. 미국의 경우 전임대통령 자료의 정보공개를 요구한 현직대통령은 단 한 사람도 없다.) 이모저모 따져보면 너무 악의적이고 야비하다.

진짜 이딴 식으로, 야비하게 굴지는 말자. 노 전대통령이 데이터베이스 사본을 보유하고 있는 것 자체는 논란의 여지가 있을 수 있다손 치더라도, 지금 하고 있는 일은 지난 5년간 지겹게 들어야 했던 '이게 다 노무현 때문이다'를 앞으로 5년간 더 하고 싶다는 말에 지나지 않는다. 지난 대통령의 '비공개' 자료가 없어서 국정 운영을 진짜 못하겠다면, 그만 두라. 그게 없어도 해 낼 수 있는 사람이 있을테니. 의석이 많다고 개념없는 법안이라도 만들어서 전임자의 뒤나 캘 요량이면, 그런 식으로 밖에 '국정 운영'을 못하겠으면 그것도 무능력함을 인정하는 것 이상의 의미는 없다.

좀 흥분된 포스팅이지만, 무슨 저잣거리의 양아치도 아니고 한 나라의 국정을 담당하는 사람들인데 최소한의 양식과 개념은 좀 장착하기 바란다. 지금 하고 있는, 하려고 하는 저 짓은 정말 길거리 양아치만도 못한 저열한 의식의 발현일 뿐이다.

Wednesday, July 9, 2008

지리공부가 필요해!!

재밌는 플래시게임(?) 하나.
제시한 곳이 세계지도 상에서 어디 있는지 클릭하면 되는 간단한 게임인데, 이거... 만만치가 않다.
대충 어디쯤이겠거니 하고 찍어보면 한 300km정도는 벗어나는게 보통이네... ㅋ
하여튼... 자신의 세계 지리 실력을 테스트 해보거나, 다음 여행지를 골라보고 싶다면 도전!

(다 하고 나면 여행IQ라는 게 나온다... 100도 안되는군 OTL)

여행 아이큐 검사 하러 가기

Tuesday, July 8, 2008

개요를 쓰자

돌이켜보면 초등학교부터 고등학교까지 다니면서 글쓰기에 대한 공부를 한 적이 없는 것 같다. 요즘은 논술이 대입전형에 활용되니까 조금 연습을 하는지 모르겠지만, 최소한 내가 학교를 다닐때는 정규과정에서 글쓰기를 체계적으로 배운 적이 없었다.

반면, 영미권에서는 글쓰기에 대한 매우 체계적인 교재가 개발되어 있고, 마치 벽돌로 건물을 짓듯이 글을 '짓는다'. 지금 하려고 하는 것은 문학작품을 쓰는게 아님을 기억하자. 논리적인 글을 쓸때 가장 필요한 것은 '논리(logic)'이다. 논리적으로 전개된 글은 약간의 문법적 오류나 피하기 어려운 어색한 문장이 있더라도 쉽게 읽혀진다. 이는 독자가 이미 앞으로 나올 논의를 내심 예측하고 있기 때문이다.

논리적인 글을 쓰기 위해서 제일 먼저 해야 할 것은 '개요'를 작성하는 것이다. 논문 작성시, 논문의 길이와 상관없이, 처음부터 줄줄 써내려가서는 안된다. 아무리 짧은 글을 쓰더라도 최소한 각 문단의 주제를 논리적으로 구성한 후 각 문단을 써나가야만 전체적인 논리 흐름을 잡을 수 있다.

글을 쓰는 도중에도 종종 개요를 확인해본다. 개요 작성을 통해서 얻는 것은 논지에 어긋나거나, 불필요한 문단, 문장을 제거하는 데 있다. 논문은 결국 뭔가를 설명하거나 주장하는 글이므로, 논지에서 벗어난 문단이나 문장은 전체 논문을 이해하기 어렵게 만든다.

간단한 원칙은 다음과 같다.
1) 서론, 본론, 결론 이나 기승전결과 같은 논리적 구조를 정하고 각 부분에서 말해야 하는 것이 무엇인지 결정한다.
2) 각 부분이 말하고자 하는 것을 드러내기 위해 subsection을 구성한다. section이나 subsection의 제목을 신중하게 결정한다. (여기서 결정했다고 해서 최종적인 것이 아님)
3) 각 subsection의 결론을 정한다. 가능한 간단한 한 문장으로 써본다.
4) subsection의 결론을 유도하기 위한 문단을 구성한다. 이때, 각 문단은 '한 가지' 생각만 담는다.
5) 각 문단의 주제문을 '강한 문장'으로 쓰는 것이 좋다.
6) 문단 구성이 되면, 처음으로 돌아가서 앞서 결정한 subsection제목이나 주제문이 일관된 논리적 흐름을 따르는지 확인해본다. 가장 좋은 논문은 주제문을 순서대로 나열했을 때 논문의 contribution이 보이도록 하는 것이다. 특히 중복된 것이 없는지, 한 문단에, 또는 한 subsection에 하나의 주제만 담겨 있는지 확인해야 한다.
7) 각 문단을 완성한다. 이 때도 가급적 한 문장에 하나의 생각만 담도록 한다.

기본은 '한 단위에 한 가지 생각'이라는 것이다. 두 가지 이상이 들어가면 모호해지므로 단락을 지어줄 필요가 있다.

초벌쓰기가 완료되면 각 글단위의 길이가 어떤지 확인해보자. 가급적이면 모든 단위가 균등하게 나뉘는 것이 좋다. 이는 독자들에게 심리적인 휴지기를 주는 목적이 있다. (논문을 읽다보면 아 여기까지 일단 읽어야지 하는 생각을 section, subsection단위로 하게 되는데 다음번 읽을 subsection이 너무 길다고 상상해보자. T.T;;)

생각의 최소단위가 되는 문장을 분리하는 것을 이전에 얘기한 적이 있는데, 문단이나 단원도 마찬가지이다. 필요 이상으로 나누면 독자는 왜 여기서 문단이 나뉘는 지 고민하게 된다. 반대로 너무 길면 독자는 집중력을 잃게 된다. 각 문단은 한달음에 읽을 수 있을 만한 길이로, 최소한 쉽게 주제문을 찾을 수 있을만한 길이로 배분한다. 길이를 적절히 배분하는 과정에서 개요를 다시 작성하게 될 것이다.

이 과정을 반복해서 논문을 개요에 따라 완성할 수 있다. 중요한 것은 '한 단위에 한 가지 생각을 담는다'는 대원칙과, 논지에 불필요하거나 어긋난 문장, 문단의 삭제, 가독성을 높이기 위한 길이 분배의 원칙이다.

이처럼, 논문 작성시 실제 문장 작성의 시간보다 개요 작성 및 수정 시간이 더 많이 걸리는 것이 당연하다. 빨리 문장을 작성하는 것이 더 낫겠다는 생각이 들겠지만, 개요에 더 시간과 노력을 기울이는 것이 훨씬 낫다. 산 속에서 길을 찾으려면, 지도를 가지고 있는 편이 낫지 않을까?

Monday, July 7, 2008

빨강머리 앤

어디선가 봤는데 다시 보고 싶은 만화 1위였던가. 빨강머리 앤.
호기심이 많고 수다스런 아이인 앤의 성장기. 아마도 외로움을 잊기 위해 그렇게도 말을 많이 했던 건 아니었을까?
아주 조그만 소녀였던 앤이 끝날 때 쯤엔 다 큰 처녀로 성장하는데, 조금씩 조금씩 변하는 과정을 섬세하게 그려서 보는 도중에는 크고 있다는 걸 전혀 생각도 못했었다. 나중에 다시 보고서야 '아 저렇게 작았었군.' 생각했었지.
다시봐도 꽃길에서 마차를 달리는 장면은 이쁘다.

Saturday, July 5, 2008

미래소년 코난

아마 우리 세대에게 '코난'이 가지는 의미란 그저 만화주인공은 아닐 수도 있다. 거의 모든 이가 공유할 수 있는 대화 주제로 미래소년 코난은 항상 무난할 수 있으니.. 이런 공유가 가능한 만화가 흔할까?
요즘 애들에겐 '코난'이 명탐정 코난이라는데... 몇 년생부터 처음 떠오르는 게 미래소년 코난과 라나와 포비일까? 궁금해진다.

재밌는 것 하나... 코난의 배경이 서기 2008년 7월부터 시작하는 것을 알고있어? 바로 지금이 코난 만화가 시작되는 시점이지. 정말 초자력무기로 세상이 황폐화될까?
둘.. 내 눈에만 그리 보이는 진 모르겠지만, 영상을 돌려보다보니 코난이랑 김구라 아들 동현이가 많이 닮은 듯 ㅋㅋㅋ

Thursday, July 3, 2008

Belkin N 무선 라우터

인터넷 연결이 하도 끊어져서 왜 그런가 곰곰히 생각을 해봤더니 랜선이 안좋은가 싶었다. 너무 짜증이 나서 홧김에 질러버린 게 Belkin N 무선 라우터.



배송도 이틀밖에 안걸렸고 집에 와서 설치하는 데도 전혀 어려움이 없었다. 모뎀이랑 방에서 Line of sight가 없기 때문에 약간 걱정이 되긴 했는데 아주아주 잘 된다. ^__^
역시 802.11n MIMO 기술이란게 멋진 거군 ^^;; 왜 지금까지 이렇게 짜증내면서 살았는지 모르겠네.

뒹굴뒹굴 인터넷 세상이 열렸네~

강한 문장 쓰기

중요한 문장은 강한 어조로 쓰는 것이 좋다. 강한 어조로 쓴 문장은 내용에 대한 확신을 주며 중요한 점을 강조하는 효과가 있다. 특히 각 문단의 주제문은 강하게 써 주어야 읽는 독자들이 더욱 편하다.



문제는 어조나 뉘앙스를 표현하는 것이 non-native에게는 쉽지 않다는 것이다. 언어 표현이 잘 안되므로 몇 가지 원칙을 통해 최대한도로 어조를 조절할 수 있다.

1) 가능한 한 짧게 쓴다. 수식어가 주렁주렁 달린 문장은 이해하기도 어려우며 주제문장이 뭔지 찾는데 시간이 걸린다.
2) 접속사를 지우고 읽어보자. 대개의 경우, 접속사가 없는 문장으로도 내용 전달에 문제가 없다. 특히 명확한 주어로 시작하는 문장이 대개 강하다.
3) 강한 문장은 단독 문장이다. 중문이나 복문에 들어간 문장은 약하다.
중문이나 복문의 경우, 주문장이 아닌 수식문장은 없다고 생각해도 문맥상 큰 문제가 없어야 바른 문장이다.
4) 너무 자명한 수식어는 문장의 의미를 흐린다.
5) 논문에서는 논리적인 단어를 선택한다. fortunate, natural 등의 단어는 논문에 적합하지 않다. 사전에서 예문을 찾아보아 감정적인 의미가 드러나는 예문이 처음으로 나온다면 피하는 것이 좋다. (유의어 사전을 활용하라.)
6) "and so on," "etc."등의 어구는 사용할 필요가 없는 경우가 많다. 이런 문장은 자신없는 태도로 보인다.
7) 단순히 naming을 위해 "known as"등의 구를 사용할 필요가 없다. 그냥 italic으로 처리하거나 자연스레 naming을 해줌으로써 독자들이 이름이라는 것을 이해하기만 하면 된다.

여러가지 세부적인 방법을 제시했지만, 중요한 원칙은 가능한 한 짧고 명확한 문장을 쓰는 것이다. 주제문을 쓸때는 군더더기 단어가 있는지 반드시 다시 확인해 보자.

다찌마와 리

'우리 사이에 굳이 통성명은 필요없을 것 같은데?' ㅋㅋ
단편이었던 다찌마와 리를 재밌게 봐서 이것도 재미있을 것 같다.
러닝타임이 얼마나 될지는 모르겠지만, 너무 길어지면 좀 식상해질지도 모르겠다는 느낌이지만, 그거야 감독 역량일 거고.
단편에서 보여줬던 오바짱 센스만 유지해주면 재미나겠다.
이번에도 전부 후시녹음이려나?