수퍼컴 race

옛날엔 수퍼컴이란게, fluid dynamics analysis (미사일, 비행기, 우주선 설계 정도)나 일기예보, 단백질 예측 같은 일들을 했다. 그러니까, 빨라도 그만 늦어도 그만이다. 그런데도 빠른 컴퓨터를 선진국들은 열심히 도입했다.

 

그러다가 각 나라의 자존심싸움이 되는듯 하다가, 다시 미국의 독주가 잠시 지속되고 있다.

 

한때는 Massively parallel processing은 수퍼컴이 아니고 scalar computing만 수퍼컴이란 얘기도 있었지만, 이제는 알고리듬의 발달과 함께 TOP500리스트의 "모든" 수퍼컴들이 MPP라고 봐야 한다. 많은 경우에 front end는 친숙한 CPU를 사용하고, back end는 graphic engine을 사용해서 연산을 하는 그런 형태지만 딱 이런 모델이 맞지 않는 경우도 많다. 그 어떠한 경우에도, 매우 빠른 링크가 각 컴퓨팅 노드들을 연결하는 것은 변함이 없고, 지금에 와서 수퍼컴의 성능을 제한하는 진정한 항목은 "열"이라는 얘기가 있다. 즉 아무것도 물리적으로 움직이는 것은 없어야 하는 컴퓨팅에서, 전력소모라는 것은 모조리 열로 방출이 되어야 하고 이 열을 어떻게 효과적으로 제거하느냐가 유일한 성능의 제한 요건이라는 거다.

 

물론 그 반대쪽 끝에서 전력을 어떻게 잘 공급하느냐도 있지만, 이쪽은 전용 원자로 세개 뭐 이런 식으로 돈으로 쳐바를 수 있는 부분이다. 아 물론 열제거도 맘먹고 남극에 데이타센터를 설치해도 되기는 한다. 그렇지만 그건 훨씬 더 큰 돈 ㅈㄹ이기는 하다. 그러니까 데이타쎈터나 수퍼컴도 지구온난화의 주범이 되고 있는 것이 사실이다.

 

엑사스케일 프로세싱이란 말이, 무슨 이상향 정도나 되는 것처럼 사용되던게 대략 20년 정도 된 듯 하다. 1밉스 ('스'를 붙이기 조금 뭐하긴 하지 단수니까 싶지만 저 스는 복수 스가 아니다 ㅋㅋ)짜리 Vax780을 수십명이 붙어서 쓰면서 와 빠르다 싶었던게 엊그제 같은데 (대략 40년전 OTL. Vax780이 MIPS의 기준으로 사용되었었다. Vax Mips라고 설명을 붙이기도 한다) 크레이가 스칼라로 200밉스를 하는 수퍼컴을 출시했다고 꿈의 머신이라고 했었는데, 그건 지금 휴대폰도 우습게 넘어간다. 무게 하나 빼고는 휴대폰이 당시 수퍼컴에 비해 빠질게 하나도 없다.

 

여튼 holy grail 같던 엑사스케일 (10^18 IEEE754 64-bit floating point Mul+Add)을 넘어선 컴퓨터'들'이 Top500에 들어왔다. 대략 전력소모는 20MW 정도로 제한되는 눈치. 열방출을 어떻게 하는지가 제일 궁금하다. 컴퓨팅이야 빠른 넘들 충분히 모으면 된다고 치더라도 말이다. 우리나라는 저런 컴퓨터 언제 가지냐 하는 얘기가 가끔 나오는데, 우리나라 사기업들도 이런거 장만하기에 충분한 크기가 되었다. (삼성, 현대, 하이닉스 정도면 그렇다는 거다. 대형 건설사들도 크기로는 되는데, 안되는 이유는 찐따한테 물어봐라) 정부 예산의 크기도 이런거 매년 하나씩 장만해도 별 부담이 없는 크기가 되었다. 그런데도 없는건..

 

1. 사기업: 내가 안해도 세금으로 해줄거야

2. 정권: 해드시기 바쁜데 저런 사소한 것까지

 

대략 이런 상황이라고 보면 된다. 사실 이미 KAIST에서 운영하는 수퍼컴이 하나 있다. 지금에 와서는 수퍼컴이라고 부르기도 부끄러운 수준이긴 하다만 말이다.

 

다들 관심이 있는 Generative AI를 위한 수퍼컴 얘기는, SETI같은 방법으로도 구현이 가능하다. 우리나라 같으면 어차피 보안앱들을 다들 까니까, 정부 보안앱 하나에 컴퓨팅 공유 기능을 넣어서 그냥 밀어내도 될 거다. 이거를 사용하는 핵커가 나오면 재미있을거다만, 이미 그 구멍은 크게 뚫려있으니 걱정이 커지는 것은 아니다.

 

조금만 미래로 눈을 돌리면.. 내년 정도에 삼성/콸컴/애플 등등이 전화기용 칩셋에서 100 TOPS정도의 뉴럴엔진을 제공할 거란다. 이게 플롭스와는 살짝 다른게 저건 보통 8비트 연산이라 잘 봐줘야 1/8해야 한다. 그렇지만 일단 눈감아주고. 여기서 만배를 해야 엑사 반열에 드는데. 전화기 만대 정도는 쉽게 모으지 않을까 ? 전력도 참을만 하고. 십만대라고 해도 참을만 하겠지 ? 싶지만, 수퍼컴은 저 엑사컴퓨팅을 계속 돌릴 수 있지만, 전화기는 저걸 아주 가끔 잠깐씩만 돌린다고 가정하겠지 ? (GOS 사태 기억나 ? 삼성이 하면 다르다니깐)

 

혹시 이쪽을 전공해보고 싶은 젊은이들에게: 최고의 컴퓨팅은 저전력소모에서 나온다. 즉 전성비가 최고라야 최고의 컴퓨팅을 할 수 있고, 그 전성비는 회로보다는 아키텍춰에서 나온다. 특수목적용으로 가면 전력을 현저히 줄일 수 있기는 하지만, 그걸 수퍼컴이라 부르지는 않는다. 그러니까 이 산이 아닌가베 가 아니고, 목표하는 산이 어딘지 확실히 정하고 시작하자.