받은글)

Dropbox의 AI 부사장 Morgan Brown

1/ 먼저 배경부터 설명하겠습니다. 현재 최첨단 AI 모델을 훈련시키는 비용은 엄청나게 비쌉니다.

OpenAI, Anthropic 같은 회사들은 계산에만 1억 달러 이상을 쓰며, $4만짜리 GPU 수천 대가 필요한 대규모 데이터 센터를 운영합니다. 마치 공장을 운영하기 위해 발전소 전체가 필요한 상황과 같습니다.

2/ 그런데 DeepSeek이 나타나서 이렇게 말했습니다.

“LOL, 우리라면 이걸 500만 달러로 할 수 있을걸?”
그리고 말로만 한 것이 아니라 실제로 해냈습니다.
그들의 모델은 GPT-4와 Claude를 많은 작업에서 능가하거나 대등합니다. AI 업계는 (요즘 10대들이 말하듯) ‘충격’을 받았습니다.

3/ 어떻게 가능했을까요?

그들은 모든 것을 처음부터 다시 생각했습니다.
전통적인 AI는 마치 모든 숫자를 소수점 32자리까지 기록하는 것과 같습니다.

DeepSeek은 “8자리로만 기록하면 어떨까? 충분히 정확하잖아!”라고 접근했고, 결과적으로 메모리 사용량이 75% 감소했습니다.

4/ 그리고 그들의 “멀티 토큰” 시스템도 주목할 만합니다.

일반적인 AI는 초등학생이 읽듯이 “The… cat… sat…”처럼 읽습니다.

반면, DeepSeek은 문장 전체를 한 번에 읽습니다. 결과적으로 2배 더 빠르고 90% 수준의 정확도를 자랑합니다.

수십억 개의 단어를 처리할 때, 이런 효율성은 매우 중요합니다.

5/ 하지만 진짜 기발한 점은 “전문가 시스템”을 구축했다는 것입니다.

한 거대한 AI가 모든 것을 다 알도록 만드는 대신(예: 한 사람이 의사, 변호사, 엔지니어 역할을 모두 하는 것처럼), DeepSeek은 필요한 경우에만 전문가들을 호출하도록 설계했습니다.

6/ 기존 모델은 1.8조 개의 파라미터가 항상 활성화되어야 합니다.

DeepSeek은 6710억 개의 파라미터 중 단지 370억 개만 활성화됩니다.

마치 큰 팀을 운영하되 필요한 전문가만 호출하는 것과 같습니다.

7/ 결과는 놀랍습니다:

• 훈련 비용: 1억 달러 → 500만 달러
• 필요한 GPU 수: 100,000대 → 2,000대
• API 비용: 95% 절감
• 데이터 센터 하드웨어 대신 게이밍 GPU에서도 실행 가능

8/ “그런데,” 누군가 말할 수 있습니다. “분명 단점이 있겠지!”

놀라운 점은, 모든 것이 오픈 소스라는 것입니다.
누구나 그들의 작업을 검증할 수 있습니다. 코드는 공개되어 있고, 기술 논문은 모든 과정을 설명합니다.

마법이 아니라, 단순히 매우 영리한 엔지니어링입니다.

9/ 왜 중요한가요?

이로 인해 “대형 기술 기업만이 AI를 다룰 수 있다”는 기존의 모델이 깨졌습니다.

이제 수십억 달러 규모의 데이터 센터가 필요하지 않습니다.

좋은 GPU 몇 대만 있으면 됩니다.

10/ Nvidia에게는 두려운 이야기입니다.

그들의 비즈니스 모델은 초고가 GPU를 90% 마진으로 판매하는 데 기반을 두고 있습니다.

하지만 모두가 일반 게이밍 GPU로 AI를 돌릴 수 있게 된다면… 문제는 명확합니다.

11/ 그리고 중요한 점은 DeepSeek이 이를 200명 이하의 팀으로 해냈다는 것입니다.

한편 Meta의 팀은 DeepSeek 전체 훈련 예산보다 더 많은 연봉을 받으며 작업을 하고 있지만, 그들의 모델은 DeepSeek만큼 좋지 않습니다.

12/ 이는 전형적인 파괴적 혁신의 이야기입니다.

기존 기업들은 기존 프로세스를 최적화하는 데 초점을 맞추는 반면, 파괴적인 혁신 기업들은 근본적인 접근 방식을 다시 생각합니다.

DeepSeek은 “더 많은 하드웨어를 투입하기보다 더 똑똑하게 접근하면 어떨까?”라고 물었습니다.

13/ 그 영향은 큽니다:

• AI 개발이 더 접근 가능해짐
• 경쟁이 급격히 증가
• 대형 기술 기업들의 “진입 장벽”이 작은 웅덩이처럼 보임
• 하드웨어 요구 사항(및 비용)이 급감

14/ 물론, OpenAI와 Anthropic 같은 대기업들이 가만히 있지는 않을 것입니다.

그들은 아마도 이미 이러한 혁신을 구현하고 있을 것입니다.

그러나 효율성의 램프는 이제 병 밖으로 나왔으며, “더 많은 GPU를 투입하자”라는 접근 방식으로 돌아갈 수는 없습니다.

15/ 마지막 생각:

이 순간은 우리가 나중에 변곡점으로 기억할 가능성이 높습니다.

마치 PC가 메인프레임을 덜 중요하게 만들거나, 클라우드 컴퓨팅이 모든 것을 바꿨던 것처럼요.

AI는 더 접근 가능하고, 훨씬 저렴해질 것입니다.
이 변화가 현재 플레이어들에게 어떤 영향을 미칠지는 속도의 문제일 뿐입니다.

마찬가지로 무작위적인 일들이 넙치고 영혼을 후벼 파는 심리적 고통 속에서 살아야 하는 트레이더라는 직업을 가졌을 때에도, 나는 매일 아침 최악의 일이 실제로 일어났다고 가정하면서 마음을 가다듬었다(그럼 나머지 시간은 뜻밖의 즐거움이 될 테니까).

실제로 이 방법은 최악의 상황에서도 정신적으로 흔들리지 않게 해주어서 다른 치료법보다 훨씬 더 도움이 되었고, 게다가 하강국면에서도 침체되지 않도록 해서 최악의 경우가 명백해 보이더라도 위험을 수용하는 자세를 갖게 해주었다.

상황이 잘 돌아갈 때 재산을 가치 없는 것으로 간주하는 수양에 몰두하기란 쉽지 않다. 그럼에도 불구하고 바로 그때가 수양이 가장 요구되는 순간이다.

#안티프래질

사람들은 다수가 같은 말을 하면 그것이 진실이고 신뢰도가 높은 말인 줄 알지만 매스미디어 시대에 다수의 의견이란, 전파가 잘 된 말일 뿐 진실과는 관련이 없다.

다수가 뭉쳐 다니는 것이 진실이고 안전해 보이지만 리스크는 결코 줄어들지 않는다.

모든 투자의 결정은 스스로 생각하고 판단해야 한다.

https://m.blog.naver.com/ranto28/223645847853

미국 주식 불패 신화
-현재 미국 주식시장은 각종 밸류에이션 지표로 측정할 때 역사상 1, 2, 3위 안에 모두 들어.
-긴 호흡에서는 미국 주식시장의 고평가에 대하여 대비하고 있어야 할 것.
-투자자 누구나 주지하듯이 금융시장에서 불패 신화의 끝이 좋았던 경우는 지금껏 없었다.

https://blog.naver.com/yminsong/222967407285

'아무것도 하지 마라'가 가장 적절한 조언인데도 '뭔가를 하라'고 조언하는 것은 직업적 인센티브가 작동한 결과다.

-불변의 법칙(모건하우절)-

다만 무작정 정보를 모아보아야 아무 소용 없다는 것은 분명히 말할 수 있습니다.

가치 있는 정보를 모아야지, 무작정 양만 늘리면 역으로 '확신은 높아지지만 정확성은 떨어지는' 최악의 상황에 처할 수 있으니까요.

#통섭과투자

삼성전자, 최악의 상황에서 벗어나길 기대해 볼 시점인데, 오히려 미디어의 안티 분위기는 점점 더 커지고 있습니다. 망하지 않을 기업이라면, 안티의 확산은 오히려 단기등 중기든 기회의 시간 아닐까요? (윤지호 LS증권)

https://www.facebook.com/share/dEayXTWozkn41q87/

배우지 않으려는 태도,
한탕주의,
무리한 레버리지,
몰빵,
단기 수익에 급급,
조급함,
사회 구조를 이해하려는 기본적인 노력의 부재,
남과의 비교,
남 탓, 세상 탓,
투자대상과 원리에 대한 학습부재,
제대로 안 해보고 지레포기,
개선없는 나쁜 의사결정의 반복,
본업 현금흐름 창출 빈약

등등

자기 잘못으로 망해놓고 고통 잊겠다고 게임 하면서 시간 때우는 것도, 투자로 망해놓고 아직도 200% 수익 드립치는 것도.. 다 정신 못 차린 친구들이고 회생가능성 없을 듯 싶습니다.

잘 안 풀리는 친구들 공통점이 보이네요. 저런 사람도 숫자가 늘어나면 사회불안 요인이 되겠지요. 공교육 시절의 교육만이 답입니다.