한국 NPU의 도전과 비전 -
칩이 아니라 '생태계'를 만든다
백준호 퓨리오사AI(FuriosaAI) 대표 강연 정리. 엔비디아의 진짜 해자는 GPU가 아니라 CUDA라는 소프트웨어 생태계이며, AI 시대의 승부는 결국 에너지 효율(TCO)에서 갈린다 - 그리고 그 대안을 만드는 한국 팹리스의 이야기였다.
결론부터. 백준호 대표가 강연 내내 반복한 것은 "좋은 칩 하나를 만드는 것"이 아니라 "하드웨어와 소프트웨어가 결합된 AI 컴퓨팅 생태계를 만드는 것"이었다. 엔비디아를 지배자로 만든 것은 GPU가 아니라 CUDA라는 개발자 생태계였고, 다음 시대의 경쟁력은 에너지 효율(TCO)과 추론(Inference) 시장에서 결정된다는 진단. 그 대안으로 퓨리오사AI가 만든 추론 칩 '레니게이드(RNGD)'는 이미 LG·삼성SDS·오픈AI의 검증을 거쳐 양산 단계에 들어섰다.
SESSION BACKGROUND발표자 · 기업 배경
강연의 맥락을 위해 먼저 정리한다.
| 발표자 | 백준호 - 서울대 전기공학부 졸업, 미국 조지아공대(Georgia Tech) 전기전자공학 석사. AMD(GPU 설계)·삼성전자 메모리사업부를 거쳐 2017년 창업. 축구 중 아킬레스건 부상으로 6개월 요양하며 AI를 공부한 것이 창업 계기 |
| 회사 | 퓨리오사AI(FuriosaAI) - 2017년 서울 설립. 데이터센터 추론용 NPU(신경망처리장치) 설계 팹리스. 사명은 영화 '매드맥스: 분노의 도로'의 여전사에서 차용 |
| 공동창업 | 김한준 CTO 등 삼성전자 메모리솔루션랩 출신 핵심 인력 |
| 1세대 칩 | 워보이(Warboy, 2021-08) - 비전 NPU. MLPerf에서 엔비디아 T4 능가 성능 입증 |
| 2세대 칩 | 레니게이드(RNGD, 2024-08 공개) - LLM·멀티모달 추론용 데이터센터 가속기 |
| 기업가치 | 약 7억 달러(약 1조원) 규모로 투자 유치. M.AX 얼라이언스·국민성장펀드 연계 |
KEY MESSAGES강연 핵심 6가지
백준호 대표가 반복해 강조한 것은 "좋은 칩"이 아니라 "생태계"였다. 핵심 논지 6가지.
01. 소프트웨어 스택이 하드웨어보다 중요하다
엔비디아의 진짜 경쟁력은 GPU가 아니라 CUDA라는 소프트웨어 플랫폼이라는 진단. GPU를 범용 연산 장치로 쓰게 만든 개발환경이자 개발자 생태계가 오늘의 지배력을 만들었다. CUDA의 기원은 이안 벅(Ian Buck)의 스트림 컴퓨팅 논문이며, 엔비디아는 렌더링과의 트레이드오프를 감수하며 5~6년간 투자한 끝에 2012년 알렉스넷(AlexNet)으로 결실을 봤다. AI 반도체 경쟁력은 하드웨어 성능뿐 아니라 컴파일러·런타임·API·개발도구를 포함한 전체 플랫폼에서 결정된다.
02. 에너지 효율(TCO)을 압도적으로 개선해야 한다
고객이 보는 것은 FLOPS가 아니라 토큰당 비용·전력비·운영비다. 데이터센터 운영비 대부분이 전력과 냉각에서 나오는 만큼, 동일 성능을 더 적은 전력으로 구현하는 것이 근본 경쟁력이다. GPU에서 NPU로의 전환도 속도가 아니라 에너지 효율 개선이 이유이며, 내연기관차에서 전기차로의 전환과 같은 성격이라고 설명했다.
03. 데이터센터 추론(Inference) 시장에 집중해야 한다
AI 시장은 학습보다 추론 중심으로 성장하며, 에이전틱 AI(목적 달성을 위해 추론 칩을 반복 호출하는 루프 구조) 확산으로 추론 수요가 폭증할 것으로 전망했다. 데이터센터 기조도 작년 학습 중심에서 올해 추론 중심으로 빠르게 이동 중이며, 다음 성장 동력은 추론용 칩(Inference Accelerator)이라는 것이 핵심 판단이다.
04. GPU와 정면승부가 아니라 NPU의 강점을 살려야 한다
GPU를 그대로 추종하는 것이 아니라 AI에 최적화된 구조로 효율을 높이는 방향. 다만 AI 워크로드는 비트코인 마이닝과 달리 계속 진화하므로 고정 알고리즘에 맞춘 설계는 불가능하다. 변화 대응을 위한 유연성과 신경망의 보편적 특성을 반영한 효율성 사이의 균형이 설계의 핵심 과제라고 강조했다.
05. 최고 수준의 설계 인재를 확보해야 한다
"결국 칩은 사람이 만든다." 우수한 설계자는 단기간에 양성되지 않으므로 긴 호흡의 연구개발 조직문화가 필요하며, 설계 조직은 제조(시공) 조직과 다른 자율성과 시간을 보장받아야 한다는 것. 월드컵에서 강팀을 이기려면 손흥민·이강인급 기본기를 갖춘 선수를 지속 발굴해야 하듯, 설계 경쟁력도 두터운 인재층에서 나온다고 비유했다. 반도체 설계를 건축(아키텍처)에 빗대어, 3년 뒤 미래를 내다보고 복잡하지 않은 효율적 구조를 그려내는 창의적 작업으로 규정했다.
06. 현실보다 높은 목표를 유지해야 한다
창업 초기부터 데이터센터용 AI 칩을 목표로 삼았고, 모두가 "스타트업엔 무리"라고 했지만 방향을 바꾸지 않았다. 스타트업은 현실적인 목표보다 더 큰 목표를 세워야 우수한 인재와 자본이 모인다는 것이 지난 9~10년의 결론. 무모해 보이는 높은 목표 설정과 그 실현 과정 자체가 스타트업의 본질적 가치라고 강조했다.
PRODUCT FACTS제품 팩트 - 레니게이드(RNGD)
강연 중 언급된 일부 수치를 공개 자료·기업 발표로 확인되는 값으로 정리한다.
INT4 기준 1 PFLOPS
GPU는 통상 1,000W 이상
(RTX Pro 6000 대비)
(1월 1차 4,000장 인도)
| 아키텍처 | 텐서 축약 프로세서(TCP, Tensor Contraction Processor) — 고차원 텐서 연산에 최적화 |
| 성능 | FP8 기준 512 TFLOPS / INT4 기준 1 PFLOPS |
| 전력·메모리 | TDP 180W, SK하이닉스 4세대 HBM3 48GB 탑재 |
| 효율 | 엔비디아 RTX Pro 6000 대비 동일 전력 최대 7.4배 동시 사용자, TCO 약 40% 절감(퓨리오사·LG AI연구원 발표). LG 테스트 기준 와트당 성능 2.25배 |
| 서버 형태 | RNGD PCIe 카드(180W) / NXT RNGD(카드 8장 랙, 3,000W, 랙당 최대 20 PFLOPS) |
| 검증·고객 | LG AI연구원 엑사원(EXAONE), 삼성SDS NPUaaS(2026-07 예정), 업스테이지(Solar), 오픈AI 서울 데모 |
| 파운드리 | 1세대 삼성 파운드리 → 2세대(RNGD) TSMC |
| 3세대 칩 | 2028년 예정 - 브로드컴 협력, 이더넷 기반 스케일업 인터커넥트 |
| 특이사항 | 2025년 메타(Meta)의 약 8억 달러(약 1조 1,800억원) 인수 제안을 거절, 독자 성장 선택 |
Q & A질의응답
| 질문 주제 | 발표자 답변 요지 |
|---|---|
| 엔비디아와의 경쟁 | CUDA 생태계가 강력한 진입장벽. 신규 칩은 소프트웨어 호환성·개발환경을 함께 제공해야 진입 가능 |
| 파운드리 전략 | 1세대 삼성, 2세대 TSMC. 향후에도 기술 경쟁력을 기준으로 생산 파트너 선정 |
| 인터커넥트 | 2세대는 PCIe 패브릭·스위치로 칩 간 연결. 차세대부터 브로드컴 이더넷을 통합해 엔비디아 NVLink에 대응하는 스케일업 구현 |
| 메타 인수 제안 | 거절하고 독자 성장. "한 기업의 시장 독점은 건강한 생태계가 아니며, 단일 칩 제조사 의존은 위험" |
| 투자·확장 | 누적 투자와 국민성장펀드 등을 포함해 확보한 자금을 국내 생태계 활성화에 집행 예정. 관건은 기술·제품 확보 이후의 스케일업 |
| 성능 평가법 | 연산·메모리·전력 3대 스펙을 본 뒤, 목표 응답시간 조건에서 동시 사용자수·토큰 생성량을 측정. 토큰 생성량 ÷ 소비 에너지 = 효율(TCO 결정 요소) |
SYNTHESIS메시지 · 인사이트
좋은 NPU 하나를 만드는 것이 아니라, 소프트웨어와 하드웨어가 결합된 AI 컴퓨팅 플랫폼을 만들고, 에너지 효율로 데이터센터의 총소유비용(TCO)을 낮춰야 글로벌 시장에서 살아남을 수 있다.
'AI 컴퓨팅 원가'는 곧 '에너지 원가'다
강연의 핵심 명제는 특정 산업을 넘어선 거시 변수다. AI 도구·자동화 서비스의 원가(토큰 비용)가 결국 전력·인프라 비용으로 수렴한다는 뜻이며, AI를 업무에 쓰는 모든 조직의 비용 구조에 배경으로 작동한다. 학습에서 추론으로의 전환, GPU에서 NPU로의 이동은 중장기적으로 AI 활용 단가를 좌우하는 흐름으로 지켜볼 만하다.
SOURCES참고 링크
- 퓨리오사AI 공식 — furiosa.ai
- CIO Korea — RNGD 512 TFLOPS·180W·LG 협력 (cio.com)
- ZDNet Korea — 2세대 2만장 양산·삼성SDS NPUaaS (zdnet.co.kr)
- 블로터 — '레니게이드 커밋' 행사, INT4 1 PFLOPS (bloter.net)
- 인사이트코리아 — 메타 8억 달러 인수 거절·TCO 40% (insightkorea.co.kr)
- Cryptopolitan — 오픈AI 데모·기업가치 7억 달러 (cryptopolitan.com)
'인공지능과 오토메이션' 카테고리의 다른 글
| Orca vs Zellij (0) | 2026.07.11 |
|---|---|
| Claude Fable 5·Mythos 5 사태 정리와 요금 체계 (0) | 2026.07.06 |
| 앤트로픽 '클로드 사이언스(Claude Science)' — 과학 연구 전용 AI 워크벤치 출시 (0) | 2026.07.03 |
| 구글 제미나이 3.5 라이브 트랜슬레이트— 번역 앱에서 '언어 인프라'로 (0) | 2026.06.13 |
| 부동산 분양 마케팅을 위한 Claude(클로드) 활용 (0) | 2026.06.07 |