AI가 연산자 자동 작성, 딥시크 인간 작성보다 9.8% 빨라

十三 2026-10-30 19:05:06 출처: 量子位

앞서 승등(昇腾) 3개 순위표에서 연속 1위를 차지하기도 했다

金磊, 凹非寺에서 보냄

양자위(量子位) | 공식 계정 QbitAI

소스 코드도 없고, 논문도 없이, 완전히 제로에서 시작했다.

오늘 아침, ForgeKernel이라는, 아무도 참여하지 않은 Agent가 DeepSeek의 원본 구현을 참고할 필요 없이, 전 세계가 지켜보는 가운데 DeepSeek 최신의 핵심 연산자를 9.8% 더 빠르게 작성해냈다!

게다가 이 전 과정의 생방송은 단 22.5시간 만에 끝났으며(연산자를 설계하는 관점에서 보면 소요 시간이 짧은 편이다), 적지 않은 누리꾼들의 구경을 불러모았다:

구체적으로, 이 생방송의 내용은 한 Agent가 엔비디아 B200에서 DeepSeek-V4.1의 FlashMLA Prefill 연산자를 능가하는 것이었다.

FlashMLA는 DeepSeek이 오픈소스로 공개한 어텐션 핵심 연산자 라이브러리로, 10월 20일 막 오픈소스로 공개된 추론 프레임워크 DeepInfer도 이를 통합해 넣었다; 이는 업계에서 인프라가 가장 강하다고 공인받는 팀의 손에서 나온 것으로, 인간이 직접 작성한 연산자의 정점을 대표한다고 할 수 있다.

그리고 우리가 방금 말한 그대로, AI가 받은 것은 연산자의 수학적 정의와 목표 하드웨어 제약뿐이며, 그것은 제로에서 시작해 스스로 진화하며 한 라운드씩 개선해 나가야 했다.

이 22.5시간 동안, 매번의 재작성과 매번의 성능 수치 변화가 그대로 전 세계 시청자들의 눈앞에 펼쳐졌다:

- 첫 번째 버전은 정확성 검사를 통과했지만 1834마이크로초가 걸려 효율이 상대적으로 낮았다;

- 4시간도 채 되지 않아 소요 시간을 593마이크로초까지 낮춰 약 67.6% 감소했으며, 이미 제로에서 현재 최적 구현의 90%에 근접했다;

- 7시간 무렵, 한 차례의 핵심 구조적 돌파로 먼저 자신의 이전 세대 버전을 넘어섰고, 이어 처음으로 FlashMLA를 넘어섰다;

- 오전 9시쯤 생방송이 끝났다. 최종 버전은 472마이크로초가 걸렸고 FlashMLA는 518마이크로초로, 9.8% 빨랐다.

전 과정 42차례 반복을 거쳐 32개의 버전을 남겼으며, B200 1장과 22 GPU시간을 사용했다; 그리고 인간이 이 연산자를 위해 작성한 코드는 0줄이다.

인간이 직접 작성한 정점이, 이렇게 인간이 단 한 줄의 코드도 쓰지 않은 연산자에게 넘어섰다.

그렇다면 이건 도대체 어떤 Agent인가?

그것은 바로 面壁智能에서 나온 연산자 생성 시스템 ForgeKernel이다; 그리고 이번 생방송이 끝난 직후, 지능진화연구소는 즉시 OpenBMB 커뮤니티와 함께 오픈소스로 공개한다고 발표했다.

다만 이번 생방송이 ForgeKernel의 첫 등장은 아니며, 며칠 전에 이미 한 차례 famous(유명세를 탔다)한 적이 있다.

국산 컴퓨팅 파워 세 개 부문 1위를 모두 석권

지난 10월 27일, 승등 CANN 공식 측이 글을 올려 ForgeKernel을 "지목"했다——

동시에 CANNBench 950DT, 950PR, A3 세 대의 하드웨어 순위표 정상에 올랐다!

이 세 순위표는 각각 세 가지 승등 하드웨어에 대응하며, 그 성적이 주는 관전 포인트는 각기 다르다고 할 수 있다.

먼저 950DT 순위표를 보자, 이것은 세 순위표 중 경제적 셈이 가장 뚜렷한 순위표다.

ForgeKernel은 이 순위표에서 4010.75점으로 1위를 차지해 2위를 27.8% 앞섰다; 기준 가속비는 1.533배로, 2위의 약 143%다.

이는 같은 하드웨어 투입 아래 사용 가능한 컴퓨팅 파워가 50% 가까이 늘어나며, 기업의 컴퓨팅 파워 구매와 배포 비용이 그에 따라 약 절반 줄어들 수 있음을 의미한다.

이 순위표가 주목할 만한 이유는 950DT가 신세대 칩이고, 함께 제공되는 연산자 라이브러리가 아직 초기 구축 단계여서 인공 적응 주기가 길기 때문인데, ForgeKernel이 앞서 적응을 완료하고 정상에 올랐다.

이는 새 하드웨어가 막 출시되면 AI가 곧바로 고품질 연산자를 빠르게 산출할 수 있으며, 칩이 출시된 후 적응이 완료되기까지의 공백 기간이 크게 압축되고 있음을 보여준다.

950PR은 세 순위표 중 경쟁이 가장 치열한 순위표로, 상위 3개의 기준 가속비가 모두 1.3배에 달했다:

ForgeKernel은 이 순위표에서 총점 4165.94로 마찬가지로 1위를 차지했다; 기준 가속비는 1.638배로, 2위의 약 1.18배다.

마지막으로 A3, 즉 현재 널리 사용되는 승등 910C다.

일찍이 10월 15일 마감된 CANNBench v1.1에서 이미 A3 하드웨어 순위표 1위를 차지했으며; v2.0이 개시된 후에도 이 자리를 계속 내주지 않아, 현재 총점 4341.16, 기준 가속비 1.898배로, 2위의 약 1.22배다.

이번 생방송에서 ForgeKernel은 엔비디아 B200에서 실행됐고 CUDA를 사용했으며, 이 생태계는 여러 해 동안 쌓아온 전문가 경험을 갖고 있다; 반면 이 세 순위표는 승등에서 실행됐으며, 승등은 자체적인 독립 아키텍처와 툴체인을 갖고 있다.

양측의 소프트웨어와 하드웨어 차이가 매우 크지만, ForgeKernel은 동일한 시스템으로 양쪽 모두에서 1위를 차지할 수 있었다.

그렇다면 다음 질문은, 그것이 어떻게 해냈느냐는 것이다?

스승 없이 스스로 터득하는 그런 방식

모델이 최종적으로 얼마나 빠르게 돌아갈 수 있는지는 상당 부분 연산자에 달려 있다.

같은 모델, 같은 칩이라도 더 효율적인 연산자 한 세트로 바꾸면 성능이 뚜렷한 차이를 보이기 때문이다.

그러나 오랫동안 고성능 연산자는 숙련 엔지니어가 하나하나 손으로 작성하고 튜닝하는 데 의존해 왔으며, 주기가 길고 진입 장벽이 높았다. CUDA 생태계가 오늘날에 이른 것은 다년간 전문가가 축적해 온 덕분이다; 반면 국산 칩은 새 하드웨어가 한 세대 나오고 새 모델이 하나 올 때마다 매번 다시 적응해야 한다.

한마디로, 인간 전문가의 수가 칩과 모델의 반복 속도를 따라가지 못하는 것이다.

그렇다면 이 국면은 어떻게 타개해야 할까?

10월 27일, ForgeKernel 팀은 칭화대 등 기관과 함께 arXiv에 JustGoal: With Only a Goal, the AI Baseline Is Above the Expert Kernels라는 제목의 논문을 발표했다.

이 논문에서 연구팀은 모델에 최적화 목표 하나만 주고, 어떤 연산자 지식도 제공하지 않으며, 고정된 프로세스도 규정하지 않고, 스스로 작성하게 했다. 그 결과 B200에서 모델은 10개 연산자 중 8개에서 인간이 유지·관리하는 오픈소스 라이브러리를 이겼다.

그들은 또한 같은 모델에 MIT 한쑹(韩松) 팀이 개발에 참여한 전용 프레임워크 KDA-0.5를 적용했는데, 단일 구성 최적화 작업에서의 평균 성적은 오히려 JustGoal의 0.95배에 그쳤다. 즉, 연산자 작성이 점점 모델 자체의 능력에 의존하게 되었고, 전문가가 미리 작성해 둔 경험과 프로세스의 역할은 작아지고 있다.

다만 목표만 주는 데에도 못 하는 부분이 있다. 모델은 세부 조정을 잘하지만 전체 아키텍처를 독립적으로 잘 설계하기는 어려워, 흔히 초반 몇 차례 시도에서 노선을 고정해 버리고 그 후에는 기존 아키텍처 안에서만 미세 조정할 수 있다. ForgeKernel은 바로 JustGoal을 기반으로 이 약점을 전문적으로 보완한 것이다.

그 방식은 세 부분으로 나눌 수 있다:

- 첫째, 아키텍처 설계와 구현 능력을 분리하고, 아키텍처 설계를 마일스톤으로 추상화하여 문제를 분해한다;

- 둘째, 실측 검증을 거친 모든 하드웨어 경험을 지식 베이스에 저장해, 다른 연산자로 바꿔도 계속 활용한다;

- 셋째, 자신이 작성한 최고 버전을 다음 라운드의 상대로 삼아, 라운드마다 스스로 진화한다.

그리고 이 세 부분은 방금 우리가 보여준 생방송과 정확히 일일이 대응된다.

ForgeKernel은 먼저 자신의 이전 세대 버전을 넘어섰고, 그다음에야 FlashMLA를 넘어섰다. 이것이 바로 자기 진화다.

후반부에 이르러서는 Q의 버스트 로딩이 KV 데이터 이동과 메모리 접근 리소스를 두고 경쟁하고 있다는 점을 스스로 발견했고, 이에 Q의 요청 리듬을 능동적으로 제어해 다시 2.4%의 소요 시간을 줄였다. 이런 판단은 과거에는 노련한 전문가가 해야 했던 일이다.

△ForgeKernel Live의 Agent 실행 로그

더 많은 연산자로 확장해 보면, ForgeKernel은 29개 비교 항목 중 24개에서 전문가 구현과 동등하거나 능가했고, 세 가지 선도 Agent 시스템이 공개한 7개의 최강 연산자에서도 모두 동등하거나 능가했다.

이러한 이득은 서로 다른 국산 칩 사이에서도 복제될 수 있는데, ForgeKernel의 설계가 국산 칩에 또 하나의 이점을 주기 때문이다. 바로 특정 하드웨어에 의존하지 않는다는 점이다.

구체적인 연산자 구현은 각 칩의 하드웨어 특성에 맞춰 작성해야 하므로 그대로 옮길 수는 없다. 그러나 ForgeKernel이 최적화를 조직하는 방법은 범용적이며, 어떤 칩에도 고정된 절차를 미리 설정해 두지 않았다. 엔비디아에서 어센드(昇腾)로 바꿀 때는 성능 분석 도구를 NCU에서 msprof로 바꾸기만 하면 되고, 새 칩에 필요한 하드웨어 지식은 모델이 이 칩 위에서 테스트하며 쌓아 나간다.

이렇게 ForgeKernel은 다른 국산 칩으로 빠르게 이전할 수 있으며, 새로운 세대의 국산 칩이 출시될 때도 적응 절차를 처음부터 다시 구축할 필요가 없다.

절약되는 것은 진짜 돈이다

연산자가 1% 빨라진다면, 이것은 대체 무엇을 의미할까?

Gartner의 최신 예측에 따르면, 2026년 전 세계 AI 인프라 지출은 약 1조 4800억 달러다. 이 규모에 따르면 컴퓨팅 효율이 1% 오를 때마다 대응되는 금액은 약 148억 달러다.

이를 국산 칩에 적용하면 이 계산은 더 뚜렷해진다.

엔비디아의 CUDA는 전문가들이 수년간 최적화해 왔고 기성 고성능 연산자가 많아 AI가 추가로 속도를 높일 여지가 제한적이다. 반면 국산 칩에 딸린 연산자 라이브러리는 아직 불완전하고, 적지 않은 연산자가 충분히 튜닝되지 않아 AI가 가져올 수 있는 향상이 더 뚜렷하다.

ForgeKernel 팀은 AI로 학습 프레임워크를 최적화할 때도 이 차이를 확인했다. 같은 방식이 국산 칩에서는 20%~30% 속도를 높일 수 있었고, 엔비디아에서는 5%~10%였다. 이는 ForgeKernel이 국산 칩의 학습 및 추론 작업에서 가성비를 한층 더 높여 엔비디아와의 격차를 좁힐 수 있음을 의미한다.

코드 작성에 AI가 거의 비용을 들이지 않게 되면서, 예전에는 전문가가 너무 비싸서 계산이 맞지 않아 하지 않았던 최적화들이 할 만한 일이 되었다. 예를 들어 특정 모델이나 특정 칩을 위해 별도로 연산자 한 세트를 맞춤 제작하는 일이다.

실제로 인간 전문가를 능가한 이 연산자들은 순위표에만 머물지 않고 이미 실제 산업 현장으로 나아갔다.

현재 ForgeKernel이 생성한 연산자는 정식으로 학습 프레임워크에 접속되어, 국산 칩과 엔비디아 플랫폼에서 MiniCPM5-1B의 장기 학습 테스트를 완료했다.

더 주목할 점은, 이 컴퓨팅 기반 재구성 속에서 DeepSeek V4.1을 대표로 하는 국산 대형 모델이 이미 연산자의 생성과 최적화에 참여하기 시작했으며, 이 연산자들은 최종적으로 다시 국산 칩 위에서 안정적으로 돌아간다는 것이다.

"국산 모델이 연산자를 쓰고, 국산 칩이 연산자를 돌린다"는, 중국 AI에 속한 풀스택 생태계의 폐쇄 루프가 형성되고 있다.

이는 연산자의 승리일 뿐만 아니라, RSI(재귀적 자기 진화)가 실현된 진짜 축소판이다. AI 연구개발의 행위 주체가 인간에서 AI로 옮겨가고 있다.

면벽지능(面壁智能) 지능 진화 수석 과학자 리위쉬안(李宇轩)이 말한 것처럼, 코드는 기계가 빠르게 검증할 수 있기 때문에 엔지니어링 실현이 이론 연구보다 먼저 폐쇄 루프를 이룰 것이다.

과거 FlashAttention 시리즈처럼 아키텍처를 깊이 재구성해야 하는 최정상급 연산자는 인간 전문가가 한 번 반복하는 데 수개월, 심지어 반년이 걸리는 경우가 많았다. 그러나 지금 팀 내부에서는 AI가 최고의 인간 구현을 능가하는 연산자 최적화 작업을 최대 이틀이면 완료한다.

그리고 ForgeKernel이 정식으로 오픈소스화되면서, 이 방법 또한 인프라로서 국산 칩 제조사와 모델 팀에 새로운 효율 경로를 제공하게 될 것이다.

예전에 국산 칩이 엔비디아를 따라잡으려 할 때 어려웠던 것은 흔히 하드웨어 지표가 아니라, CUDA 생태계에 십수 년간 쌓인 전문가 경험과 소프트웨어 계층이었다. 그러나 RSI의 패러다임 아래에서 AI는 인력에 의존해 쌓아 올려 수년이 걸려 구축한 이런 생태계 장벽을 완전히 뚫고, 곧바로 엔드투엔드로 최적해를 생성하고 있다.

"국산 모델이 연산자를 쓰고, 국산 칩이 연산자를 돌린다"는 것이 새로운 연산자 엔지니어링 패러다임이 되면서, 연구개발의 주체는 아마도 돌이킬 수 없이 인간에서 모델로 옮겨가고 있을지도 모른다. 그러나 이것이 인간 전문가의 퇴장을 의미하지는 않으며, 단지 그들의 업무 중심이 근본적으로 도약했을 뿐이다.

한 줄 한 줄의 저수준 코드를 직접 다듬는 데서, AI를 위해 환경을 구축하고 목표와 검증 기준을 설정하며 AI가 연산자를 더 잘 쓰도록 협력하는 쪽으로 말이다.

인간이 코드 장인에서 시스템 아키텍트로 전환될 때, 국산 칩이 "돌아가는 것"과 "잘 돌아가는 것" 사이의 격차는 AI에 의해 시간 단위로 빠르게 메워지고 있다.