DeepSeek V4.1 연산자 구현 엔지니어, 계속 남기로

DeepSeek의 머신러닝 시스템 엔지니어 류성위(刘胜与)는 최근 한 편의 장문을 썼는데, 제목에서부터 일종의 무력감이 묻어났다. 《나는 내 재능을 어제에 묻어야만 했다》. 글이 올라오자마자 화제가 됐고, 해외에서는 여러 언어로 번역되어 퍼졌다.

먼저 그가 무엇을 썼는지부터 보자. 그는 DeepSeek V4.1 메인 Attention 연산자의 저자다. head dim = 512의 MQA attention은 그가 독립적으로 구현하고 딜리버리한 것이다. V4.1이 소형 모델과 추론 효율에서 보여준 성과에는 그의 공로도 한몫 있다. 그러나 그는 곧바로 냉정한 판단을 내놓았다. 반년에서 1년만 지나면 AI가 작성한 연산자가 아마 그가 쓴 것만큼 잘할 것이고, 심지어 그를 능가할 것이라는 것이다.

이건 가볍게 한 말이 아니다. 그는 지난 1년간의 관찰을 서술했다. AI는 문서를 찾아주고, 코드를 읽고, 버그를 찾아주는 작은 조수에 불과했던 존재에서, 독립적으로 CUDA, PTX, SASS 어셈블리를 읽고, 전문 도구로 각 명령어의 스톨 시간을 분석한 뒤 스스로 연산자를 최적화하는 '연산자 마스터'로 변했다. 그는 이런 대체감을 꽤나 독한 한 문장으로 정리했다. "나는 물론 내가 혁명당하지 않기를 바란다. 하지만 꼭 혁명당해야 한다면, 나를 혁명하는 사람이 나 자신이기를 바란다."

흥미로운 점은 그가 자신이 실직한다고 생각하지 않고, '전업(轉業)'한다고 본다는 것이다. 한 줄 한 줄 하위 명령어를 손으로 작성하던 엔지니어에서 소위 Agent의 '메카 조종사'로 변하는 것이다. 메카란 코드 처리량이 대단히 높은 AI Agent들이며, 인간은 한 걸음 물러나 명령을 내리고, 경계를 설정하고, 방안을 평가하는 역할을 맡는다. 그 자신은 더 생생한 비유를 들었다. 당신이 평생 스웨터를 짜왔고, 솜씨는 사방십 리에서 공인된 수준이며, 창가에서 오후 내내 뜨개질하는 운치도 즐겼는데, 어느 날 자동 직조기가 등장해 품질은 당신에게 뒤지지 않고 속도는 당신보다 훨씬 빠르다면, 당신은 어쩔 수 없이 그것을 쓰게 된다. 밥줄은 지킬 수 있지만, 그 손작업의 즐거움은 기계의 굉음에 짓밟혀 부서졌다.

글 후반부에서 그는 몇 가지 더 큰 문제를 던졌다. 하나는 교육이다. 학생들이 몇 푼의 비용과 몇 분 만에 AI로 만점 Lab을 생성할 수 있을 때, 과연 얼마나 많은 사람이 그 엔지니어링 능력을 악착같이 갈고닦을까? 그리고 이런 능력들, 즉 코드를 조직하고, 시스템을 구축하고, 전향적인 설계를 하고, 추상화하는 능력은 '능숙하게 x86 어셈블리를 작성하는 것'처럼 시대에 버려질까, 아니면 '컴퓨터 시스템 전체를 이해하는 것'처럼 영원히 기반으로 남을까? 그는 아주 아프게 찌르는 한마디를 덧붙였다. 엔지니어링 능력이 매우 형편없는 사람이 AI를 갖추면, 똥산을 만들어내는 효율이 이전의 몇 배에 달할 수 있고, 그리하여 이 세계를 더욱 엉성하게 만들 수 있다.

또 다른 문제는 권력이다. 그는 물었다. 미래에는 권력(power)이 기술이나 지능보다 더 중요해질까?

많은 사람을 움직인 것은 그들이 이번 논의에 하나의 착지점을 마련해준 부분이다. 왜 DeepSeek에 남기로 선택했는가. 류성위는 가장 앞선 지능은 개방적이고 저렴한 방식으로 모든 사람에게 공급되어야 한다고 믿으며, Anthropic이나 OpenAI가 그렇게 할 것이라고 믿지 않는다고 말했고, 심지어 매우 무거운 비유까지 썼다. 그의 견해로 DeepSeek은 강력하고 빠르며 보편적으로 이로운 오픈소스 AI를 연구하여, "어쩌면 세계를 2077 쪽에서 조금은 다시 끌어올 수 있을지도 모른다".

댓글창에서는 적잖은 동료들이 그의 판단을 입증했다. 한 독자는 자신이 지금 Codex로 국산 칩의 Attention 연산자 개발을 하고 있다고 말했다. "방안을 나 대신 확정해주는 것만 빼면, 나머지는 다 나를 도와 완성해주며, 빠르고도 좋다." 난징대학교의 한 박사과정 지도교수는 시스템 설계의 안목은 RL이 피드백 신호를 제공할 수 있다며, "언제 모두가 데이터의 구성과 훈련 방법을 파악할지 지켜보면 된다, 그때가 되면 정말 끝장이다"라고 남겼다.

그런데 이 글에는 꽤 절묘한 마무리도 있다. 후원 페이지에 그가 쓴 문구는 이것이다. 나에게 후원하는 것은 DS에 토큰을 충전하는 것보다 가성비가 떨어진다.

출처:

- 나는 내 재능을 어제에 묻어야만 했다(원문)