"엔지니어들은 마법사가 되고 있습니다. 그들은 수십 개의 AI 에이전트 함대를 관리하고 있죠." 오픈AI API 엔지니어링 책임자 셔윈 우(Sherwin Wu)가 2026년 2월 레니 라치츠키(Lenny Rachitsky)의 팟캐스트에서 던진 이 한마디는, 지금 소프트웨어 산업에서 벌어지고 있는 지각변동의 규모를 단적으로 보여준다.
셔윈 우는 MIT 컴퓨터공학과를 졸업한 뒤 Quora 뉴스피드 랭킹팀, Opendoor 주택 가격 예측팀에서 5년 이상 근무하고, 오픈AI 초기 멤버로 합류해 현재 API 플랫폼 엔지니어링을 이끌고 있다. 사실상 전 세계 AI 스타트업 생태계의 기반 인프라를 설계하는 인물이다.
그의 발언이 주목받는 이유는 단순한 미래 예측이 아니라, 실제로 매주 8억 명 이상이 사용하는 ChatGPT 플랫폼과 수많은 AI 기업이 의존하는 API를 운영하며 얻은 현장의 데이터에 기반하기 때문이다. 이 글에서는 셔윈 우가 제시한 핵심 통찰을 개인 창업자, 엔지니어, 기업 리더의 관점에서 구조화하여 정리한다.
셔윈 우는 누구인가 - 오픈AI의 플랫폼 설계자
셔윈 우의 커리어 궤적은 AI 시대의 핵심 역량이 무엇인지를 보여주는 사례 자체다. MIT에서 컴퓨터공학을 전공한 뒤, 그는 팰런티어(Palantir)를 거쳐 Quora에서 뉴스피드 랭킹 및 프로덕트팀 엔지니어로 경력을 시작했다. 이후 Opendoor에서 5년 넘게 주택 가격 예측 모델을 구축하는 프라이싱팀을 이끌었는데, 이 경험이 훗날 AI 모델의 실제 비즈니스 적용에 대한 깊은 이해로 이어졌다.
오픈AI에는 초기 멤버로 합류했으며, 현재 Head of Engineering for OpenAI Platform이라는 직함으로 API와 개발자 플랫폼 전체를 총괄하고 있다. 2025년 11월 a16z 팟캐스트에서 "오픈AI가 8억 명의 주간 활성 사용자를 위해 어떻게 빌드하는가"를 주제로 출연했고, 2026년 2월에는 Lenny's Podcast에 등장해 더욱 구체적인 미래 전망을 내놓았다.
** 셔윈 우는 Sancus Ventures의 어드바이저로도 활동하며, 소프트웨어 인프라와 개발자 도구 분야 스타트업에 자문을 제공하고 있다. 그의 관점은 대기업 엔지니어링 리더인 동시에 스타트업 생태계 관찰자라는 이중적 위치에서 나온다.
그가 특별한 위치에 있는 이유는 명확하다. 전 세계 거의 모든 AI 스타트업이 오픈AI의 API를 통해 서비스를 구축하기 때문에, 그는 산업 전체의 트렌드를 실시간으로 관측할 수 있는 보기 드문 위치에 있다. 그의 팀이 만든 Responses API, Agents SDK, AgentKit 같은 도구가 곧 AI 경제의 레일(rail) 역할을 하고 있는 셈이다.
| 구분 | 내용 |
|---|---|
| 학력 | MIT 컴퓨터공학 학사 |
| 주요 경력 | Palantir → Quora(뉴스피드) → Opendoor(프라이싱, 5년+) → OpenAI(초기 멤버) |
| 현 직책 | Head of Engineering, OpenAI Platform (API 및 개발자 플랫폼 총괄) |
| 부가 활동 | Sancus Ventures 어드바이저 |
| 담당 제품 | Responses API, Agents SDK, AgentKit, Evals API 등 |
오픈AI 내부에서 이미 벌어지고 있는 일 - 코드의 95%가 AI 생성
셔윈 우가 공개한 오픈AI 내부 데이터는 소프트웨어 엔지니어링의 현재 상황을 적나라하게 보여준다. 오픈AI 엔지니어의 95%가 매일 Codex를 사용하고 있으며, 모든 PR(Pull Request)의 100%가 Codex에 의해 리뷰되고 있다. 관리자급 인사들의 경우, 코드의 사실상 전량이 AI에 의해 작성되고 있다.
특히 주목할 데이터는 Codex를 적극 활용하는 엔지니어가 그렇지 않은 엔지니어보다 PR을 70% 더 많이 오픈한다는 점이다. 이 격차는 시간이 지날수록 계속 벌어지고 있다. 생산성의 양극화가 실시간으로 진행 중인 것이다.
** 셔윈 우는 "오픈AI 프로덕션에서 실행되는 모든 코드가 AI에 의해 작성되었다고 말할 수는 없다"고 조심스럽게 선을 그었다. 다만 "거의 모든 엔지니어가 모든 작업에서 Codex를 광범위하게 사용하고 있어, 대다수의 코드가 AI에 의해 작성되었을 것으로 추정된다"고 밝혔다.
더 흥미로운 건 오픈AI 내부에서 진행 중인 실험이다. 한 팀이 100% Codex로만 작성된 코드베이스를 유지하는 프로젝트를 운영하고 있다. 이 팀은 AI가 원하는 대로 동작하지 않을 때 인간이 직접 코드를 수정하는 '탈출구(escape hatch)'를 의도적으로 차단했다. 그 결과, 문맥(context) 부족과 정보 미비가 AI 코딩 실패의 가장 큰 원인이라는 사실이 드러났다. 해결책은 더 많은 문서화, 더 풍부한 코드 주석, 그리고 암묵적 지식(tribal knowledge)의 명시적 기록이었다.
| 지표 | 수치 | 의미 |
|---|---|---|
| Codex 일일 사용 엔지니어 비율 | 95% | 사실상 표준 도구화 |
| PR Codex 리뷰 비율 | 100% | 모든 프로덕션 코드에 AI 리뷰 적용 |
| 활발한 Codex 사용자의 PR 증가율 | 70% 이상 | 생산성 격차 확대 중 |
| 관리자급 AI 코드 작성 비율 | 거의 100% | 직접 코딩 대신 에이전트 관리 |
** 셔윈 우는 엔지니어의 역할 변화를 SICP(Structure and Interpretation of Computer Programs)라는 1980년 MIT 교재의 은유로 설명했다. 이 책은 프로그래밍을 '마법(sorcery)'에, 프로그래밍 언어를 '주문(incantation)'에 비유했는데, AI 시대에 그 비유가 문자 그대로 실현되고 있다는 것이다. 이제 엔지니어는 자연어로 원하는 것을 말하면 AI가 실행해주는, 진정한 의미의 마법사가 되었다.
1인 유니콘을 넘어서 - 진짜 변화는 2차, 3차 효과에 있다
셔윈 우의 가장 핵심적인 통찰은 '1인 유니콘(10억 달러 기업)' 자체가 아니라, 그것이 촉발할 연쇄 반응에 있다. 샘 올트만(Sam Altman) 오픈AI CEO가 "우리는 곧 10인 팀의 10억 달러 기업을 보게 될 것이고, 이어서 1인 10억 달러 기업이 등장할 것"이라고 예측한 이래, 업계는 1인 유니콘에 대한 기대와 회의 사이에서 논쟁을 이어왔다. 앤트로픽의 다리오 아모데이(Dario Amodei) CEO 역시 2026년경 AI로 10억 달러 규모 1인 기업이 가능해질 것이라고 전망한 바 있다.
셔윈 우의 관점은 여기서 한 단계 더 깊이 들어간다. 그는 1인 10억 달러 스타트업이 가능해진다면, 그것은 동시에 누구나 훨씬 쉽게 스타트업을 만들 수 있다는 뜻이라고 강조했다. 진짜 변화의 본질은 다음과 같다.
1차 효과: 소프트웨어 개발 비용이 극적으로 하락하면서 1인 10억 달러 기업이 이론적으로 가능해진다.
2차 효과: 창업 진입장벽 자체가 무너지며, 수만 개의 마이크로 스타트업이 폭발적으로 등장한다. 셔윈 우는 이를 "B2B SaaS의 황금시대"라고 표현했다. 1인 10억 달러 기업 하나를 지원하기 위해 100개의 니치(niche) 소프트웨어 스타트업이 필요해진다는 것이다. 팟캐스트를 위한 고객지원 소프트웨어, 특정 산업을 위한 맞춤형 도구 등이 모두 1-2인 팀에 의해 만들어지는 세상이다.
3차 효과: 벤처캐피탈 생태계 자체가 재편된다. 100배, 1000배 수익을 안겨줄 대형 스타트업의 수는 줄어들 수 있지만, 대신 1,000만 달러에서 5,000만 달러 규모의 소규모 기업이 수만 개 등장한다. 벤처 수익률에는 이상적이지 않지만, 개인 창업자에게는 인생을 바꿀 수준의 비즈니스다.
** 셔윈 우는 자신의 관점을 이렇게 정리했다. "1인 10억 달러 스타트업 1개가 나올 수도 있지만, 그보다는 1억 달러 규모 스타트업 100개, 1,000만 달러 규모 스타트업 수만 개가 등장하는 시대가 올 것이다. 개인에게 1,000만 달러 비즈니스는 평생을 보장받는 수준이다." 이것이 그가 말하는 '지능의 민주화'의 실체다.
AI 배포의 현실 - 많은 기업이 마이너스 ROI를 기록하는 이유
셔윈 우의 관찰 중 현장 기업 리더들에게 가장 직접적으로 와닿는 부분은, 상당수 기업의 AI 배포가 실질적으로 마이너스 ROI를 기록하고 있다는 지적이다. 그가 꼽은 핵심 원인은 실리콘밸리 버블과 현실 세계의 괴리다.
X(트위터)에서 활발하게 활동하는 파워 유저들은 MCP, skills 파일, agents.md 같은 고급 기법을 자유자재로 구사하지만, 대부분의 기업 직원들은 가장 기초적인 질문조차 AI에게 제대로 던지지 못하고 있다. 기술을 이해하지 못한 채 사용하라는 지시만 받는 상황이다.
셔윈 우가 관찰한 성공적인 AI 도입의 패턴은 두 가지 요소의 결합이다. 첫째, 경영진의 톱다운(top-down) 의지와 투자. 둘째, 실무자들의 바텀업(bottom-up) 자발적 채택과 복음 전파. 이 두 가지가 동시에 존재해야 한다.
실패하는 기업들은 대부분 톱다운만 존재한다. CEO가 "AI 퍼스트"를 선언하고 성과 평가에 AI 활용도를 반영하지만, 실제로 업무에 AI를 적용해본 내부 전문가가 없다. 누구에게도 배울 수 없고, 주변에서 성공 사례를 목격할 수도 없는 상황에서 직원들은 방치된다.
** 셔윈 우는 기업 내부에 AI "타이거팀"을 구성할 것을 권고했다. 이 팀은 반드시 소프트웨어 엔지니어일 필요가 없다. 오히려 가장 효과적인 인재는 "코딩은 못하지만 기술적 감각이 뛰어난 사람, 예를 들어 엑셀 마법사 수준의 운영팀 리더"와 같은 유형이다. 이들이 실무 워크플로우에 AI를 직접 적용하고, 사내 해커톤과 지식 공유 세미나를 통해 흥분과 모범 사례를 전파해야 한다.
모델이 당신의 스캐폴딩을 아침으로 먹어치울 것이다
셔윈 우가 인용한 핀툴(FinTool) 창업자 니콜라스의 표현, "모델이 당신의 스캐폴딩을 아침 식사로 먹어치울 것"이라는 경고는 AI 제품을 만드는 모든 사람에게 새겨들을 만하다.
2022년 ChatGPT 출시 직후, 벡터 스토어, 에이전트 프레임워크, 각종 프롬프트 체이닝 도구가 쏟아졌다. 모델의 부족한 능력을 보완하기 위한 스캐폴딩(보조 구조물)이었다. 그런데 모델 자체가 급격히 발전하면서, 그 스캐폴딩의 상당 부분이 불필요해졌다. 벡터 스토어가 유일한 정답이었던 시대는 끝났고, 지금은 파일 시스템에 올려둔 마크다운 파일만으로도 모델에게 충분한 맥락을 제공할 수 있게 되었다.
이 현상은 AI 업계의 유명한 원칙인 '쓴 교훈(Bitter Lesson)'의 제품 버전이다. 리치 서턴(Rich Sutton)이 정리한 이 원칙의 핵심은, 인간이 설계한 복잡한 로직보다 단순히 더 많은 컴퓨팅 파워를 모델에 투입하는 것이 결국 더 나은 결과를 낸다는 것이다. 셔윈 우는 이 교훈이 AI 제품 개발에도 그대로 적용된다고 강조했다.
그의 핵심 조언은 명확하다. "모델이 현재 있는 곳이 아니라, 모델이 향하는 곳을 위해 제품을 만들어라." 오늘 80% 수준으로 동작하는 기능이 다음 모델 업데이트에서 완벽하게 작동할 수 있다. 현재 모델의 한계에 맞춰 지나치게 복잡한 우회 로직을 쌓으면, 다음 모델이 그 스캐폴딩을 통째로 무의미하게 만들어버린다.
| 시기 | 유행한 스캐폴딩 | 현재 상태 |
|---|---|---|
| 2022 - 2023년 | 벡터 스토어 중심 RAG, 에이전트 프레임워크 | 모델 성능 향상으로 상당 부분 불필요 |
| 2024년 | 프롬프트 체이닝, 복잡한 오케스트레이션 | 모델이 자체적으로 처리 가능한 영역 확대 |
| 2025 - 현재 | skills 파일, agents.md, 파일 기반 컨텍스트 관리 | 유용하지만 언제든 대체될 수 있음 |
앞으로 12-18개월, 셔윈 우가 주목하는 두 가지 변화
셔윈 우는 향후 12-18개월간 주목해야 할 기술적 진전 두 가지를 명시적으로 제시했다.
첫 번째는 AI가 수행할 수 있는 작업의 지속 시간 확대다. 현재 대부분의 AI 코딩 도구는 수 분 단위의 작업에 최적화되어 있다. Codex도 보통 10분 이내의 작업에서 가장 안정적으로 동작한다. 하지만 소프트웨어 엔지니어링 벤치마크(METR)에 따르면, 최신 프론티어 모델은 이미 수 시간 분량의 작업을 50% 확률로 수행할 수 있다. 셔윈 우는 12-18개월 내에 6시간에서 하루 단위의 작업을 일관되게 처리하는 모델이 등장할 것으로 전망했다. 이 수준에 도달하면, 에이전트에게 아침에 작업을 지시하고 저녁에 결과를 확인하는 완전히 새로운 업무 패턴이 가능해진다.
두 번째는 음성(오디오) 모델의 비약적 발전이다. 현재 AI 담론이 텍스트와 코딩에 편중되어 있지만, 실제 비즈니스의 상당 부분은 음성으로 이루어진다. 고객 상담, 영업 통화, 서비스 운영 등이 모두 음성 기반이다. 셔윈 우는 네이티브 멀티모달 음성-음성(speech-to-speech) 모델이 향후 6-12개월 내에 크게 향상될 것이며, 이것이 특히 엔터프라이즈 시장에서 과소평가된 기회라고 강조했다.
** 셔윈 우는 비즈니스 프로세스 자동화(BPA)를 실리콘밸리가 가장 과소평가하고 있는 AI 적용 영역으로 꼽았다. 소프트웨어 엔지니어링은 개방형 지식 노동이지만, 세계 경제의 대부분은 반복적이고 절차적인 업무 프로세스로 운영된다. 유틸리티 회사에 전화하면 상담원이 따르는 표준 운영 절차, 보험 청구 처리 과정, 물류 운영 등이 모두 이 범주에 속한다. 이 영역에 AI를 적용할 잠재적 가치는 코딩 자동화 못지않게 크다.
오픈AI는 왜 플랫폼 중립성을 고수하는가
AI 스타트업 창업자들이 가장 두려워하는 시나리오는, 오픈AI가 자신들의 아이디어를 직접 구현해 시장을 빼앗는 것이다. 셔윈 우는 이 우려에 대해 매우 직접적으로 답했다. "내가 관찰한 실패한 스타트업들 중, 오픈AI나 구글 같은 대형 랩이 와서 짓밟아서 망한 경우는 단 한 건도 없었습니다. 전부 고객에게 공감받는 제품을 만들지 못해서 망했습니다."
오픈AI가 플랫폼 중립성을 유지하는 이유는 실용적인 동시에 철학적이다. 실용적 차원에서, 주간 활성 사용자 8억 명 이상의 ChatGPT와 수만 개의 기업이 의존하는 API 생태계는 오픈AI 혼자서 전 세계 모든 사용 사례를 커버할 수 없다는 현실을 의미한다. 철학적 차원에서, 오픈AI 헌장(Charter)의 핵심인 "AGI의 혜택을 전 인류에게 확산"하기 위해서는 외부 개발자 생태계가 필수적이다.
실제로 오픈AI는 모든 자사 제품에 탑재하는 모델을 API에도 동일하게 공개하고 있다. Codex에 최적화된 모델조차 API를 통해 외부 개발자가 사용할 수 있으며, 경쟁사의 API 접근도 차단하지 않는다. 셔윈 우는 이를 "밀물이 모든 배를 띄운다"는 비유로 설명했다. 오픈AI가 항공모함이라면, 생태계 전체의 수위를 높이는 것이 결국 자신들에게도 이롭다는 철학이다.
** 셔윈 우의 발언을 액면 그대로만 받아들이기보다는, 오픈AI가 현재 API 수익에 크게 의존하는 비즈니스 구조를 가지고 있다는 맥락도 함께 고려해야 한다. 플랫폼 중립성은 미션 기반의 선택인 동시에, 생태계 확장이 곧 매출 성장으로 이어지는 전략적 선택이기도 하다.
매니저와 최고 성과자를 위한 실전 교훈
셔윈 우의 매니지먼트 철학에서 가장 반직관적이면서도 강력한 원칙은, 시간의 50% 이상을 상위 10% 고성과자에게 집중 투자하라는 것이다. 마크 앤드리슨(Marc Andreessen)이 "AI는 좋은 사람을 더 좋게, 위대한 사람을 탁월하게 만든다"고 표현한 것과 같은 맥락이다.
그는 이 철학을 '외과의사 메타포'로 설명했다. 프레더릭 브룩스(Frederick Brooks)의 1975년 저서 "맨먼스 미신(The Mythical Man-Month)"에서 영감을 받은 것인데, 수술실에서 한 명의 외과의가 집도하고 나머지 모든 인원이 그를 지원하듯, 매니저의 역할은 최고 엔지니어가 필요로 하는 모든 것을 미리 준비하고 조직적 장애물을 제거하는 것이다.
AI 시대에 이 원칙은 더욱 강화된다. Codex를 가장 잘 활용하는 엔지니어가 PR을 70% 이상 더 생산하고 있으며, 이 격차가 계속 벌어지고 있다면, 최고 성과자를 지원하는 데 투자하는 시간의 승수 효과는 전례 없이 커지고 있다. 셔윈 우는 또한 AI 도구 덕분에 매니저가 관리할 수 있는 팀 규모가 기존 6-8명에서 상당히 확대될 수 있다고 전망했다. ChatGPT에 GitHub, Notion, Google Docs 같은 내부 지식을 연결해 딥 리서치 보고서를 생성하거나, 팀원의 성과를 종합적으로 파악하는 데 이미 활용하고 있다고 밝혔다.
이 팟캐스트에서 나온 가장 인상적인 순간 중 하나는, 레니 라치츠키가 "AI가 미래의 차단 요인(blocker)을 예측하는 데도 쓸 수 있지 않겠느냐"고 제안했을 때 셔윈 우가 실시간으로 통찰을 얻는 장면이었다. 매니저가 ChatGPT에게 "우리 팀의 슬랙 메시지와 노션 문서를 분석해서 현재 활성화된 장애물과 다음 달 예상 장애물을 알려줘"라고 요청하는 것이 곧 현실이 될 수 있다.
AI가 촉발하는 변화의 규모는 이미 예측의 영역을 벗어나고 있다. 셔윈 우가 반복적으로 강조한 오픈AI의 과학 부사장 케빈 웨일(Kevin Weil)의 말, "지금이 모델이 가장 못하는 시점이다"라는 문장은 그 자체로 행동의 촉구다. 지금의 Codex가 이미 코드의 대부분을 작성하고, 코드 리뷰를 수행하며, 엔지니어의 생산성 격차를 70% 이상 벌려놓고 있다면, 1-2년 후의 세계는 지금과 근본적으로 다를 수밖에 없다.
셔윈 우의 메시지를 한 문장으로 압축하면 이렇다. 1인 유니콘은 헤드라인이고, 수만 개의 마이크로 창업이 진짜 이야기다. AI가 소프트웨어 개발 비용을 제로에 가깝게 끌어내리면, 10억 달러 기업 1개보다 1,000만 달러 기업 10,000개가 더 현실적이고, 더 많은 사람의 인생을 바꾸는 시나리오다.
지금 이 순간이 기술 역사에서 가장 흥미로운 시기 중 하나라는 셔윈 우의 확신에 동의하든 아니든, 한 가지는 분명하다. AI 도구에 익숙해지는 데 투자하는 시간은 어떤 시나리오에서도 손해가 아니다. 매일 사용하는 업무에 ChatGPT를 연결해보는 것, Codex로 사이드 프로젝트를 시작해보는 것, 팀 내에서 AI 챔피언 역할을 자처하는 것. 이 작은 행동들이 다가오는 마이크로 창업 시대에서 당신의 위치를 결정할 것이다.