AI 생산성 70%의 함정: 우리가 더 바빠진 진짜 이유
AI 도구가 약속하는 70% 생산성 향상의 환상과 실제 개발 현장에서 마주하는 레거시의 벽, 확률적 시스템의 한계를 CTO의 시각에서 분석합니다.
송찬영
CTO
안녕하세요. 풀링포레스트 CTO 송찬영입니다.
"프로그래머로서 이렇게 뒤처진다고 느낀 적은 처음입니다." 2025년 말, AI 분야의 거장인 안드레이 카패시(Andrej Karpathy)가 남긴 말입니다. 현존하는 최고의 AI 전문가조차 설명서 없는 외계 도구 앞에서 막막함을 느낀다면, 우리 같은 일반 개발 조직은 오죽할까요.
최근 업계에는 달콤한 신화가 퍼져 있습니다. GitHub Copilot이나 Cursor 같은 도구를 도입하면 생산성이 55%, 많게는 90%까지 향상된다는 이야기입니다. 경영진은 드라마틱한 비용 절감을 기대하고, 개발자들은 코딩 해방을 꿈꿉니다. 하지만 풀링포레스트에서 AI 도구를 전면적으로 도입하며 마주한 현실은 조금 달랐습니다. 솔직히 말해, 처음에는 오히려 속도가 느려지는 기현상을 겪기도 했습니다.
왜 이런 일이 벌어질까요? 벤더들이 말하는 '70% 생산성 향상'은 거짓말일까요? 결론부터 말하자면 거짓은 아닙니다. 다만 그것은 '실험실'이나 '새로 시작하는 스타트업'에만 해당하는 진실일 확률이 높습니다.
최근 METR의 연구 결과는 충격적이었습니다. AI 도구를 사용한 숙련된 개발자들이 그렇지 않은 그룹보다 작업을 완료하는 데 오히려 19% 더 오래 걸렸다는 것입니다. 더 무서운 점은 '인지 격차'입니다. 개발자들은 스톱워치 상으로는 더 느려졌음에도 불구하고, 스스로는 "20% 더 빨라졌다"고 확신했습니다. AI가 쏟아내는 그럴듯한 코드 덩어리들이 주는 속도감에 취해, 실제로는 그것을 검증하고 디버깅하는 데 더 많은 시간을 쓰고 있다는 사실을 인지하지 못한 것이죠.
저희 팀도 비슷한 과정을 겪었습니다. 문제는 크게 두 가지였습니다.
첫째, '레거시의 벽'입니다.
AI는 2024년에 설계된 깔끔한 모던 스택에서는 날아다닙니다. 하지만 10년 묵은 레거시 코드, 복잡하게 얽힌 의존성, 문서화되지 않은 히스토리가 존재하는 실제 운영 환경에서는 다릅니다. AI는 문맥을 완전히 이해하지 못한 채 '그럴듯한 환각(Solution Hallucination)'을 내놓습니다. 주니어 개발자가 AI가 짜준 코드를 그대로 붙여 넣었다가, 전체 시스템의 정합성을 깨뜨려 시니어 개발자가 하루 종일 수습하는 상황. 아마 많은 팀이 겪어보셨을 겁니다.
둘째, 도구의 성격이 '확률적(Stochastic)'으로 변했습니다.
우리는 입력이 같으면 출력도 같은 결정론적(Deterministic) 시스템에 익숙합니다. 하지만 LLM은 매번 다른 답을 내놓고, 높은 확신을 가지고 틀린 답을 말합니다. 카패시가 지적했듯, 이제 우리는 에이전트, 프롬프트, 컨텍스트 윈도우, 그리고 '설명할 수 없는 오류'를 관리하는 새로운 멘탈 모델을 갖춰야 합니다. 이것은 단순한 도구 학습이 아니라 패러다임의 전환이며, 이 학습 곡선(Learning Curve)을 넘는 데는 상당한 시간과 비용이 듭니다.
그렇다면 우리는 AI 도구를 포기해야 할까요? 절대 아닙니다. 다만 기대치를 현실적으로 조정하고 전략적으로 접근해야 합니다.
풀링포레스트에서는 이제 '생산성 70% 향상'이라는 환상을 쫓지 않습니다. 대신 베인(Bain)이나 맥킨지(McKinsey)가 제시하는 10~15%의 실질적인 효율 개선을 목표로 합니다. 그리고 그 이득은 코딩 속도 자체가 아니라, 보일러플레이트 제거와 지루한 반복 작업의 자동화에서 찾고 있습니다.
특히 주니어 개발자들에게 AI는 훌륭한 러닝메이트가 됩니다. 낯선 코드베이스를 탐색하거나 새로운 패턴을 익힐 때 AI는 최고의 가속기 역할을 합니다. 반면 시니어 개발자들에게는 '코드 작성자'가 아닌 'AI 리뷰어'로서의 역할을 요구합니다. AI가 짠 코드를 맹신하지 않고, 그 이면에 숨겨진 논리적 허점을 찾아내는 설계 역량이 그 어느 때보다 중요해졌습니다.
기술 리더 여러분, 그리고 현장의 개발자 여러분.
AI가 우리를 10배 개발자로 만들어줄 것이라는 막연한 기대는 잠시 내려놓읍시다. 대신 "거의 맞지만 완전히는 아닌" AI의 결과물을 내 프로젝트의 문맥에 맞게 수정하고 통합하는 능력을 길러야 합니다.
지금 당장 속도가 나지 않는다고 불안해하지 마세요. 우리는 지금 단순히 타자 속도를 높이는 것이 아니라, 확률적이고 불완전한 도구를 다루는 새로운 엔지니어링 근육을 만들고 있는 중입니다. 그 과정에서 겪는 혼란과 지체는 성장을 위한 필수적인 수업료일지도 모릅니다.
결국 AI 시대에도 변하지 않는 본질은, 문제를 정의하고 해결책을 설계하는 인간의 통찰력입니다. 도구에 휘둘리지 않고 도구를 지배하는 개발자가 되시길 응원합니다.
