AI 도입, 환상을 걷어내고 '진짜 문제'를 마주하는 법
풀링포레스트 CTO 송찬영이 전하는 AI 도입의 환상과 현실. 기술 도입을 넘어 일하는 방식의 혁신과 데이터 준비의 중요성, 그리고 실무적인 전략 세 가지를 공유합니다.
송찬영
CTO
안녕하세요. 풀링포레스트에서 CTO로 일하고 있는 송찬영입니다.
최근 기술 업계에서 가장 뜨거운 화두는 단연 AI입니다. 어느 컨퍼런스를 가도, 어떤 미팅에 참석해도 AI 이야기가 빠지지 않습니다. "우리도 AI 도입해야 하지 않나요?", "경쟁사는 AI로 업무 효율을 300% 높였다는데 우리는 뭘 하고 있나요?" 같은 질문들이 쏟아집니다. 저 역시 풀링포레스트의 기술 전략을 총괄하는 입장에서 매일 마주하는 압박이자 고민입니다.
솔직히 고백하자면, 처음에는 저 또한 'AI 만능론'에 살짝 취해 있었습니다. LLM(거대언어모델)이 등장하고 생성형 AI가 폭발적으로 성장할 때, 마치 마법 지팡이를 손에 쥔 것만 같았거든요. 복잡한 코드를 척척 짜주고, 기획 문서를 대신 써주는 모습을 보며 '이제 개발팀의 생산성 고민은 끝났다'고 섣불리 단정 짓기도 했습니다. 하지만 그 환상이 깨지는 데는 그리 오랜 시간이 걸리지 않았습니다.
AI 도입을 단순히 '도구를 사서 설치하는 것'으로 오해했을 때 겪은 시행착오들은 뼈아팠습니다. 우리 팀은 초기에 의욕적으로 최신 AI 툴들을 워크플로우에 통합하려 했습니다. Cursor 같은 AI 기반 에디터를 전사적으로 도입하고, 업무 자동화를 위해 Claude나 ChatGPT API를 적극적으로 활용하려 했죠. 그런데 이상하게도 시간이 지날수록 생산성이 획기적으로 늘어나기는커녕, 오히려 "이걸 왜 써야 하죠?"라는 불만이 터져 나오기 시작했습니다.
문제는 '왜(Why)'가 빠진 채 '무엇(What)'에만 집착했기 때문이었습니다.
개발자들에게 AI 도구를 쥐여주기만 하면 알아서 잘 쓸 거라 믿었지만, 현실은 달랐습니다. 주니어 개발자들은 AI가 짜준 코드를 검증 없이 사용하다가 디버깅에 더 많은 시간을 쏟았고, 시니어 개발자들은 기존의 익숙한 워크플로우를 깨뜨리는 새로운 툴 도입을 번거로운 숙제처럼 여겼습니다. 비즈니스 팀은 AI가 고객 데이터를 학습해서 완벽한 인사이트를 줄 거라 기대했지만, 정작 우리 내부 데이터는 파편화되어 있어 AI가 학습할 수 있는 상태조차 아니었습니다.
기술은 준비되었으나, 조직과 데이터가 준비되지 않았던 겁니다.
그제야 저는 깨달았습니다. 성공적인 AI 도입은 기술의 도입이 아니라, '일하는 방식의 혁신'이라는 것을요. 단순히 비싼 GPU를 사고 API를 연동하는 게 핵심이 아닙니다. AI가 우리 조직의 어떤 병목(Bottle-neck)을 해결해 줄 수 있는지, 그리고 그 해결을 위해 우리가 가진 데이터와 프로세스는 준비가 되어 있는지를 먼저 냉정하게 따져봐야 했습니다.
그래서 우리는 전략을 전면 수정했습니다. '모든 것에 AI를'이라는 구호 대신, '가장 고통스러운 부분부터 AI를'이라는 원칙을 세웠습니다.
첫 번째 변화는 '데이터 정리'였습니다. AI가 멍청한 대답을 내놓는 건 AI 탓이 아니라 우리가 정제되지 않은 데이터를 먹였기 때문입니다. RAG(검색 증강 생성) 시스템을 구축하기 전에 사내 위키와 레거시 문서들을 최신화하고 구조화하는 작업부터 시작했습니다. 지루하고 고된 작업이었지만, 이 과정이 선행되지 않은 AI 도입은 모래성이라는 것을 팀원들과 공유했습니다.
두 번째는 '작은 성공 경험' 만들기였습니다. 거창한 대고객 서비스 대신, 개발팀 내부의 비효율을 줄이는 데 집중했습니다. 예를 들어, 매번 반복되는 API 문서 작성이나, 복잡한 레거시 코드를 분석하는 보조 도구로 AI를 활용하게 했습니다. 개발자들이 "어? 이거 편한데?"라고 느끼는 순간, 자발적인 학습과 활용이 일어났습니다. 억지로 쓰라고 강요할 때와는 전혀 다른 분위기였죠.
이제 막 AI 도입을 고민하는 기술 리더나 실무자분들이 계신다면, 다음 세 가지 질문을 먼저 던져보시길 권합니다.
해결하려는 문제가 명확한가?: "AI를 써보고 싶어서"가 아니라, "고객 응대 지연 시간을 줄이기 위해서" 혹은 "코드 리뷰 병목을 해소하기 위해서"처럼 구체적인 목표가 있어야 합니다.
데이터는 준비되었는가?: AI는 연료(데이터) 없이는 굴러가지 않는 엔진입니다. 우리 데이터가 AI가 이해할 수 있는 형태로 저장되고 관리되고 있는지 점검해야 합니다.
조직 문화를 고려했는가?: 기술은 사람이 씁니다. 구성원들이 AI를 자신들의 일자리를 위협하는 적이 아니라, 능력을 증강시켜주는 파트너로 인식하도록 돕는 과정이 필수적입니다.
현재 풀링포레스트는 AI를 통해 개발 생산성을 측정하고 개선하는 과정에 있습니다. 여전히 시행착오는 겪고 있습니다. 환각(Hallucination) 현상 때문에 잘못된 정보를 고객에게 전달할 뻔한 아찔한 순간도 있었고, 비용 효율성을 맞추느라 밤새 토론하기도 합니다. 하지만 분명한 건, 우리는 이제 AI를 '요술봉'이 아닌 '강력하지만 다루기 까다로운 도구'로 정확히 인지하고 있다는 점입니다.
AI 도입은 100미터 달리기 경주가 아니라 긴 마라톤입니다. 남들이 다 하니까 조급해하며 뛰어들기보다, 우리 조직의 체력과 근육을 먼저 확인하는 지혜가 필요합니다. 기술의 파도에 휩쓸리지 않고, 그 파도 위에 올라타는 현명한 서퍼가 되시기를 응원합니다.
