우리는 AI를 훈련시키고, AI는 우리의 대화를 구조화합니다

안녕하세요. 풀링포레스트 CTO 송찬영입니다.

얼마 전, 회사 라운지에서 주니어 개발자와 커피를 마시며 새로 도입하려는 아키텍처 패턴에 대해 이야기를 나눌 기회가 있었습니다. 편안한 분위기에서 시작된 대화였는데, 제가 한참 설명을 이어가던 중 그 친구가 미묘하게 굳은 표정으로 저를 바라보고 있다는 걸 느꼈습니다. 그리고 조심스럽게 이런 말을 건네더군요. "CTO님, 말씀하시는 게 마치 잘 정리된 기술 문서를 낭독해 주시는 것 같아요. 질문할 틈이 없네요."

그 순간 머리를 한 대 맞은 듯한 기분이 들었습니다. 저는 단순히 제가 알고 있는 지식을 효율적으로 전달하고 있다고 생각했습니다. 하지만 돌이켜보니 저는 대화를 하고 있었던 게 아니라, 일종의 '출력(Output)'을 하고 있었습니다. 개념의 정의부터 시작해 배경, 적용 이유, 예상되는 사이드 이펙트, 그리고 엣지 케이스까지 완벽한 논리 구조를 갖춰 한 호흡에 쏟아내고 있었던 것이죠.

이 현상의 원인을 곰곰이 생각해보니, 범인은 다름 아닌 제 모니터 속에 있었습니다.

최근 우리는 그 어느 때보다 AI와 밀도 높게 협업하고 있습니다. Claude나 GPT-4, 혹은 IDE에 통합된 Cursor 같은 도구들과 대화할 때 우리는 무의식적으로 '완벽한 프롬프트'를 설계하려고 노력합니다. 모호하게 말하면 엉뚱한 대답이 돌아오니(Hallucination), 처음부터 명확한 맥락(Context)을 제공하고, 제약 조건을 걸고, 원하는 출력 형식을 지정합니다. 그래야만 '토큰' 낭비 없이 최적의 결과를 얻을 수 있으니까요.

문제는 이 습관이 사람과의 대화로 전이되고 있다는 점입니다.

저는 어느새 동료 개발자들을 대할 때도 그들을 LLM(거대언어모델)처럼 취급하고 있었습니다. "이 친구가 내 말을 오해하지 않게 하려면 모든 컨텍스트를 한 번에 주입해야 해"라는 강박이 생긴 겁니다. 머릿속에서는 이것이 분절된 질의응답을 줄이는 가장 '효율적인' 커뮤니케이션이라고 믿었습니다. 실제로 어떤 동료들은 제 설명이 군더더기 없이 전체 그림을 보여준다며 고마워하기도 했습니다. 하지만 반대로, 누군가에게는 이것이 일방적인 '강의'나 숨 막히는 정보의 나열로 느껴졌던 겁니다.

우리는 AI 모델을 더 인간답게 만들기 위해 RLHF(인간 피드백 기반 강화 학습)를 수행하지만, 역설적으로 AI는 우리를 더 기계적이고 구조적으로 말하도록 훈련시키고 있습니다.

기술 리더로서 저는 이것을 경계해야 한다고 생각합니다. 엔지니어링에서 효율은 중요하지만, 사람 간의 소통에서 '핑퐁(Ping-pong)'이 사라지면 혁신의 씨앗도 함께 사라집니다. 때로는 불완전한 설명이 상대방의 창의적인 오해를 불러일으키고, 그 오해가 더 나은 아이디어로 발전하기도 합니다. 완벽하게 구조화된 설명은 상대방이 끼어들 틈, 즉 '생각할 틈'을 빼앗아 버릴 수도 있습니다.

물론, 복잡한 시스템의 사양을 정의하거나 장애 보고서를 작성할 때는 이런 '프롬프트 엔지니어링'식 사고방식이 큰 도움이 됩니다. 논리적 비약 없이 명료하게 글을 쓰는 능력은 개발자의 핵심 역량 중 하나니까요. 하지만 커피 한 잔을 앞에 둔 대화에서까지 우리가 컴파일러나 인터프리터처럼 굴 필요는 없습니다.

저는 요즘 의식적으로 '빈틈'을 두려고 노력합니다. 한 번에 모든 것을 설명하려 하기보다, 화두를 던지고 상대방의 리턴 값을 기다립니다. 그것이 비록 레이턴시(Latency)가 발생하는 비효율적인 통신일지라도, 그 과정에서 쌓이는 신뢰와 유대감은 어떤 고성능 모델로도 대체할 수 없는 우리 팀만의 자산이기 때문입니다.

우리가 더 나은 프롬프트 엔지니어가 되어가는 과정이, 더 나쁜 커뮤니케이터가 되는 길이 아니길 바랍니다. 오늘 동료와의 대화에서 여러분은 정보를 '전송'하고 계신가요, 아니면 마음을 '공유'하고 계신가요? 기술이 발전할수록, 우리는 더욱 사람의 언어를 잊지 않으려 노력해야 합니다.