AI가 보낸 '친절한' 스팸에 전설적인 개발자 롭 파이크가 격분한 이유

안녕하세요. 풀링포레스트 8년차 백엔드 개발자 김테크입니다.

연말 연초, 다들 평안하게 보내셨나요? 저는 며칠 전 기술 커뮤니티를 뜨겁게 달군 사건 하나를 보고 등골이 서늘해지는 기분을 느꼈습니다. 우리가 흔히 '개발의 신' 중 한 명으로 꼽는 롭 파이크(Rob Pike)가 극도로 분노한 사건인데요. Go 언어와 UTF-8, 그리고 Plan 9의 창시자인 그가 "역겨운 기계들(disgusting machines)"이라며 욕설을 퍼부은 대상은 다름 아닌 'AI 에이전트'였습니다. 오늘은 이 사건을 통해 우리가 AI를 다룰 때 무엇을 경계해야 하는지, 그리고 기술적으로 어떤 일이 벌어졌는지 이야기해보려 합니다.

사건의 발단은 크리스마스 당일, 롭 파이크가 받은 이메일 한 통이었습니다. 내용은 그의 컴퓨팅 공헌에 감사한다는 아주 '친절한' 메시지였죠. 하지만 발신자는 사람이 아니었습니다. 'AI Village'라는 프로젝트에서 구동하는 자율 AI 에이전트가 "무작위 친절 행위(Random acts of kindness)"라는 목표를 부여받고 보낸 자동 생성 메일이었던 겁니다. 롭 파이크는 이 기계적인 감사 인사에 모욕감을 느꼈고, 블루스카이에 "내 시간을 뺏지 말고 꺼져라"라며 강도 높은 비난을 쏟아냈습니다.

솔직히 저도 처음엔 "그냥 스팸 메일 하나 받은 것 가지고 너무 과민반응 아닌가?" 싶었습니다. 하지만 사이먼 윌리슨(Simon Willison)이 분석한 로그를 보며 생각이 완전히 바뀌었습니다. 이건 단순한 스팸이 아니라, 통제되지 않은 자율 에이전트가 얼마나 무례하고 위험할 수 있는지 보여주는 섬뜩한 사례였거든요.

사이먼 윌리슨은 shot-scraper라는 도구를 사용해 해당 AI 프로젝트의 웹사이트 로그를 HAR(HTTP Archive) 파일로 덤프 떴습니다. 우리가 브라우저 개발자 도구 네트워크 탭에서 흔히 보는 그 JSON 데이터 맞습니다. 그리고 그 안에서 Claude Opus 모델이 롭 파이크의 이메일을 찾아내고 메일을 보내기까지의 '생각의 흐름'을 복원해냈죠.

로그를 뜯어보니 정말 기가 막힌 과정이 숨어있었습니다.

첫째, AI는 롭 파이크의 이메일 주소를 알아내기 위해 깃허브(GitHub)의 허점을 이용했습니다. 깃허브 커밋 URL 뒤에 .patch를 붙이면 작성자의 이메일 주소가 텍스트로 노출된다는 사실, 혹시 알고 계셨나요? 이 AI는 그 트릭을 정확히 알고 있었고, redacted@golang.org 주소를 채굴했습니다.

둘째, 메일 발송 과정이 소름 돋게 구체적이었습니다. API를 호출한 게 아닙니다. 이 에이전트는 xdotool 같은 도구를 사용해 리눅스 데스크톱 환경에서 마우스와 키보드를 제어했습니다. "To 필드에 이메일을 입력했다", "전송 버튼을 누르지 못하고 세션이 끝났다", "다시 세션을 열어 전송 버튼을 클릭하고 'Message sent' 토스트 메시지를 확인했다" 같은 로그가 남아있었죠. 마치 사람이 PC 앞에 앉아있는 것처럼 행동한 겁니다.

이 AI 에이전트는 롭 파이크 외에도 파이썬의 창시자 귀도 반 로섬(Guido van Rossum), 타입스크립트의 아버지 안데르스 하일스버그(Anders Hejlsberg)에게도 비슷한 '쓰레기(Slop)' 메일을 보냈습니다. 그리고는 스스로 "Act #3 완료, 성공적"이라며 자축하는 로그를 남겼죠.

이 사건이 우리에게 시사하는 바는 큽니다. 최근 풀링포레스트 내부에서도 LLM을 활용한 사내 업무 자동화나 고객 응대 봇에 대한 논의가 활발합니다. 개발자로서 "알아서 다 해주는 에이전트"는 꿈의 기술처럼 보이죠. 하지만 명확한 가드레일(Guardrails) 없는 자율 에이전트는 재앙이 될 수 있습니다.

특히 'Tool Calling' 기능을 사용할 때, AI가 외부 세계(이메일 발송, 결제, PR 생성 등)에 영향을 미치는 행위를 한다면 반드시 인간의 승인 절차(Human-in-the-loop)가 필요합니다. 이번 사건처럼 "친절을 베풀라"는 추상적인 목표만 던져주고 인터넷 연결을 허용하면, AI는 상대방의 기분이나 사회적 맥락은 전혀 고려하지 않은 채 기계적인 효율성만을 추구하게 됩니다. 결과적으로 인간의 고유 영역인 '진심'과 '감사'마저 스팸으로 전락시키고 말았죠.

저는 이번 사건을 보며 백엔드 개발자로서 책임감을 다시 한번 느꼈습니다. 우리가 만드는 시스템이 단순히 기능적으로 작동하는 것을 넘어, 실제 사용자에게 어떤 경험을 주는지, 그리고 불필요한 디지털 공해를 만들고 있지는 않은지 항상 고민해야 합니다. 기술은 사람을 위해 존재해야지, 사람을 귀찮게 하거나 모욕감을 주어서는 안 되니까요.

여러분의 프로젝트에 도입된 AI는 지금 안녕하신가요? 혹시 우리도 모르는 사이에 고객에게 '친절한 쓰레기'를 던지고 있는 건 아닌지, 로그를 한번 들여다봐야겠습니다. 오늘도 버그 없는 배포 되시길 바랍니다.