AI에게 주도권을 빼앗기지 마세요 — 두 번의 자동화 실패에서 배운 것

서문

에디블로그(jessyt)의 마인드셋 시리즈 글입니다. GeekNews 30855번으로 공유되었으며, Claude Code를 활용한 두 가지 자동화 실패 사례(자동매매 0승 8패, 블로그 자동발행 슬롭 판정)를 바탕으로 'AI에게 주도권을 넘기는 것'의 공통 원인과 대응책을 정리했습니다. HN 토론은 확인되지 않았습니다.

1. 원문 핵심 내용

두 실패 사례

사례 1: 자동매매 0승 8패

저자는 11년 차 백엔드 개발자입니다. 백엔드 코딩에는 자신이 있지만, 매매(금융) 도메인은 전혀 모르는 상태였습니다. Claude Code에게 매매 전략을 추천받고, 그 코드를 그대로 작성해 실거래에 투입했습니다. 결과는 익절 0회, 손절 8회 — 시드 머니의 3%를 순식간에 잃었습니다. 핵심 문제는 AI가 짠 코드가 합리적인지 판단할 기준이 himself에게 없었다는 점입니다.

사례 2: 블로그 자동발행 — 긱뉴스 슬롭 판정

블로그 글을 AI가 외부 정보를 모으고 정해진 시간에 자동으로 발행하는 파이프라인을 돌렸습니다. 글 검수를 거의 하지 않았습니다. "자동발행"이라는 말을 그대로 실천한 결과, 작성자가 직접 경험하지 않은 내용을 "한 것처럼" 쓰는 글이 섞여 나갔습니다. 그중 한 편이 긱뉴스에 노출되었고, 댓글 8개 중 부정적 피드백이 대다수였습니다. 가장 아팠던 댓글은 "본인들은 봅니까? 저는 안 봅니다."였습니다.

공통 원인: 'AI에게 주도권을 넘긴 것'

두 사건은 표면적으로 다릅니다. 하나는 돈을 잃었고, 다른 하나는 평판을 잃었습니다. 하지만 한 발짝 떨어져서 보면 공통점이 하나입니다. 둘 다 모르는 영역을 AI에게 맡겼고, AI가 내놓은 결과를 평가할 능력도 깊이 읽어낼 문해력도 없었습니다. 결과가 흘러간 뒤에는 시장과 댓글이 대신 평가해 줬습니다.

대응책 1: 문해력 (읽고 쓰는 깊이)

프롬프트는 결국 글입니다. 문제 정의도 글이고, 맥락 설명도 글이고, 제약 조건 정리하는 것도 글입니다. 평소에 길게 읽고 길게 쓰지 않는 사람은 프롬프트도 짧고 평면적입니다. 결국 좋은 질문이 나오지 않고, AI가 준 답을 끝까지 정직하게 읽는 능력도 없습니다. "AI가 답을 다 준다"는 말이 위험한 이유입니다. 답을 받기 전에도, 받은 후에도 문해력이 있어야 그 답이 제 답이 됩니다.

대응책 2: 평가 능력 (지식 기반)

AI 답을 평가하려면 그 영역에 대한 지식을 가져야 합니다. AI가 매매 스크립트를 짜줘도 매매를 모르면 그 코드가 맞는지 판단 못 합니다. AI가 글을 써줘도 글을 오래 읽어오지 않은 사람은 그 글이 어디서 무너지는지 못 봐요. 평가 능력은 지속적인 공부로 끌어올려야 합니다.

실천 장치 1: LLM Wiki (학습시키고 길들이기)

저자는 자신을 "자비스(뇌)"라고 부르는 LLM Wiki를 구축하고 있습니다. 일하는 방식, 자주 부딪히는 문제, 내린 결정과 그 이유 — 모든 기록을 계속 쌓아 AI에게 흘려보냅니다. 위키가 쌓일수록 AI의 답이 점점 본인답게 돌아옵니다. AI가 갑자기 분신이 되는 게 아니라, 매일 던지는 데이터로 천천히 길들여진다는 접근입니다.

실천 장치 2: 하네스 (행동 제지)

학습만 시키고 제지가 없으면 AI가 점점 자기 방식대로 굴러갑니다. 하네스(harness)는 AI가 건드리면 안 되는 자리, 따라가야 하는 규칙, 멈춰야 하는 조건을 미리 명시하는 것입니다. 매매에서 0승 8패를 본 것도, 어떻게 보면 제지가 없었기 때문입니다. 학습과 제지, 두 쪽이 같이 들어가야 안정적으로 굴러갑니다.

핵심 메시지: AI는 동료지, 대리인은 아니다

AI는 선택을 돕는 도구지, 대신 선택해주는 도구가 아닙니다. 선택의 주도권은 결국 제가 가져와야 합니다. Claude Code에게 "이거 어때?"라고 물을 때마다, 제가 그 답을 평가할 수 있는 상태인지 객관적으로 돌아봅니다. 평가할 수 없는 영역이라면 공부부터 시작합니다.

2. 새로운 시각

1. 0승 8패의 통계적 의미 — 우연보다 나쁜 것

동전 던지기에서 8번 연속 뒷면이 나올 확률은 약 0.4%입니다. 즉, 0승 8패는 우연의 범위조차 넘습니다. 이는 단순한 '운이 나빴다'가 아니라, 시스템 자체에 문제가 있었다는 강력한 신호입니다. AI가 짠 매매 전략이 통계적으로 의미 없는 무작위성에 가깝다는 뜻입니다. 평가 능력이 없었다면, 이런 결과를 "운이 없었다"고 받아들일 수밖에 없습니다.

2. LLM Wiki의 역설 — 더 깊은 의존성

LLM Wiki는 "AI를 내 분신처럼 길들인다"는 비전을 제시합니다. 하지만 이 접근은 역설을 내포합니다. Wiki에 더 많은 개인 데이터를 흘려보낼수록, AI는 더 정교하게 개인화된 답을 내놓고, 사용자는 그 답을 더 쉽게 받아들일 것입니다. 이는 의존성의 심화로 이어질 수 있습니다. Wiki가 길러진 AI가 내놓은 답이 정말로 사용자에게 맞는지, 아니면 단순히 사용자의 기존 신념을 더 부드럽게 반사하는지에 대한 검수 메커니즘이 별도로 필요합니다.

3. '자동'이라는 언어의 위험성 — 방임을 기술적 미덕으로 포장

두 실패의 공통 키워드는 "자동"입니다. "자동매매", "자동발행" — 이 단어는 기술적 효율성을 지칭하는 동시에 검수의 유예를 의미합니다. "자동"이라는 말에 기대어 인간이 마땅히 해야 할 검수 과정을 생략한 것이 두 사고의 본질입니다. 기술 용어로서의 '자동화'가 윤리적 책임의 회수를 부르는 언어적 함정입니다.

3. 자녀/미래 영향

아인(고등학생): AI 시대에 중요한 건 AI를 쓰는 능력이 아니라, AI가 준 답을 평가하는 능력이라는 점을 일러줘야 합니다. AI가 수학 문제를 풀어줘도, 그 답이 맞는지 스스로 검증할 수 있는 수학 실력이 있어야 합니다. 이는 모든 과목에 적용됩니다.

석현(중학생): AI 코딩 도구를 사용할 때, "이 코드가 왜 작동하는지 설명할 수 있어야 한다"는 원칙을 일찍부터 심어주는 게 중요합니다. 코드를 복사-붙여넣기하는 것과 코드를 이해하는 것은 완전히 다른 능력입니다.

은한(초등학생): 아직은 일찍이지만, "AI는 동료지, 대리인이 아니다"라는 원칙은 어릴수록 자연스럽게 받아들일 수 있습니다. AI가 도와주는 것 같지만, 결국 최종 판단은 내가 한다는 습관을从小부터 기르는 게 중요합니다.

관련 노트

• AI가 마취시키는 건 한 사람이 아니라 조직 전체다 — AI의 인지적 점유권 침식에 대한 더 넓은 관점
• LLM Wiki와 본유적 부하 — LLM Wiki가 학습 효과를 떨어뜨리는 역설
• OpenAI Harness Engineering — 하네스 개념의 실제 구현 사례