우리 직장의 LLM 집단 망상

출처: ava's blog (2026-06-10) via GeekNews / Lobsters / HN

한 줄 요약

재정난으로 직원 보너스는 2년째 취소된 기업에서, AI 컨설턴트와 LLM 구독에는 돈을 퍼붓는 모순적인 상황을 겪는 직원이 AI 도입의 허상을 날카롭게 비판한 글.

원문 분석

배경: 모순된 재정 상황

저자는 자금난을 겪는 공공 부처에서 일하고 있다. 구체적인 상황은 다음과 같다.

• 공개된 채용 공백은 채우지 않고 그냥 사라지게 둠
• 우수 직원 보너스는 2년 전부터 영구 취소
• 필수적인 장비와 라이선스는 " somehow 해결하라"는 메시지만 남긴 채 삭감
• 여러 부서에서人手 부족으로 과부하 상태, 코너 컷(절충)을 강요당함
• 중요한 데이터베이스 라이선스는 예산 절감 이유로 해지

하지만 AI에는 예외적으로 돈이 나온다.

• AI 컨설턴트 고용
• 직원 대상 LLM 워크숍 및 세미나 (수년간 지속)
• ChatGPT와 Copilot 양쪽 라이선스 구독 유지

저자의 평가: "열심히 일하는 직원들에게 돌아갈 보너스와 지원금이 사기꾼, 보안 위험, 우리 업무에 쓸모없는 나쁜 워크숍, 테크노 파시스트들에게 가고 있다."

전사 LLM 프로젝트: 100% 실패

전사 회의에서 여러 팀이 LLM 프로젝트를 등록하고 몇 달간 시험한 후 결과를 발표한다. 저자가 지금까지 참석한 모든 프로젝트에서 결과는 동일했다.

• 단 한 번도 성공한 적이 없음
• "이건 작동하지 않는다", "시간을 절약하지 않는다", "오히려 복잡해졌다"라는 결론만 반복

모든 팀, 수백 명의 사람, AI에 열정적인 사람들, 다양한 프로젝트들이 시도했지만 성공 사례는 제로였다. 프롬프트 엔지니어링, 커스텀 GPT, 미리 준비된 문서 템플릿 등 모든 수단을 동원했지만, 저자의 업무 분야(코딩 관련이 아닌 데이터베이스 관련 업무)에서 효과적이고 재현 가능한 결과를 만들어내지 못했다.

주요 문제점:

• 미세 조정에 상당한 시간 소모
• 작업을 반복하고 출력을 검증하고 실수를 수정해야 하는 추가 단계
• 문서 무시, 환각(사실과 다른 내용 생성), 문서 작성 불능이 가장 큰 불만 사항
• Enterprise 라이선스조차 제약이 너무 큼

시연된 "활용 사례"의 부조리

전사 회의에서 일반 활용 사례를 시연한 세 가지 사례가 특히 부조리했다.

첫째: 봇에게 기분 물어보기

• 누군가 ChatGPT에게 "오늘 기분 어때?"라고 묻는 것을 진지한 활용 사례로 제시
• 농이나 풍자가 아니라 진지하게 "미래지향적이고 인간적"이라는 맥락에서
• 저자의 반응: "내 팀이 필요한 데이터베이스 자금을 매년 정당화해야 하는데, 수천 달러 구독으로 직원들이 봇과 의미 없는 대화를 하게 한다는 제안은 5년 전이면 웃겨서 쫓아냈을 것"

둘째: 식당 메뉴 확인

• 인트라넷에서 1페이지짜리 엑셀 시간표 형식의 식당 메뉴를 다운로드
• ChatGPT에 업로드하고 "수요일 점심 메뉴 뭐야?"라고 질문
• 봇이 전체 시트 읽는 것보다 더 긴 답변을 생성
• 다운로드 + 업로드 + 프롬프트 작성 시간이 메뉴 한 번 보는 시간보다 더 김
• 저자: "나는 농담을 바랐다. 정말로 농담이었으면 좋겠다."

셋째: 스팸 메일 감지

• IT 부서장이 제안: "스팸/피싱 메일인지 모르겠으면 데스크톱에 저장해서 ChatGPT에 업로드하라"
• 보안 관점에서 문제: 의심스러운 파일을 업무용 노트북에 저장하게 한다는 것 자체가 보안 위험
• 저자: "기술적으로 덜 숙련된 직원들이 수상한 것을 업무용 노트북에 저장하도록 하고 싶은가?"

더닝-크루거 효과 증폭

더닝-크루거 효과란 자신에게 없는 능력을 과대평가하는 심리 현상을 말한다. 저자는 AI가 이 효과를 증폭시킨다고 주장한다.

• AI가 모든 시도를 더 스마트하고 정당화된 것처럼 포장
• 완전히 평범하고 무가치한 작업을 중요한 것처럼 포장하여 사람들이 착각하게 만듦
• AI 옹호자들은 자신이 혁명적인 것의 일부라고 느끼며, 비판자들이 언젠가 사과할 날을 기다림
• "지능 있고 책임감 있는 사람들이 갑자기 AI 회사들의 홍보대사로 변한다"

저자의 비유: "청소 제품이 얼마나 잘 작동하는지 과장하는 문전 판촉원처럼, 실제로 유용하지도 제대로 작동하지도 않는 활용 사례를 만들어낸다."

조직 문화의 신뢰 붕괴

저자가 가장 우려하는 점은 AI 자체를 넘어선 조직 문화의 문제다.

• 평소에는 새로운 기술을 도입하는 데 수년이 걸리거나 아예 무시가 되는 조직이, AI에만는 순식간에 인프라와 조직 대역폭을 제공
• "리더십이 원하면 모든 것이 가능하다"는 사실이 드러나면서, 평소 "불가능하다"고 말하던 장애물들이 그냥 의도적인 것이었음이 드러남
• 직원들에게는 가스라이팅(자신이 미쳐가는 것 같은 착각을 심어주는 조작)과 같은 경험
• 저자: "이건 나의 두 번째 코로나다. 절대 잊을 수 없다."

저자의 마지막 말

자신과 같은 상황을 겪지 않는 사람들에게는 "진심으로 다행이다"라고 말한다. 하지만 AI 도입이 잘 되는 곳도 분명히 존재하므로, AI 자체를 부정하는 것이 아니라 "잘못된 AI 도입"을 겪는 사람들이 자신의 경험을 공유할 수 있게 해달라고 요청한다.

커뮤니티 반응

Lobsters 토론

Lobsters에서는 다양한 시각이 나왔다.

기업 지출의 구조적 문제

• 신규 채용이나 인상분에는 돈이 없는데, 비즈니스 컨설턴트, 거대한 엔터프라이즈 소프트웨어 라이선스, AI 구독에는 항상 돈이 있다는 공감
• k749gtnc9l3w: "물건을 사는 것은 인상을 주는 것보다 미래에 덜 구속되는 지출이다. 불행히도 리스크 관리 관점에서 합리적인 고려사항!"
• 하지만 SaaS 구독은 일회성 보너스와 달리 쉽게 끊을 수 없는 장기적 부채가 된다는 지적

관리자의 무능 vs 회사 규모

• dsr: 저자가 묘사한 것은 경영진이 사업 운영에서 거의 치명적으로 무능한 상황. 글쓴이는 덜 무능한 경영진이 있는 새 직장을 찾아야 한다
• 거대 기업(FAANG): 시장 지배력으로 비효율을 흡수하면서도 막대한 이익을 남길 수 있음
• 소규모 기업: 소유주가 돈이 떨어지거나 사망하거나 법적 분쟁이 발생할 때 존재적 위협에 직면

실용적 AI 활용 사례

• emk의 경험 기반 평가:

• 핵심 통찰: 많은 개발자에게 가장 큰 가치는 "이례적인 벤더 API에 대한 초안 테스트 코드를 작성하는 지루함"을 피하는 것

정적/동적 타이핑 비유

• Yogthos: LLM 도입을 정적/동적 타이핑 논쟁에 비유
• 기술력이 높은 팀 + 적절한 경험 → 생산성 크게 향상
• дисципли나 없이 남용하면 → 유지보수 불가능한 혼란
• 병목: "AI가 생성한 코드를 인간이 이해해야 한다. 코드를 작성하는 것이 시간이 걸리는 것이 아니다. 문제를 이해하고, 아키텍처를 설계하고, 비즈니스 요구사항을 공식적으로 표현하는 방법을 찾는 것이 시간 소모다"

경제 버블 예측

• gigawhitlocks: LLM을 정적 타이핑에 비유하는 것은 추론 서비스 제공업체에게는 "아포칼립스 뉴스"
• OpenAI, Anthropic 등은 막대한 부채를 지고 인프라를 구축했으며, 점진적 개선이 아닌 혁명적 생산성 도약이 필요
• Sam Altman의 "AGI를 달성한 후 ChatGPT에게 어떻게 수익을 낼지 물어보겠다"는 발언이 현재 유용성과 재무 기대치의 괴리를 보여줌
• Yogthos: 현재 AI 붐은 버블이며 두 가지 이유로 터질 것

1. 지속 불가능한 비즈니스 모델: LLM이 아키텍처와 요구사항 수집의 핵심 문제를 해결하지 못함
2. 로컬/에지 컴퓨팅으로의 이동: 모델이 로컬에서 충분히 효율적으로 실행되면 구독 구매 인센티브 사라짐

Tildes 토론

"이 회사에서 빨리 도망쳐라" 의견

• 보너스 2년 취소 + 재정난 = 개선되지 않을 것. 새로운 직장을 찾아야 한다

활용 사례의 빈약함에 대한 의문

• 수백 명의 AI 열정적인 사람들이 내놓은 것이 메뉴 확인器和 스팸 감지器? IT 부서가 더 창의적으로 활용하지 않았다는 점이 놀랍다
• 다른 조직의 사례: IT 부서에서 LLM을 티켓 자동 응답, 팀 자동 분류, 시간 기록 자동화에 즉시 활용

실제 유용한 활용 사례

• Claude로 30개 이상의 가상 프랜차이즈에 연간 가상의 계절별 캠페인 데이터 생성 (1000행, 점심시간보다 짧게)
• Copilot으로 프로젝트 지연 이유 설명 요청 → 관련 문서에서 출처까지 제공
• 동료의 암호화된 메시지가 이해 안 될 때 Copilot이 내부 문서와 연결하여 해석

듀오링고 비유

• 듀오링고에서 때로 무의미한 문장이 나오지만("말이 물고기와 연애 관계를 끝냈다"), 그 문장 자체가 목적이 아니라 문법 구조를 훈련하기 위한 것
• 메뉴 확인 같은 단순한 활용 사례도 더 복잡한 데이터셋에 질문하는 능력을 훈련하는 과정으로 볼 수 있다

새로운 시각

"두 번째 코로나"라는 표현의 의미

저자가 "이건 나의 두 번째 코로나다"라고 한 것은 단순한 과장이 아니다. 코로나 팬데믹이 조직의 신뢰를 어떻게 흔들었는지 생각해 보자.

• 코로나 초기: "모두가 함께 극복하자"는 분위기
• 이후: 백신 우선순위, 봉쇄 정책의 불일치, 정보 조작 의혹
• 결과: 정부와 기관에 대한 신뢰가 근본적으로 흔들렸고, 그 상처는 아직 완전히 치유되지 않음

저자가 겪는 AI 도입의 문제도 근본적으로 같다. 조직이 "불가능하다"는 것을 가능하게 만들 수 있다는 사실이 드러났고, 그 능력은 AI에만 쓰였다. 이는 기술 문제가 아니라 신뢰 문제다.

AI 도입의 진짜 기준: "문제를 해결하는가"가 아니라 "문제를 만들어내는가"

대부분의 AI 도입 논의는 "무엇을 해결할 수 있는가"에 집중한다. 하지만 저자의 사례에서 드러나는 더 중요한 질문은 "AI 도입 자체가 어떤 문제를 만들어내는가"다.

• 시간 낭비 (프로젝트 실패 + 검증 + 수정)
• 예산 왜곡 (컨설턴트/구독 vs 직원 보너스/필수 장비)
• 조직 신뢰 붕괴 (AI에만 자원이 흘러가는 모순)
• 보안 위험 (의심스러운 파일을 업무용 PC에 저장)
• 더닝-크루거 효과 증폭 (무지의 과신)

AI 도입을 평가할 때 "해결하는 가치"뿐만 아니라 "만들어내는 비용"도 함께 계산해야 한다.

로컬 모델 시대의 도래와 구독 모델의 종말

Lobsters 토론에서 Yogthos가 예측한 대로, 모델이 로컬에서 충분히 효율적으로 실행되면 기업 구독 모델은 붕괴된다. 이미 Qwen 3.5-9B 같은 모델이 로컬 GPU에서 17 토큰/초 이상의 속도로 실행되고 있고, 컨텍스트 윈도우도 13만 토큰 이상 지원한다. 기업들이 수천 달러를 들여 ChatGPT Enterprise를 구독하는 대신, 내부 서버에서 프라이빗 모델을 운영하는 것이 더 경제적일 수 있는 시점이 이미 왔다.

자녀/미래 영향

아인, 석현, 은한이 성장할 직장 환경

자녀들이 사회에 나설 때 직장에서 AI를 어떻게 대해야 할지 생각해 보자.

1. AI 활용 능력을 증명하는 것이 아니라, AI 활용의 타당성을 판단하는 능력이 중요하다

• 메뉴 확인器를 만드는 것이 아니라, "이 작업에 AI가 필요한가?"를 질문할 수 있어야 함
• 비판적 사고가 AI 시대의 가장 중요한 소프트 스킬이 될 것

1. 구독 모델의 함정을 이해해야 한다

• SaaS 구독은 일회성 구매와 달리 끊기 어려운 장기적 부채
• "월 10달러지만 끊기 어렵다"는 점을 이해하고, 필요할 때 끊을 수 있는 유연함이 중요

1. 로컬/오픈소스 모델의 중요성

• 자녀들이 성장할 때 기업 AI 구독은 이미 과거의 일이 될 수 있다
• 로컬 모델 실행, 커스텀 튜닝, 데이터 프라이버시 보호가 기본 소양이 될 것

교육 관점

• AI를 도구로 사용하는 법을 가르치는 것보다, 언제 AI를 사용하지 않아야 하는지를 가르치는 것이 더 중요할 수 있다
• "AI가 할 수 있는 모든 것을 AI에게 맡긴다"는 접근이 아니라, "인간의 판단이 필수적인 영역"을 명확히 구분하는 교육이 필요

관련 노트

• [[2026-06-09_mimo-multimodal-llm]] — AI 모델 분석 시리즈
• [[2026-06-07_flux2-klein-analysis]] — AI 이미지 생성 모델 분석