AI 2년 썼는데 성과가 없다면…

“모델은 좋은데, 왜 성과가 안 날까.” AI 도입을 밀어붙인 많은 경영진이 2년 차에 부딪히는 벽이다. 최근 실리콘밸리에서 나온 두 건의 뉴스는 이 질문에 똑같은 답을 던진다. 문제는 GPT나 Claude 같은 모델이 아니라, 그 모델을 회사의 낡은 시스템과 엉킨 데이터에 ‘붙이는’ 일이라는 것. 그리고 바로 그 지점에 지금 가장 비싼 인재와 가장 큰 돈이 몰리고 있다.

AI를 샀는데, 왜 성과가 없을까

“AI는 역설적으로 전문 인력 수요를 늘린다.” 스텔스에서 막 나온 스타트업 June의 창업자 에프랏 라포포트(전 세일즈포스 임원)의 말이다. 그는 지금 업계가 AI 도입 문제에 내놓는 답이 결국 “사람을 더, 더, 더 뽑자”로 귀결됐다고 꼬집는다. 모델은 준비됐는데, 그 모델을 회사에 들이는 일이 이토록 어렵다는 뜻이다.

이유는 단순하다. AI가 가치를 만들기 전에, 누군가는 먼저 레거시 시스템과 부서마다 흩어진 파편화된 데이터, 그리고 수년치 기술 부채를 정리해야 한다. 라포포트의 표현을 빌리면 “에이전트 템플릿을 만드는 건 쉬운 일”이다. 진짜 어려운 건 그 밑에 깔린 혼돈과 맞물리게 하는 것이다. “같은 뜻의 중복 데이터베이스 필드가 10개씩 있고 팀마다 다르게 쓰는데, 에이전트가 어떻게 올바로 작동하겠는가?”

여기에 시장의 압박이 겹친다. 헤드헌팅 회사 크리스천&팀버스의 창업자 제프 크리스천은 이렇게 경고한다. “올가을 월가는 ‘2년을 줬는데 아직도 ROI가 없다’며, 수억에서 수십억을 쓰고 성과를 못 낸 기업을 벌하고, 성과를 낸 기업엔 보상하기 시작할 것이다.” 업계 표현으로는 ‘토큰을 얼마나 썼나(tokenmaxxing)’에서 ‘가치를 얼마나 뽑았나(valuemaxxing)’로 국면이 넘어가는 중이다.

그래서 몸값이 폭등한 직업, ‘FDE’

포워드 배포 엔지니어(Forward-Deployed Engineer, FDE)는 고객사 안으로 직접 들어가 AI와 소프트웨어를 실제로 구축·배포하는 엔지니어를 말한다. 데이터 분석 기업 팔란티어가 수년 전 만든 개념이 이제 AI 산업 전체의 가장 뜨거운 인재상이 됐다.

크리스천&팀버스가 올해 1~6월 C레벨 임원 250여 명, 포춘 500대 기업 임원 80명, FDE 300여 명을 조사한 결과는 이 변화를 숫자로 보여준다. 연초만 해도 FDE 채용을 계획한 기업은 5~10%에 불과했지만, 2분기 말에는 70%로 뛰었다. 반면 ‘수천만 달러 규모의 ROI를 꾸준히 만들어낼’ 최상급 인재는 미국 전체를 통틀어 단 2,000명. 가용 인원이 아니라 ‘총량’이 그렇다는 것이다. 연말까지 수요는 2,100% 급증할 것으로 전망됐다.

시장 전체 FDE는 약 1만 7,000명이고 상당수는 팔란티어에 소속돼 있다. 어떤 기업은 팔란티어의 기술을 사는 진짜 이유가 그 회사의 FDE에 접근하기 위해서라고 할 정도다. OpenAI(Deployment Company)와 Anthropic(Ode)도 각자 FDE 조직을 세워 자사 기술을 기업 현장에 심고 있다. Ode의 크리스 테일러는 선을 긋는다. “많은 FDE가 Claude Code를 사내에 까는 건 도울 수 있다. 그러나 당신 회사의 핵심 AI 제품 기능을 만들 수 있는 사람은 극소수다.”

한국 중소·중견기업엔 남 얘기가 아니다

우리에겐 팔란티어의 FDE도, 수천만 달러 ROI 사례도 없다. 하지만 논리는 똑같다. 도입을 대신 해줄 ‘사람’이 절대적으로 부족하고 비싸다는 것. 게다가 기업들은 자사의 핵심 업무 프로세스가 외부 AI 회사로 새어 나가 경쟁자를 키울까 두려워, 이 역량을 사내에 두려는(internal FDE) 움직임까지 보이고 있다. 외주 컨설팅에 의존할수록 비용과 ‘블랙박스’ 리스크는 커진다.

실리콘밸리는 ‘사람’ 대신 ‘자동화’에 베팅했다

8월 3일 스텔스에서 나온 June(june.ai)은 2,000만 달러(약 280억 원) 프리시드 투자를 받았다. 라운드를 이끈 것은 세일즈포스 창업자 마크 베니오프의 Time Ventures, 여기에 델 창업자 마이클 델, 박스(Box) CEO 아론 레비, 크라우드스트라이크 CEO 조지 커츠가 이름을 올렸다. 창업자 라포포트를 포함한 4인은 과거 음성-텍스트 스타트업 Bonobo AI를 세일즈포스에 매각한 뒤 수년간 세일즈포스의 AI를 담당했던 팀이다.

June의 접근은 이렇다. 회사의 기존 시스템을 스캔해 업무 프로세스를 파악하고, 병목을 찾아낸 뒤, 에이전트 기반의 최적화된 프로세스로 대체한다. 그리고 사내 커뮤니케이션 채널로 관련 팀에 자동 통지한다. 핵심은 ‘자동 로드맵’이다. “무엇을 단계별로 해야 하는지 전체 로드맵을 자동으로 준다. ‘이 중복을 제거하라, 이 데이터 소스에 연결하라.’ 각 작업의 ‘빌드’ 버튼을 누르면 June이 조직 안에서 그걸 만들어준다.”

실제 고객 사례가 설득력을 더한다. 미국 대형 모기지 대출사 CMG의 최고전략책임자 폴 아킨마데는 소프트웨어 엔지니어링을 Claude Code로 빠르게 옮겼지만, 세일즈포스와 연동하는 지점에서 몇 주간 벽에 부딪혔다. 아키텍트를 만나고 FDE와 상담해도 진도가 나가지 않았다. June을 도입하자 어디에 에이전트를 안전하게 배치할지가 명확해졌다. 그가 내건 조건은 단호했다. “당신 제품이 FDE를 요구한다면, 난 그 제품 필요 없다. 블랙박스도, 특정 사람만 다룰 수 있는 것도 싫다. 그냥 쓰기 쉬운 도구를 원한다.” June은 그 기준을 통과했다.

우리 회사 체크포인트 3가지

1. 모델보다 데이터가 먼저다

어떤 LLM을 쓸지 고민하기 전에, 부서별로 중복되고 어긋난 데이터부터 정리하라. 도입 실패의 상당 부분이 바로 이 지점에서 갈린다. 에이전트는 깨끗한 데이터 위에서만 제대로 작동한다.

2. ROI를 숫자로 정의하라

‘토큰을 얼마 썼나’가 아니라 ‘무엇을 대체하고 무엇을 가속했나’로 측정하라. 올해 하반기 의사결정의 기준은 명확히 valuemaxxing, 즉 실제 가치 회수다. 성과를 숫자로 증명하지 못하는 투자는 다음 예산에서 가장 먼저 잘린다.

3. 블랙박스를 경계하라

특정 외주사나 특정 인력만 이해하는 시스템은 위험하다. 사내 인력이 직접 운영하고 수정할 수 있는 구조로 설계해야, 인재 이탈과 비용 폭증 리스크를 함께 줄일 수 있다.

관련 글

• 정비앱이 5조에 팔렸다… 오토데스크가 노린 진짜 자산
• 개발자 없이 앱 만들었더니… 기업가치 18조의 정체
• AI에 도구 많이 붙였더니… 더 자주 틀리는 이유
• 500달러로 벌어진 일, 판을 뒤집은 개발 뉴스

출처

1. TechCrunch — A Marc Benioff-backed startup thinks AI can solve the AI deployment problem (2026.08.03)
2. TechCrunch — Forward-deployed engineers are the AI industry’s latest talent obsession (2026.07.30)