기업용 AI 코드 전환의 이상과 현실

최근 금융권과 증권사를 중심으로 AI 를 활용한 코드전환 프로젝트들이 쏟아져 나오고 있다. 기존 AI 플랫폼이나 SaaS 형태로 제공되던 기능들 중 상당 부분이 Vibe Coding 방식으로 대체되기 시작하면서, AI를 활용한 프로젝트 구현 요구사항 역시 점점 늘어나고 있는 상황이다.

 

그러나 현실적으로 이러한 흐름을 기업 환경에서 그대로 적용하기에는 여러 구조적인 문제가 존재한다.

 

우선 대부분의 국내 금융사, 증권사, 그리고 제조 기업들은 내부 코드나 고객 정보를 외부로 유출하는 것에 매우 민감하다. 이는 Claude나 ChatGPT와 같은 외부 LLM API를 사실상 사용할 수 없다는 말이다.

 

이 때문에 기업들은 자연스럽게 on-prem 환경에서 동작하는 오픈 LLM (GPT-OSS, Codestral, QWEN등)을 내부 인프라에 직접 배포해 사용하는 방식을 고려하게 된다.

 

문제는 해당 LLM들은 성능이 Vibe Coding이 불가능 할 정도로 떨어진다는 점이다. 코드베이스에 대한 문맥 이해, 장문의 리팩토링, 다단계 추론이 필요한 작업에서 오류율이 높고 일관성이 부족해 실제 개발 워크플로우에 활용하기 어렵다.

 

그렇다면 더 높은 성능의 LLM 을 개발해 고객사에 배포하면 되지 않을까? LLM 공급사들, Anthropic 과 OpenAI 뿐 아니라 국내 기업들도 마찬가지로 절대 자체 개발한 고성능 LLM 모델들을 고객사에 on-prem 으로 제공하지 않는다. 그 이유는 비교적 명확한데, Weight 가 고객사에 넘어가면 고객사가 어떻게 악용할 지 신뢰할 수 없기 때문이다. Fine-Tuning 해서 자체 모델이라고 하면 알 게 무엇인가? 대부분의 공급사들이 API 기반 제공 방식을 유지하는 이유다.

 

여기에 더해 개발 환경의 문제도 존재한다. 많은 기업들이 자체적인 개발 환경(e.g. Eclipse 등의 IDE)을 사용하고 있는데, 최근 등장한 대부분의 Agent IDE 환경은 VSCode 기반으로 만들어져 있다. 이로 인해 기업 내부 개발 환경에 AI 개발 도구를 통합하는 것 자체가 상당히 어려운 상황이다.

 

결과적으로 기업들이 생각하는 Vibe Coding 의 눈높이는 Claude Code 이나 실제 내부에서 사용하는 AI 개발 환경은 시궁창인 것이 현실이다. 이 현실적인 간극을 메우고자 여러 대기업들이 막대한 자금을 풀고 있지만 뾰족한 수를 내는 솔루션은 부재한 상황이다. 대부분 SI 사들이 인력으로 그 간극을 메꾸고 있는 경우가 대부분이다.

 

정리하자면, 다음 문제들 중 하나라도 해결할 수 있다면 기업들은 지갑을 연다.

 

• 외부 LLM API 를 쓰면서도 내부 코드 유출에 대한 리스크가 0 이 될 수 있는 보안 체계
• 실질적인 Vibe Coding 이 가능할 정도의 높은 수준의 성능(Claude 또는 ChatGPT)을 제공하는 on-prem LLM 고객사 내부 배포
• Open LLM 을 활용하더라도 Vibe Coding 이 가능할 정도의 수준높은 context 엔지니어링과 기업들이 기존에 사용하던 커스텀 개발 환경에 구애받지 않고 호환되는 AI Agent

 

대(大) 바이브코딩 시대, 기업 AI 코드전환의 황금 열쇠를 누가 쥐게 될 지 기대해본다.