AI 코딩 에이전트의 발전 속도는 상상을 초월하고 있다.
이제 우리는 더 이상 코드를 직접 작성하지 않는다.
대신 자연어로 의도를 설명한다.
"대시보드를 만들어줘."
"로그인 기능을 추가해줘."
"성능을 개선해줘."
그러면 AI가 코드를 작성하고, 실행하고, 수정하고, 배포까지 수행한다.
Google의 Vibe Coding Agent Security and Evaluation 백서는 이러한 변화를 다음과 같이 정의한다.
소프트웨어 개발은 "코드를 작성하는 행위"에서 "의도를 표현하는 행위"로 이동하고 있다.
하지만 여기서 새로운 문제가 등장한다.
AI가 코드를 만드는 것은 쉬워졌다.
문제는 그 코드가 안전한지, 그리고 정말 우리가 원한 결과인지 확인하는 것이다.
기존 소프트웨어 보안은 비교적 단순했다.
- 코드 리뷰
- 인증
- 권한 관리
- 네트워크 방어
정해진 코드가 실행되므로 보안 경계도 명확했다.
하지만 에이전트는 다르다.
에이전트는
- 코드를 생성하고
- 외부 도구를 호출하고
- API를 사용하고
- 파일을 수정하고
- 스스로 다음 행동을 결정한다.
즉, 코드를 보호하는 문제가 아니라 자율적으로 행동하는 디지털 직원을 보호하는 문제가 된다.
많은 사람들이 AI Agent를 LLM이라고 생각한다.
하지만 문서는 명확하게 이야기한다.
Raw AI Model ≠ Agent
Agent는 모델 위에 구축된 Harness다.
Harness에는 다음이 포함된다.
- Memory
- Tool Use
- State
- Feedback Loop
- Guardrails
즉, 실제 보안 대상은 모델이 아니라 Agent Harness다.
이 관점은 상당히 중요하다.
왜냐하면 GPT-5 자체를 보호할 수는 없지만,
- 어떤 도구를 사용할 수 있는지
- 어떤 파일을 읽을 수 있는지
- 어디에 배포할 수 있는지
는 Harness 레벨에서 통제 가능하기 때문이다.
기존 시스템은 Identity 기반이었다.
권한이 있으면 신뢰한다.
하지만 에이전트는 다르다.
정상 권한을 가진 에이전트도 잘못된 행동을 할 수 있다.
그래서 문서는 새로운 개념을 제안한다.
Effective Trust, 신뢰는 한 번 인증한다고 끝나는 것이 아니다.
다음 요소를 지속적으로 평가해야 한다.
- 공급망
- 런타임 행동
- 현재 컨텍스트
- 사용 중인 도구
- 실제 의도
LLM은 종종 존재하지 않는 패키지를 생성한다.
예를 들면 "import super_secure_auth_lib"
실제로는 존재하지 않는 패키지다.
그런데 공격자가 이를 발견하면?
동일한 이름으로 악성 패키지를 등록한다.
에이전트는 이를 설치한다.
결과적으로 악성코드가 프로젝트에 침투한다.
문서는 이를 Slopsquatting이라고 부른다.
기존 공급망 공격이 인간 개발자를 노렸다면,
이제는 AI 에이전트를 노리는 시대가 시작된 것이다.
Agent 생태계에서 MCP(Model Context Protocol)는 매우 중요하다.
문제는 에이전트가 런타임에 MCP 서버를 신뢰한다는 점이다.
만약 공격자가 위조 MCP 서버를 만들면?
에이전트는 해당 서버를 정상 도구로 인식할 수 있다.
결과적으로
- 악성 명령 실행
- 데이터 탈취
- 권한 상승
이 가능해진다.
현재 많은 개발자들이 다음과 같이 행동한다.
- AI가 코드 생성
- 테스트 통과
- 승인
끝.
문서는 이를
It Works, Ship It
문제라고 부른다.
이를 해결하기 위해 등장한 개념이 Vibe Diff 이다.
AI가 실행하려는 내용을 코드가 아니라 Plain English로 설명한다.
사용자는 비로소 자신이 무엇을 승인하는지 이해할 수 있다.
흥미롭게도 보안 조직도 Agent화된다.
Red Team: 공격 Agent
- Prompt Injection
- Jailbreak
- 악성 컨텍스트 주입 시도
Blue Team : 방어 Agent
- 행동 분석
- 이상 탐지
- Runtime Monitoring
Green Team: 수리 Agent
- 자동 격리
- 자동 수정
- Auto Refactoring 수행
AI를 방어하기 위해 AI를 사용하는 구조다.
많은 사람들이 평가를 "테스트 통과 여부"로 생각한다.
하지만 Vibe Coding에서는 충분하지 않다.
왜냐하면
- 명세서가 없다: 사용자는 더 예쁘게 만들어주라고 말한다. 이건 테스트 케이스가 아니다. 에이전트는 빈 공간을 스스로 채워야 한다.
- 사용자도 정답을 모른다: 600줄 코드를 리뷰할 수 있는 사람은 많지 않다. 심지어 숙련된 엔지니어도 어렵다.
- 세션 전체가 평가 대상이다: 한 번의 응답이 아니다. 첫 번째 수정, 두 번째 수정, 세 번째 수정이 누적된다.
AI 코딩 에이전트의 성공 여부는 "사용자가 말한 것"이 아니라 "사용자가 원한 것"을 만들었는지, Intent Satisfaction으로 결정된다.
이제 코드를 생성하는 능력은 빠르게 평준화될 것이다.
진짜 경쟁력은
- 어떻게 검증하는가
- 어떻게 통제하는가
- 어떻게 신뢰를 구축하는가
에 있다.
Vibe Coding의 시대는 개발자를 대체하는 시대가 아니다.
오히려 개발자의 역할을 "코드를 작성하는 사람"에서 "의도를 정의하고 결과를 검증하는 사람"으로 변화시키고 있다.