뉴스레터 I-ON Communications의 다양한 소식들을 확인해보세요.

AI 에이전트 활용, 85%가 시작했는데 본 운영은 왜 5%일까?

  • 등록일 2026년09월30일

본문

AI 에이전트 활용, 85%가 시작했는데 본 운영은 왜 5%일까?

기업 회의실에서 AI 에이전트 파일럿 결과와 본 운영 전환 기준을 함께 검토하는 담당자들의 모습

시작한 조직은 85%지만 폭넓은 본 운영은 5%에 그칩니다

시스코는 2026.03.23 보안 블로그에서 에이전틱 AI 조사 결과를 공개했습니다. 조사에서 조직의 85%가 에이전틱 AI를 시험하거나 파일럿 또는 도입하는 단계에 있었고, AI 에이전트를 폭넓게 본 운영 중인 조직은 5%였습니다. 시작한 조직은 많아도 일상 업무에 넓게 자리 잡은 조직은 드문 상황입니다.

다만 원문에는 조사 표본 규모가 명시되어 있지 않으므로, 절대 수치보다 전체 흐름을 보여 주는 자료로 보는 것이 적절합니다.

AI 에이전트 도입이 멈추는 세 가지 지점

같은 조사에서 응답자의 약 60%가 보안 우려를 확산의 가장 큰 장벽으로 꼽았습니다. 구체적인 우려는 아래 세 가지로 정리됩니다.

막히는 지점 핵심 내용
접근 제어 사람 기준으로 설계된 권한 체계가 자율적으로 움직이는 에이전트에는 충분하지 않습니다.
데이터 유출 에이전트의 행동을 통해 민감한 정보가 의도하지 않은 곳으로 나갈 수 있습니다.
자율 동작 범위 사람이 예측하기 어려운 판단과 행동이 허용 범위를 벗어날 수 있습니다.

책임 주체도 나뉘어 있었습니다. 담당 조직은 CISO 29%, CIO·IT 부서 27%, 중앙 AI 위원회 24%로 갈렸고, 11%는 뚜렷한 담당이 없다고 답했습니다. 책임 주체가 비어 있으면 본 운영 전환 결정이 계속 미뤄질 수 있습니다.

AI 프로젝트 전반의 실패 원인은 어디에 있을까요

이 문제는 에이전트에만 해당하지 않습니다. 랜드연구소는 2024.08.13 보고서에서 AI·머신러닝 실무자 65명을 인터뷰해 실패 원인을 분석했습니다. 보고서는 AI 프로젝트의 80% 이상이 실패한다는 추정이 있으며, 이는 AI가 아닌 IT 프로젝트의 두 배 수준이라고 소개합니다.

인터뷰 응답자의 84%가 사업 목표가 어긋나는 리더십 문제를 꼽았고, 산업계 응답자 50명 중 30명은 데이터의 품질과 양 문제를 언급했습니다. 2024년 조사이므로 에이전트만을 대상으로 한 결과는 아니지만, 기술 자체보다 목표 설정과 데이터 준비에서 먼저 흔들린다는 점은 에이전트 도입에도 참고할 수 있습니다.

본 운영 전환 전에 점검할 네 가지 기준

아래 기준은 위 두 자료가 지적한 지점을 바탕으로 정리한 점검 항목입니다.

기준 점검 내용
권한 범위 에이전트가 읽고 쓸 수 있는 시스템과 데이터를 업무 단위로 좁게 정의합니다.
데이터 경계 연결할 사내 문서와 데이터베이스를 선별하고, 민감 정보의 처리 방식을 사전에 정합니다.
책임 주체 결과와 사고에 대한 담당 조직을 한 곳으로 지정합니다.
성과 지표 파일럿 종료 조건과 본 운영 전환 기준을 수치로 기록합니다.

MCP 기반 엔터프라이즈 AI, RAToRu의 접근 방식

RAToRu의 RAGo, ToolHUB, Rubix 구성을 하나의 구조도로 표현한 제품 소개 화면

아이온커뮤니케이션즈의 RAToRu는 MCP(Model Context Protocol) 기반 엔터프라이즈 AI 솔루션으로, 2025.07 언론 보도를 통해 공개되었습니다. 단순 질의응답 챗봇이 아니라 기업이 이미 보유한 시스템을 AI와 연결해 실제 업무 실행을 돕는 업무형 AI 솔루션을 지향하며, RAGo, ToolHUB, Rubix 세 가지 서버로 구성됩니다.

☑️ RAGo: 부서·업무별로 지식 기반을 나누는 RAG 서버

RAGo는 MCP 기반 멀티지식도메인 RAG 서버입니다. 기업 내 부서나 업무 영역별로 독립된 지식 기반을 분리해 운영할 수 있어, 앞서 살펴본 데이터 경계를 업무 단위로 나누는 기준과 연결됩니다. RAG(검색 증강 생성) 데이터는 실시간으로 업데이트할 수 있습니다.

☑️ ToolHUB: 기존 시스템의 API를 AI와 연결

ToolHUB는 기존 인프라의 API를 AI와 연결하는 서버로, 레거시 시스템 연동을 담당합니다. MCP 도구를 서비스 중단 없이 관리할 수 있어, 에이전트가 사용하는 도구를 운영 중에도 추가하고 변경할 수 있습니다.

☑️ Rubix: 여러 LLM과 지식 도메인을 잇는 인터페이스

Rubix는 여러 대규모 언어 모델(LLM)과 여러 지식 도메인을 함께 활용하는 인터페이스 서버입니다. 업무별로 나뉜 지식 기반을 하나의 접점에서 사용할 수 있습니다.

앞서 짚은 장벽 가운데 데이터 유출 우려와 접근 제어, 자율 동작 범위 문제는 RAToRu로 줄여 갈 수 있습니다. RAGo로 부서·업무별 독립 지식 기반을 나누어 운영하면 에이전트가 참조하는 데이터를 업무 범위 안으로 한정할 수 있고, ToolHUB로 에이전트가 사용할 기존 시스템의 API를 지정해 연결하면 쓸 수 있는 도구의 범위를 정할 수 있습니다. MCP 도구는 서비스 중단 없이 추가하거나 변경할 수 있어 운영 중에도 범위를 조정할 수 있습니다. 책임 주체와 성과 지표는 조직이 정하는 기준이지만, RAToRu는 그 기준을 실제 업무에 적용하기 전에 데이터 경계와 도구 연결을 설계하는 단계에서 활용할 수 있습니다.

RAToRu의 구성과 적용 방식은 제품 페이지에서 확인할 수 있습니다.

RAToRu 자세히 보기

참고자료: Cisco, The Agent Trust Gap: What Our Research Reveals About Agentic AI Security (출처: Cisco Blogs, 2026.03.23) 바로가기
RAND, The Root Causes of Failure for Artificial Intelligence Projects and How They Can Succeed (출처: RAND, 2024.08.13) 바로가기
아이온커뮤니케이션즈, MCP 기반 AI 시스템 ‘라토루’ 출시 (출처: 아이티데일리, 2025.07) 바로가기