수십 년째 네트워크 산업의 최강자이자 안정적인 재무구조로 유명한 시스코(Cisco )는 생성형 인공지능 시대에 어떤 방식으로 적응하고 있을까요? 이번 포스트에서는 LangChain Interrupt 컨퍼런스에서 시스코 수석 아키텍트인 칼로스 페레이라가 발표한 ‘AI 기반의 네트워크 지원업무 자동화’ 성공사례 발표 내용을 정리했습니다.
- 랭체인 인터럽트 컨퍼런스 | 시스코가 180만 건의 네트워크 기술지원 업무의 60%를 생성형 인공지능으로 자동화한 비법
- 원제: LangChain Interrupt | How Cisco Automated 60% of 1.8 Million Support Cases
- 발표자: 칼로스 페레이라(Carlos Pereira) / 시스코 펠로우, 수석 아키텍트
이번 포스트의 핵심 내용
- Cisco(2024 연매출 560억달러)의 AI 유스 케이스 검증용 3대 기준프레임워크
- 기본 LLM의 예측력이 낮은 이유, 그리고 ML 모델과 결합하여 엔터프라이즈 레벨로 예측 정확도를 높이는 방법
- 전문상담원 간의 복잡한 고객문의를 분해하는 “감독자 접근방식(supervisor approach)”
- 온프레미스, 클라우드, 하이브리드 환경에서의 실제 프로덕션 배포 전략
- 글로벌 엔터프라이즈 레벨의 AI 기반 서비스 구현 시 발생할 수 있는 중대한 실수와 이를 피하는 방법
📘 1. 시스코 고객 경험 혁신 개요
- Cisco 규모: 매출 560억 달러 이상, 그 중 260억 달러 이상이 반복 수익
- 목표: 고객의 제품/서비스 투자 가치 극대화
- 전략 프레임워크: Land → Adopt → Expand → Renew
🤖 2. Agentic AI 기반 CX 전환
- CX 혁신 비전: Hyper-personalized, Predictive, Proactive
- 활용 기술:
- ML: 예측
- LLM: 언어 이해
- Agentic AI: 워크플로우 실행
- 핵심 키워드: Multi-agent, Supervisor, Sentiment, Context
🧠 3. 인간과 AI의 협업 구조
- 조직 구성:
- Adoption/Support/Renew 전담 팀
- 2만 명 이상의 CX 조직
- AI의 역할:
- 사람의 결정을 돕는 도구
- 운영 효율화 및 위험 완화
🔧 4. 활용 사례 중심 접근법
- Chatbot 대신 ‘사용자 가치 중심’ Use Case 정의
- 3대 기준:
- 고객 가치 즉시 제공
- 운영 효율 향상
- 라이프사이클 전반의 인사이트 확보
⚙️ 5. 다양한 배포 환경을 위한 설계
- 배포 모델:
- 온프레미스 (예: 물리 서버)
- 클라우드 / 하이브리드
- 적용 고객: 연방정부, 헬스케어, 유럽 B2B 등 규제 준수 필수
🧩 6. 모델 선택 및 커스터마이징
- 모델 사용:
- Sonnet 3.7, GPT-4.1~GPT-4o
- Mistral 기반 커스텀 모델
- 기술 통합:
- LangChain 기반 Agentic 구조
- 온프레미스/클라우드 동일 환경에서 운영
📈 7. Renew 에이전트 운영 사례
- 문제: 수많은 대시보드와 툴 탐색으로 업무 낭비
- 효과:
- Renew 담당자의 업무시간 20% 절감 (3주 내)
- 95% 이상의 리스크 예측 정확도
- 실행 구조: 다중 Agent + Supervisor + 실시간 Sentiment
🛠️ 8. 에이전틱 워크플로우 실제 동작 방식
- Supervised Agent 구조:
- NLP → Renew Agent → Adoption/Delivery Agent 호출
- 결과:
- 멀티모델 활용 (ML + LLM)
- 고객 맞춤형 실시간 분석 및 대응
🔄 9. CX 전체 워크플로우 자동화
- 자동화 범위:
- 연 180만 건 이상 케이스 중 60% 완전 자동화
- 기술지원 Virtual Agent가 문제 해결 유도
- 성과:
- 빠른 이슈 감지
- 고객 불만 사전 방지
📊 10. 실시간 감정 및 상황 분석
- Sentiment 분석:
- 제품 만족/불만 여부 파악
- 경쟁사 유입 원인 분석
- 다양한 신호 분석:
- 사용 제품, 계약 기간, 경쟁 상황 등
🧪 11. 실험과 운영의 병행
- 3트랙 운영:
- 실험 (PoC)
- 제한적 운영 (Limited Availability)
- 완전 배포 (Production)
- 성공 전략:
- 실험 전용팀 구성
- 평가 전담팀 분리 운영
🧭 12. 핵심 교훈과 향후 방향
- 교훈:
- Use Case와 Metric을 먼저 정의하라
- SQL과 LLM은 분리 운용
- LangChain + LangGraph + Supervisor로 강력한 에이전틱 AI 구현
- 오픈소스 프로젝트:
Agency아키텍처 공개 (에이전트 디렉터리, 인증 등 포함)
랭체인 인터럽트 컨퍼런스 | 시스코가 180만 건의 네트워크 기술지원 업무의 60%를 생성형 인공지능으로 자동화한 비법 (LangChain Interrupt / How Cisco Automated 60% of 1.8 Million Support Cases)
발표자: 칼로스 페레이라(Carlos Pereira) / 시스코 펠로우, 수석 아키텍트
끝 / 감사합니다. / 넥스트플랫폼 (naebon@naver.com)
