Overview of Scenario-Based Solutions
소셜 엔터테인먼트
이커머스 라이브 방송
Audio/Video Call
원거리 실시간 조작
스마트 고객 서비스
AI 인터뷰
스마트 고객 서비스
시나리오에 대한 소개
스마트 음성 고객 서비스는 인공지능과 음성 인식 기술을 활용하여 자동화된 인터랙티브과 문제 해결을 구현하는 고객 서비스 시스템입니다. AI 대형 모듈이 나오기 전에는 스마트 고객 서비스가 주로 자연어 처리와 머신러닝 알고리즘을 사용하여 고객의 의도를 이해하고, 미리 설정된 규칙과 지식 베이스에 의존하여 질문을 답변했습니다. LLM의 발전과 함께 점점 더 많은 스마트 고객 서비스가 대형 모듈의 능력을 통합하고 있으며, LLM 기술은 스마트 음성 고객 서비스가 대화의 맥락을 더 잘 이해하여 일관된 대화 교류를 가능하게 합니다.
RTC 기술의 도입으로 스마트 음성 고객 서비스에 실시간 통신 기능이 추가되었습니다. 이는 스마트 고객 서비스가 고객의 요구에 더 빠르게 대응하고 즉각적인 피드백과 해결책을 제공할 수 있음을 의미합니다. 동시에 Tencent RTC는 다자간 통화, 화면 공유 등의 기능을 지원하여 고객 서비스의 효율성과 수준을 더욱 향상시켰습니다.
구현 방안
일반적으로 완전한 스마트 고객 서비스 시나리오를 구현하려면 Real-Time Communication(RTC), Conversational AI, 대형 언어 모듈(LLM), Text To Speech (TTS) 등 여러 모듈이 필요합니다. 각 모듈의 주요 작업 및 기능 포인트는 다음 표와 같습니다.
기능 | AI 스마트 고객 서비스 시나리오의 적용 |
RTC | 스트리밍 전송 기술은 음성 및 비디오 데이터의 연속성과 안정성을 보장하여 지연과 지터를 줄이고 실제 고객 서비스 통화에 비슷한 고수준의 체험을 제공합니다. 사용자는 실제 상담사와 대화하듯이 스마트 고객 서비스 시스템과 더 자연스러운 대화를 나눌 수 있으며, 이러한 인터랙티브는 사용자 만족도를 크게 향상시킬 수 있습니다. |
Conversational AI | Tencent Conversational AI 솔루션은 고객이 여러 AI 대형 모듈 서비스를 유연하게 접속할 수 있도록 지원하며, AI와 사용자 간의 RTC 인터랙티브를 구현하여 업무 시나리오에 부합하는 Conversational AI 능력을 구축합니다. Tencent Real-Time Communication(Tencent RTC)의 글로벌 저지연 전송을 기반으로 음성 대화 지연 시간이 1초에 불과하며 대화 효과가 자연스럽고 사실적이며, 접속이 간편하고 즉시 사용할 수 있습니다. |
LLM | LLM 기술은 지능형 음성 고객 서비스가 대화의 맥락을 더 잘 이해할 수 있도록 하여 일관된 대화 교류를 가능하게 합니다. LLM은 대화의 의미와 맥락 정보를 포착하고사용자 의도를 인식하며, 이전 대화 내용을 현재 대화 내용과 연결할 수 있습니다. |
TTS | 제3자 TTS 연동을 지원합니다.모듈에 개인화된 학습 데이터를 도입하거나 모듈 매개변수를 조정하여 특정 요구 사항에 부합하는 음성 출력을 생성할 수 있습니다. 지능형 음성 고객 서비스는 사용자의 선호도나 특정 시나리오의 요구에 따라 다양한 음성 스타일을 제공할 수 있습니다. |
솔루션 아키텍처
전제 조건
LLM 준비
Conversational AI는 OpenAI 표준 프로토콜을 준수하는 모든 LLM 모듈을 지원하며, Tencent Cloud Agent Development Platform(ADP), Dify, Coze 등의 LLM 애플리케이션 개발 플랫폼도 지원합니다. 지원되는 플랫폼에 대한 자세한 내용은 LLMConfig 구성 설명을 참조하세요.
RAG의 사용
스마트 고객 서비스 시나리오에서 기업은 자체 지식 컬렉션, 다양한 문서, 질문-답변 자료 등을 업로드해야 하며, 이는 LLM+RAG 강화 검색 기능을 활용해야 합니다. 개발자는 자사 업무 백엔드에서 OpenAI API와 호환되는 대형 모듈 인터페이스를 구현하고 컨텍스트 로직이 캡슐화된 대형 모듈 요청을 제3자 대형 모듈로 전송할 수 있습니다.
주의:
LLM의 RAG 또는 Function Call과 같은 기능을 사용하면 일반적으로 LLM의 첫 번째 Token 처리 시간이 증가하여 AI 응답 지연이 늘어납니다. 지연에 민감한 애플리케이션 시나리오의 경우 RAG 기능 대신 SystemPrompt를 사용하는 것이 좋습니다.
TTS 준비
Tencent 클라우드 TTS의 사용
TTS 음성 합성 기능을 사용하려면 앱의 TTS 서비스를 개통해야 합니다.
APPID는 계정 정보에서 받을 수 있습니다.
SecretId와 SecretKey는 API 키 관리에서 받을 수 있으며, SecretKey는 키 생성 시에만 확인 가능하니 반드시 저장해 두시기 바랍니다.
음색 목록에서 조정 가능한 음색을 확인할 수 있습니다.
타사 또는 커스텀 TTS 사용: 현재 지원되는 TTS 텍스트를 음성으로 변환 구성(TTSConfig)
RTC Engine 준비
주의:
대화형 AI 서비스 개설을 참조하십시오.
접속 단계
AI 면접의 접속 단계를 참조하여 접속할 수 있습니다.
고급 기능
자주 발생한 문제
AI 면접의 자주 발생한 문제를 참조하여 문제를 해결할 수 있습니다.
방안 관련 제품
시스템 계층 | 제품명 | 시나리오 용도 |
접속 계층 | 시간 저지연 및 고수준의 실시간 음성및 영상 인터랙션 솔루션을 제공하며,이것은 음성및 영상 통화 시나리오의 기반 인프라 기능입니다. | |
클라우드 서비스 | AI와 사용자 간의 RTC 인터랙션을 구현하여 업무 시나리오에 부합하는 Conversational AI 능력을 구축합니다. | |
대형 모듈 | 지능형 고객 서비스의 두뇌로서 LLM+RAG, Workflow, Multi-agent 등 다양한 지능형 개발 프레임워크를 제공합니다. | |
데이터 저장 | 오디오 레코딩 파일 및 오디오 슬라이스 파일의 저장 서비스를 제공합니다. |
피드백