Home · AI Service · 생성형 AI 기반 서비스 개발 및 고도화

생성형 AI 기반 서비스 개발 및 고도화

LLM · RAG · 대화형 AI · AI Agent 기반으로 공공/엔터프라이즈 업무에 즉시 적용 가능한 생성형 서비스 아키텍처를 설계·구축·고도화합니다.

멀티-LLM 보안/감사

서비스 개요

  • LLM, RAG, 대화형 AI, AI Agent 등 최신 생성형 기술 적용 사업 중심
  • 공공기관 대상 AI 서비스화 및 내부 행정 지원까지 확대
수행 이력: 경기 생성형 AI 플랫폼 구축, 국방 행정분야 생성형 AI 서비스 개발 및 실증, 2025 초거대AI 확산 생태계 조성(금융 상담 등), 국회 AI국회 1단계 구축

레퍼런스 아키텍처 (RAG + 에이전트 + MCP/A2A)

채널 Web · Chat · APISSO/OIDC · Rate Limit 오케스트레이션/에이전트 Prompt Router · GuardrailLangGraph · Tool/MCP RAG 레이어 Embedding · Vector DBHybrid/BM25 · Re-rank LLM 런타임 Open(Cloud) / Closed(On-Prem)엔진 교체 · 라우팅 MCP 서버 표준 툴 인터페이스RBAC/ABAC · 감사 비즈니스 데이터/지식 문서 파이프라인 · 청킹/메타데이터캐시 · 품질평가(골든셋) A2A 커넥터 ERP/DW/메일/메신저/ESBREST/gRPC/DB · 정책필터 Observability & MLOps OTel · Prom/Grafana · Canary/AB · 로깅/트레이스 · 모델/Eval 버저닝
채널/보안 오케스트레이터/에이전트 RAG LLM 런타임 MCP A2A Observability & MLOps

기술 스택

LLM 실행클라우드 API(OpenAI/Google/Anthropic 등) 또는 온프레미스(vLLM, TGI, Triton), 엔진 교체/모델 라우팅
RAG/검색Embedding(E5, bge 등), Vector DB(Milvus/pgvector/Weaviate), Hybrid 검색(BM25+ANN), Fusion·Re-ranking
오케스트레이션LangGraph/Agent, MCP(Server/Client), A2A(REST/gRPC/DB/ESB), 가드레일(프롬프트·툴 정책)
옵저버빌리티OpenTelemetry, Prometheus/Grafana, 대화 로그/트레이스/메트릭, 피드백 루프
보안SSO/OIDC, RBAC/ABAC, Vault/KMS, PII 마스킹/토큰화, 전 구간 감사
클라이언트웹(React/Next), 챗 위젯, 업무포털 연동

공공 부문 레퍼런스(요약)

  • 경기 생성형 AI 플랫폼 구축, 국방 행정분야 생성형 AI 서비스 개발 및 실증
  • 2025 초거대AI 확산 생태계 조성(금융 상담 등), 국회 AI국회 1단계 구축
※ 기관 보안/계약상 공개 가능한 범위의 요약이며, 상세 성과 및 정량 지표는 제안 요청 시 제공 가능합니다.
Home 으로이동