제품 목록으로

엔터프라이즈 AI 게이트웨이

멀티 LLM 통합 관리 플랫폼

OpenAI·Anthropic·Google 등 여러 LLM을 하나의 게이트웨이로 통합해, 부서마다 흩어진 AI 사용을 한 곳에서 통제하는 기업용 플랫폼입니다. 관리자는 한 번의 예산 배정으로 전체를 관리하고, 사용자는 모델마다 따로 가입·결제할 필요 없이 배정된 사용량 안에서 원하는 모델을 씁니다. 보안 전문 기업 서브소프트가 설계해 개인정보·자격증명 탐지, 감사 로그, 반복 질의 캐시를 통한 비용 절감까지 기본으로 제공합니다.

최종 업데이트:

WHY

부서마다 제각각 쓰는 생성형 AI, 통제가 안 됩니다

생성형 AI를 부서별로 도입하다 보면 얼마 지나지 않아 팀마다 다른 서비스를 쓰게 됩니다. 개발팀은 Claude, 마케팅팀은 회사 카드로 결제된 개인 ChatGPT Plus 계정, 어떤 팀은 Gemini — 회사는 누가 어떤 모델에 얼마를 쓰는지, 어떤 정보가 오갔는지 알 방법이 없습니다. 개인정보나 사내 접속 정보가 프롬프트에 그대로 들어가도 막을 장치가 없고, 사고가 나도 감사 로그가 없어 원인을 추적할 수 없습니다.

HOW

여러 모델을 한 곳으로 모으면 통제할 수 있습니다

여러 LLM을 각자 쓰게 두는 대신, 하나의 게이트웨이를 거치도록 만드는 것이 핵심입니다. 모든 요청이 한 곳을 지나가면 그 지점에서 개인정보를 탐지하고, 사용량과 비용을 제한하고, 누가 언제 무엇을 물었는지 기록할 수 있습니다. 관리자는 모델마다 따로 결제·가입하고 사용량을 각각 관리하는 대신, 한 번의 예산 배정으로 전체를 운영합니다. 사용자는 배정된 사용량 안에서 원하는 모델을 그대로 쓰면 되고, 회사는 전체를 한눈에 통제할 수 있는 구조입니다.

SUVSOFT

㈜서브소프트의 엔터프라이즈 AI 게이트웨이는?

서브소프트는 2011년부터 모바일 보안(독일 AV-TEST 인증)과 이메일 보안(Mail AI)을 만들어온 보안 전문 기업입니다. 이 게이트웨이의 개인정보·자격증명 탐지는 새로 만든 기능이 아니라 Mail AI에서 다져온 탐지 로직을 그대로 옮겨온 것입니다. 라우팅과 비용 관리에서 시작해 보안을 나중에 붙이는 범용 AI 게이트웨이와 달리, 저희는 보안이 먼저였고 그 위에 AI 라우팅을 얹었습니다. 대화 이력과 감사 로그는 고객사 인프라에 그대로 남습니다.

주요 기능

결제·관리 한 번으로 끝

관리자가 한 번 예산을 배정하면, 사용자는 모델마다 따로 가입하거나 결제할 필요 없이 배정된 사용량 안에서 원하는 모델을 자유롭게 씁니다. 여러 모델의 결제·한도를 각각 관리하는 수고가 없어집니다.

멀티 LLM 통합

OpenAI·Anthropic·Google·Perplexity 등을 하나의 창구에서 선택하고, 최대 3개 모델을 동시에 비교합니다. Claude Code, openai SDK 같은 기존 개발 도구도 OpenAI 호환 API로 그대로 연결됩니다.

실측 사례 비용 48% 절감

반복되는 지침은 제공사 캐시로 재사용해 토큰 소모 자체를 줄입니다. 같은 긴 프롬프트를 두 번 호출했을 때 두 번째 요청에서 캐시가 적중해 비용이 48% 줄어든 사례를 실측했습니다. 절감액은 대시보드에 그대로 표시됩니다.

보안 기업이 만든 탐지 엔진

주민등록번호·계좌번호 같은 개인정보뿐 아니라 AWS 키·비밀번호가 적힌 문서까지 탐지합니다. 엑셀·CSV처럼 일부만 가릴 수 없는 파일은 통째로 차단합니다.

전문검색 감사 로그 + 승인제 커넥터

누가 언제 무엇을 물었는지 전 기간 검색할 수 있고, 외부 MCP 도구는 관리자 승인을 거쳐야 회사 전체 대화에 노출됩니다.

기술 사양

모델 연동

지원 제공사
OpenAI · Anthropic · Google · Perplexity 등, 계속 추가됨
연동 방식
OpenAI 호환 API — Claude Code, openai SDK 등 기존 도구가 그대로 연결
동시 비교
최대 3개 모델 동시 응답 비교
비용 절감
반복 지침은 제공자 캐시로 재사용 (실측 사례 48% 절감)

거버넌스·비용

조직 구조
기업 > 부서 > 사용자 3계층 권한
사용량 제한
분당·일간 요청 한도, 일간·월간 예산, IP별 쿼터 포함
앱 전용 키
허용 모델·월 예산·허용 IP·만료일을 키마다 설정, 위반 시 즉시 차단
크레딧
예산 초과 시 관리자가 크레딧 지급 (카드 결제 연동은 준비 중)

보안·감사

탐지 정책
개인정보(주민번호·계좌·전화 등)·자격증명(AWS 키·비밀번호 기재)·문서 등급(대외비/기밀) 탐지 후 표시·마스킹·차단, 표 파일은 통째로 차단
키 보관
제공사 API 키·접속정보는 암호화해 저장
감사 로그
전문검색 가능. 차단 사유까지 기록
접근 통제
2단계 인증(표준 OTP 앱 호환), 로그인 허용 IP, 세션 만료, 외부 MCP 도구는 관리자 승인 후에만 노출

도입 절차

  1. 1

    요구 파악

    어떤 부서가 어떤 모델을 얼마나 쓰는지, 어떤 개인정보 정책이 필요한지 확인합니다.

  2. 2

    인프라 구축

    고객사 서버(온프레미스 또는 사설 클라우드)에 게이트웨이를 설치합니다.

  3. 3

    모델·정책 연동

    사용할 LLM 제공사 키를 등록하고, 부서별 예산·개인정보 정책을 설정합니다.

  4. 4

    PoC

    실제 업무 질의로 비용·정확도·개인정보 탐지가 의도대로 동작하는지 확인합니다.

  5. 5

    전사 확대

    계정을 발급하고, 감사 로그·비용 대시보드로 운영 체제로 전환합니다.

이렇게 씁니다

IT·개발팀

사내 스크립트에서 여러 모델 API를 안전하게 호출

Claude Code, openai SDK 같은 기존 도구를 그대로 쓰면서, 앱 전용 키로 허용 모델·예산·접속 IP를 제한합니다. 어긴 요청은 즉시 거절됩니다.

경영지원

부서별 AI 사용 비용을 예산으로 통제

부서마다 월 예산을 정해두고, 초과분은 개인 크레딧으로 넘어가 무분별한 사용을 막습니다.

정보보안

프롬프트에 실수로 들어간 개인정보·자격증명 차단

주민등록번호나 계좌번호뿐 아니라 AWS 키처럼 생긴 문자열이 섞여도, 외부 모델로 전송되기 전에 자동으로 막거나 마스킹합니다.

감사·컴플라이언스

AI 사용 이력을 사고 조사에 활용

누가 언제 어떤 모델에 무엇을 물었는지, 차단된 요청과 그 사유까지 전문검색으로 확인합니다.

자주 묻는 질문

온프레미스 sLLM은 인터넷과 분리된 환경에서 동작하는 하나의 전용 모델입니다. 엔터프라이즈 AI 게이트웨이는 그 위에서 여러 모델(외부 API + 온프레미스 모델)을 함께 연결·통제하는 관리 계층입니다. sLLM을 게이트웨이에 하나의 모델로 등록해 함께 쓸 수도 있습니다.

선택한 모델이 외부 API라면 해당 요청은 그 제공사로 전송됩니다. 다만 전송 전에 개인정보 탐지 정책을 거쳐 주민등록번호·계좌번호 등은 차단하거나 마스킹할 수 있습니다. 외부로 나가면 안 되는 업무는 온프레미스 모델로 라우팅하도록 구성합니다.

저희는 모바일 보안(AV-TEST 인증)과 이메일 보안(Mail AI)을 먼저 만든 보안 전문 기업입니다. 이 게이트웨이의 개인정보·자격증명 탐지는 그 경험을 그대로 옮긴 것이라, 라우팅 도구에 개인정보 필터를 나중에 붙인 제품들과는 설계 순서가 다릅니다.

데모 페이지는 아직 준비 중입니다. 지금은 문의를 주시면 먼저 안내해 드리고, 준비가 끝나는 대로 이 페이지에 데모 링크를 연결할 예정입니다.

반복되는 시스템 지침·프로젝트 지시문을 제공자 캐시로 재사용합니다. 같은 긴 프롬프트를 두 번째 호출했을 때 캐시가 적중해 비용이 48% 줄어든 사례를 실측했습니다. 매번 이 정도가 보장되는 것은 아니지만, 반복 질의가 많은 조직일수록 절감 폭이 커집니다.

주민등록번호·카드번호·계좌번호·전화번호·이메일·주소 등 한국형 패턴을 프롬프트와 첨부 파일 양쪽에서 탐지합니다. AWS 키나 비밀번호가 적힌 문서 같은 자격증명, 대외비·기밀 등급 문서도 함께 판정합니다. 발견 시 차단·마스킹·허용 중 조직 정책에 맞게 설정할 수 있고, 엑셀·CSV처럼 일부만 가릴 수 없는 파일은 통째로 차단합니다.

네. OpenAI 호환 API를 제공하므로 접속 주소와 키만 바꾸면 Claude Code, openai SDK 같은 기존 도구를 그대로 연결할 수 있습니다. 이 경로로 들어온 요청에도 동일한 사용량 제한·개인정보 정책·감사 로그가 적용됩니다.

고객사 인프라(온프레미스 또는 사설 클라우드)에 직접 구축하는 방식입니다. 컨테이너 기반이라 이전·백업이 간단하고, 대화 이력과 감사 로그가 고객사 환경에 남습니다.

관리자가 개인 크레딧을 지급해 계속 쓸 수 있습니다. 카드로 직접 결제하는 방식은 준비 중입니다.

아닙니다. 관리자가 한 번 예산을 배정해두면, 사용자는 OpenAI·Anthropic·Google 등 어떤 모델을 쓰든 개별로 가입하거나 결제할 필요가 없습니다. 배정된 사용량 안에서 자유롭게 쓰고, 관리자는 대시보드 하나로 전체 사용량과 비용을 확인합니다.

인프라 준비 상태와 연동할 모델·정책 범위에 따라 달라집니다. 한 부서를 대상으로 한 소규모 PoC로 시작해 사용량·비용·개인정보 탐지가 의도대로 동작하는지 확인한 뒤 단계적으로 확대하는 방식을 권장합니다.

엔터프라이즈 AI 게이트웨이 도입이 궁금하신가요?

간단한 정보만 남겨주시면 담당자가 빠르게 연락드립니다.