▲ 홈서버 구성도
외부 서비스 존의 서비스는 서비스 GW 통해 운영됩니다.
외부 서비스는 WAF와 CDN에 의해 보호됩니다.
내부 서비스는 WAF에 의해 보호되며 외부 접속이 불가능하도록 조치되어있습니다.
가상화 솔루션은 하이퍼바이저 타입1 Proxmox 사용합니다.
GPU 패스스루 하여 Rerank 모델 돌리고 있으며 임베딩, vLLm 전부 다른 네트워크에 있습니다.
NMS는 Zabbix 사용중이며, 방화벽 및 서버 로그를 Wazuh 사용해 수집합니다.
▲ 홈서버 로그 수집
방화벽 등의 장비 로그를 필터링 하여 Alert로 모니터링 합니다.
▲ 홈서버 SIEM 보안 모니터링
구성도가 간략화 버전 역시 복잡한 편으로 서비스 테스트시 라우팅 설정을 확인해야 합니다.
예시로 가상화2의 내부 서비스에 AI 추론 서비스 올릴 경우
R2 -> R3 -> vLLm서버/임베딩 서버, R1 -> FW -> 리랭크 모델 서버로 라우팅 하고
만약 외부 서비스라면 추가로 서비스GW에서 WAF 까지 라우팅 해야 합니다.
(웹방화벽이 프록시 방식으로 작동하므로 외부서비스까지 직접적으로 라우팅될 필요는 없음)