Tag: architecture
All the articles with the tag "architecture".
-
LiteLLM Proxy 폴백 구조를 4단에서 2단으로 줄인 이유
LiteLLM Proxy의 모델 폴백 구조를 4단 캐스케이드에서 2단으로 단순화하고, N개 API 키의 RPM/RPD를 균형 분배한 과정을 정리한다.
-
Go + Python 혼합 마이크로서비스에서 장애 격리 패턴 적용기
이커머스 자동화 플랫폼의 마이크로서비스에 Circuit Breaker, Bulkhead, Dead Letter Queue 등 장애 격리 패턴을 적용한 실전 경험을 공유한다.
-
드롭쉬핑 플랫폼을 마이크로서비스로 설계한 과정
이커머스 자동화 플랫폼을 8개의 마이크로서비스로 분해하고, Go와 Python을 혼합 적용한 아키텍처 설계 과정을 정리한다.
-
도매 API 연동 시 Rate Limit 분산 전략
도매 API의 분당/일일 요청 제한을 효율적으로 관리하기 위한 분산 전략과 재시도 패턴을 정리한다.