Tag: architecture

All the articles with the tag "architecture".

• 해결 방법이 셋이라 골라야 했다

  4 Apr, 2026 (수정됨)

  외부 API 실패에 대응하는 방법이 셋 나왔을 때 무엇을 기준으로 고를지 정하고, 결국 선택이 아니라 순서 문제였다는 것을 확인한 과정을 정리한다.

• 경보가 울리지 않는 실패

  29 Mar, 2026 (수정됨)

  몇 년간 수백 회 반복된 실패가 화면에는 정상으로만 보였던 건을 계기로, 실패가 신호를 내지 않는 구조들과 감시 대상을 무엇으로 잡아야 하는지 정리한다.

• LiteLLM Proxy 폴백 구조를 4단에서 2단으로 줄인 이유

  20 Mar, 2026

  LiteLLM Proxy의 모델 폴백 구조를 4단 캐스케이드에서 2단으로 단순화하고, N개 API 키의 RPM/RPD를 균형 분배한 과정을 정리한다.

• 오류의 시작 시각과 멈춘 시각

  1 Mar, 2026 (수정됨)

  예외는 하루 넘게 전부터 있었는데 처리가 멈춘 것은 다음 날 오후였던 건에서, 원인 시각과 장애 시각을 따로 재야 전환점이 보인다는 것을 정리한다.

• 한 건이 실패하면 배치 전체가 죽는 구조

  26 Jan, 2026 (수정됨)

  백 건 가까이 처리하는 배치가 한 건의 예외로 멈춘 건을 계기로, 실패를 항목 단위로 격리하는 방식과 격리하면 안 되는 자리를 가르는 기준을 정리한다.

• Go + Python 혼합 마이크로서비스에서 장애 격리 패턴 적용기

  20 Jan, 2026

  이커머스 자동화 플랫폼의 마이크로서비스에 Circuit Breaker, Bulkhead, Dead Letter Queue 등 장애 격리 패턴을 적용한 실전 경험을 공유한다.

• 드롭쉬핑 플랫폼을 마이크로서비스로 설계한 과정

  17 Jan, 2026

  이커머스 자동화 플랫폼을 8개의 마이크로서비스로 분해하고, Go와 Python을 혼합 적용한 아키텍처 설계 과정을 정리한다.

• 도매 API 연동 시 Rate Limit 분산 전략

  17 Jan, 2026

  도매 API의 분당/일일 요청 제한을 효율적으로 관리하기 위한 분산 전략과 재시도 패턴을 정리한다.