사용량 추적
OfoxAI 콘솔은 전방위적인 사용량 통계 및 성능 모니터링을 제공합니다.
실시간 사용량 통계
대시보드
콘솔 메인 페이지에서 핵심 지표를 표시합니다:
- 총 요청 수 — 현재 기간 내 API 호출 총 수
- 총 토큰 수 — 소비된 prompt + completion 토큰 총 수
- 총 비용 — 현재 기간 내 누적 비용
- 성공률 — API 요청 성공률
시간 추이
다양한 시간 차원별로 추세를 확인할 수 있습니다:
| 차원 | 설명 |
|---|---|
| 실시간 | 최근 1시간, 분 단위 |
| 일간 | 최근 24시간, 시간 단위 |
| 주간 | 최근 7일, 일 단위 |
| 월간 | 최근 30일, 일 단위 |
다차원 분석
모델별 분석
각 모델의 사용 현황을 확인합니다:
- 요청 횟수 비율
- 토큰 소비 비율
- 비용 비율
- 평균 지연 시간
공급자별 분석
각 공급자 노드의 성능을 확인합니다:
- 성공률 비교
- 지연 시간 분포
- 장애 복구 트리거 빈도
API Key별 분석
각 API Key의 사용 현황을 확인합니다:
- 각 Key의 요청량
- 각 Key의 비용
- 프로젝트/팀별 비용 추적에 편리
이상 알림
알림 규칙
다음 알림을 설정할 수 있습니다:
| 알림 유형 | 설명 |
|---|---|
| 오류율 알림 | 오류율이 임계값 초과 시 (예: 5%) |
| 비용 알림 | 일/주/월 비용이 예산 초과 시 |
| 지연 시간 알림 | 평균 지연 시간이 임계값 초과 시 |
| 장애 복구 알림 | 장애 복구 트리거 빈도 이상 시 |
알림 채널
알림은 다음 방법으로 전송됩니다:
- 이메일 알림
- Webhook (Slack, Lark, DingTalk 등과 통합 가능)
알림 설정은 콘솔 설정 → 알림 규칙에서 관리합니다.
모범 사례
- 프로젝트별로 다른 API Key 사용 — 프로젝트별 비용 추적에 편리
- 비용 알림 설정 — 예상치 못한 높은 청구서 방지
- 정기적으로 모델 분포 확인 — 모델 선택이 예상과 일치하는지 확인
- 오류율 추세 주시 — 비정상적인 증가는 설정 문제를 의미할 수 있음
Last updated on