Отслеживание использования
Консоль OfoxAI предоставляет комплексную статистику использования и мониторинг производительности.
Статистика использования в реальном времени
Панель обзора
На главной странице консоли отображаются ключевые показатели:
- Всего запросов — общее количество API-вызовов за текущий период
- Всего токенов — общее количество потреблённых prompt + completion токенов
- Общая стоимость — накопленные расходы за текущий период
- Показатель успешности — процент успешных API-запросов
Временные тренды
Поддерживается просмотр трендов по различным временным интервалам:
| Измерение | Описание |
|---|---|
| Реальное время | Последний 1 час, поминутная детализация |
| День | Последние 24 часа, почасовая детализация |
| Неделя | Последние 7 дней, подневная детализация |
| Месяц | Последние 30 дней, подневная детализация |
Многомерный анализ
Анализ по моделям
Просмотр использования по каждой модели:
- Доля запросов
- Доля потребления токенов
- Доля расходов
- Средняя задержка
Анализ по провайдерам
Просмотр производительности узлов каждого провайдера:
- Сравнение показателей успешности
- Распределение задержек
- Частота срабатывания аварийного переключения
Анализ по API Key
Просмотр использования по каждому API Key:
- Объём запросов по каждому ключу
- Расходы по каждому ключу
- Удобное отслеживание затрат по проектам/командам
Оповещения об аномалиях
Правила оповещений
Доступны следующие правила оповещений:
| Тип оповещения | Описание |
|---|---|
| Оповещение об ошибках | Частота ошибок превышает порог (например, 5%) |
| Оповещение о расходах | Дневные/недельные/месячные расходы превышают бюджет |
| Оповещение о задержках | Средняя задержка превышает порог |
| Оповещение о переключениях | Аномально частое срабатывание аварийного переключения |
Каналы уведомлений
Оповещения поддерживают следующие каналы уведомлений:
- Уведомления по электронной почте
- Webhook (интеграция со Slack, Lark, DingTalk и др.)
Правила оповещений настраиваются в консоли: Настройки → Правила оповещений.
Лучшие практики
- Используйте разные API Key для разных проектов — для удобного отслеживания затрат по проектам
- Настройте оповещения о расходах — чтобы избежать неожиданно высоких счетов
- Регулярно проверяйте распределение моделей — убедитесь, что выбор моделей соответствует ожиданиям
- Следите за трендом ошибок — аномальный рост может указывать на проблемы с конфигурацией
Last updated on