13. Spring AI 的观测性

13. Spring AI 的观测性

@
目录

• 13. Spring AI 的观测性
  
  
  
  • 观测性
    
    
    
    • 为什么Spring AI应用急需可观测性？
      
      
      
      • AI服务成本失控的痛点
        
      • Spring AI可观测性的价值
        
      
      
    • 实战演练：构建可观测的Spring AI翻译应用
      
      
      
      • 第一步：Spring AI项目初始化
        
      • 第二步：Spring AI客户端配置
        
      • 第三步：构建Spring AI翻译服务
        
      • 第四步：Spring AI翻译API测试
        
      
      
    • Spring AI监控指标深度解析
      
      
      
      • 核心指标1：Spring AI操作性能监控
        
      • 核心指标2：Spring AI Token使用量精准追踪
        
      
      
    
    
  
  
• 最后：
  

观测性

为什么Spring AI应用急需可观测性？

AI服务成本失控的痛点

在企业级AI应用中，使用DeepSeek、OpenAI、Google Gemini或Azure OpenAI等服务时，成本控制是一个严峻挑战：

• Token消耗不透明：无法精确了解每次AI调用的成本
  
• 费用增长失控：大规模应用中，AI服务费用可能呈指数级增长
  
• 性能瓶颈难定位：AI调用链路复杂，问题排查困难
  
• 资源使用不合理：缺乏数据支撑的优化决策
  

Spring AI可观测性的价值

Spring AI的可观测性功能为这些痛点提供了完美解决方案：

• ✅精准Token监控：实时追踪输入/输出Token消耗，精确到每次调用
  
• ✅智能成本控制：基于使用统计制定成本优化策略
  
• ✅深度性能分析：识别AI调用瓶颈，优化响应时间
  
• ✅完整链路追踪：端到端记录请求在Spring AI应用中的完整流转
  

实战演练：构建可观测的Spring AI翻译应用

第一步：Spring AI项目初始化

在start.spring.io[1]创建Spring Boot项目，集成Spring AI核心依赖：
Maven依赖配置（Spring AI BOM管理）：

1. <dependency>
2.   <groupId>com.alibaba.cloud.ai</groupId>
3.   spring-ai-alibaba-starter-dashscope</artifactId>
4. </dependency>
6. <dependency>
7.   <groupId>org.springframework.boot</groupId>
8.   spring-boot-starter-actuator</artifactId>
9. </dependency>
11. <dependency>
12.   <groupId>org.springframework.boot</groupId>
13.   spring-boot-starter-web</artifactId>
14. </dependency>

复制代码

第二步：Spring AI客户端配置

主应用类配置：

1. @SpringBootApplication
2. publicclassSpringAiTranslationApplication {
4.     publicstaticvoidmain(String[] args) {
5.         SpringApplication.run(SpringAiTranslationApplication.class, args);
6.     }
8.     @Bean
9.     public ChatClient chatClient(ChatClient.Builder builder) {
10.         return builder.build();
11.     }
12. }

复制代码

Spring AI配置文件：

1. # Spring AI 可观测性配置
2. management:
3. endpoints:
4.     web:
5.       exposure:
6.         include:"*"
7. endpoint:
8.     health:
9.       show-details:always
10. metrics:
11.     export:
12.       prometheus:
13.         enabled:true
15. spring:
16. threads:
17.     virtual:
18.       enabled:true
19. ai:
20.     deepseek:
21.       api-key:${DEEPSEEK_API_KEY}
22.       chat:
23.         options:
24.           model:deepseek-chat
25.           temperature: 0.8

复制代码

环境变量设置：
export DEEPSEEK_API_KEY=your-deepseek-api-key
第三步：构建Spring AI翻译服务

智能翻译控制器：

1. @RestController
2. @RequestMapping("/api/v1")
3. @RequiredArgsConstructor
4. @Slf4j
5. public class SpringAiTranslationController {
7.     private final ChatModel chatModel;
9.     @PostMapping("/translate")
10.     public TranslationResponse translate(@RequestBody TranslationRequest request) {
12.         log.info("Spring AI翻译请求: {} -> {}", request.getSourceLanguage(), request.getTargetLanguage());
13.         
14.         String prompt= String.format(
15.                 "作为专业翻译助手，请将以下%s文本翻译成%s，保持原文的语气和风格：\n%s",
16.                 request.getSourceLanguage(),
17.                 request.getTargetLanguage(),
18.                 request.getText()
19.         );
21.         String translatedText= chatModel.call(prompt);
22.         
23.         return TranslationResponse.builder()
24.                 .originalText(request.getText())
25.                 .translatedText(translatedText)
26.                 .sourceLanguage(request.getSourceLanguage())
27.                 .targetLanguage(request.getTargetLanguage())
28.                 .timestamp(System.currentTimeMillis())
29.                 .build();
30.     }
31. }
33. @Data
34. @NoArgsConstructor
35. @AllArgsConstructor
36. @Builder
37. class TranslationRequest {
38.     private String text;
39.     private String sourceLanguage;
40.     private String targetLanguage;
41. }
43. @Data
44. @NoArgsConstructor
45. @AllArgsConstructor
46. @Builder
47. class TranslationResponse {
48.     private String originalText;
49.     private String translatedText;
50.     private String sourceLanguage;
51.     private String targetLanguage;
52.     private Long timestamp;
53. }

复制代码

第四步：Spring AI翻译API测试

1. curl -X POST http://localhost:8080/api/v1/translate  
2. -H "Content-Type: application/json"  
3. -d '{
4.   "text": "Spring AI makes AI integration incredibly simple and powerful",
5.   "sourceLanguage": "英语",
6.   "targetLanguage": "中文"
7. }'
9. # 响应示例
10. {
11.   "originalText": "Spring AI makes AI integration incredibly simple and powerful",
12.   "translatedText": "Spring AI让AI集成变得极其简单而强大",
13.   "sourceLanguage": "英语",
14.   "targetLanguage": "中文",
15.   "timestamp": 1704067200000
16. }

复制代码

Spring AI监控指标深度解析

核心指标1：Spring AI操作性能监控

指标端点：/actuator/metrics/spring.ai.chat.client

1. {
2.   "name":"spring.ai.chat.client.operation",
3.   "description":"Spring AI ChatClient操作性能指标",
4.   "baseUnit":"seconds",
5.   "measurements":[
6.     {
7.       "statistic":"COUNT",
8.       "value":15
9.     },
10.     {
11.       "statistic":"TOTAL_TIME",
12.       "value":8.456780293
13.     },
14.     {
15.       "statistic":"MAX",
16.       "value":2.123904083
17.     }
18.   ],
19.   "availableTags":[
20.     {
21.       "tag":"gen_ai.operation.name",
22.       "values":["framework"]
23.     },
24.     {
25.       "tag":"spring.ai.kind",
26.       "values":["chat_client"]
27.     }
28.   ]
29. }

复制代码

业务价值：

• 监控Spring AI翻译服务调用频次
  
• 分析Spring AI响应时间分布
  
• 识别Spring AI性能瓶颈
  

核心指标2：Spring AI Token使用量精准追踪

指标端点 /actuator/metrics/gen_ai.client.token.usage

1. {
2.   "name":"gen_ai.client.token.usage",
3.   "description":"Spring AI Token使用量统计",
4.   "measurements":[
5.     {
6.       "statistic":"COUNT",
7.       "value":1250
8.     }
9.   ],
10.   "availableTags":[
11.     {
12.       "tag":"gen_ai.response.model",
13.       "values":["deepseek-chat"]
14.     },
15.     {
16.       "tag":"gen_ai.request.model",
17.       "values":["deepseek-chat"]
18.     },
19.     {
20.       "tag":"gen_ai.token.type",
21.       "values":[
22.         "output",
23.         "input",
24.         "total"
25.       ]
26.     }
27.   ]
28. }

复制代码

成本控制价值：

• 精确计算Spring AI服务成本
  
• 优化Prompt设计降低Token消耗
  
• 制定基于使用量的预算策略
  

最后：

“在这个最后的篇章中，我要表达我对每一位读者的感激之情。你们的关注和回复是我创作的动力源泉，我从你们身上吸取了无尽的灵感与勇气。我会将你们的鼓励留在心底，继续在其他的领域奋斗。感谢你们，我们总会在某个时刻再次相遇。”

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！