
今天分享的是:阿里云:2025年SECon大会-AI原生应用架构专场分享材料PTT(PDF版)
报告共计:130页
2025智能时代软件工程技术大会AI原生应用架构专题总结
2025智能时代软件工程技术大会聚焦AI原生应用架构,多位技术专家围绕AI网关、架构定义、可观测性及开发框架等核心议题展开分享,呈现了AI原生应用落地的关键技术与实践路径。
AI网关作为AI原生架构的核心基础设施,是应对AI应用落地挑战的关键。随着架构从单体、微服务演进至AI原生,多模型集成、安全合规、成本控制等问题凸显,Higress AI网关通过协议转换、Token限流、语义缓存等核心特性,实现了多API Key管理、模型Fallback与高可用部署。其落地实践涵盖LLMs代理、MCP统一代理等场景,通过权限精细化管控、协议卸载与响应调优,解决了存量API转换、工具调用安全等痛点,同时构建了包含边界防御、内容审计的安全体系与全维度可观测体系。
AI原生应用架构呈现全新范式,区别于传统数字化架构的“人主导、机器执行”,实现了“机器思考+执行,人监督”的智能化模式。架构以LLM为核心,整合Agent、Tools、RAG等组件,形成单Agent与多Agent协同模式,通过云原生与AI原生双轮驱动,适配手机、IOT等多终端场景。中间件层面,Nacos 3.1提供AI注册配置能力,RocketMQ实现高效异步通信,为分布式Multi-Agent系统提供支撑,同时低代码、高代码、零代码三种开发范式满足不同场景需求。
展开剩余78%可观测性与评估是AI原生应用规模化落地的保障。阿里云全栈可观测解决方案基于OpenTelemetry等开源标准,覆盖日志、指标、Trace等数据采集,通过向量检索与语义分析实现调用链深度挖掘。LLM Judger评估体系通过数据工程、多维度评估方法与模型优化,解决了大规模Agent质量评估难题,结合分层采样与黄金数据集建设,实现从全量巡检到根因诊断的闭环管理。
AgentScope 1.0框架则聚焦智能体开发与部署痛点,以ReAct范式为核心,实现错误可纠正、信息可观察、组件可控制的Agentic能力,通过Tool Sandbox保障工具调用安全,AgentScope Studio与Runtime简化开发部署流程,内置Meta Planner、Deep Research等智能体,支持多场景应用快速落地。
整体来看,AI原生应用架构正朝着自主化、可控化、规模化方向发展,AI网关、可观测评估体系与专用开发框架构成三大核心支柱,推动AI从试点走向企业级规模化应用。
以下为报告节选内容
发布于:广东省创牛配资提示:文章来自网络,不代表本站观点。