T/IQA 12-2021 智能微服务适配框架

内容简介

本文件规定了利用容器技术将人工智能模型封装为智能微服务，形成智能微服务组合，进而整合成规范的智能业务的接口定义、部署策略和流程组合的框架
本文件适用于人工智能领域智能微服务产品和应用的研发、运维和使用
本文件适用于人工智能领域智能服务产品和应用的研发、运维和使用。主要实际内容是1）规范接口定义：将AI模型和算法利用容器技术封装成智能微服务，并规范智能微服务组件的各接口定义；2）规范部署策略：规范多个智能微服务组件在组合部署过程中的策略配置及对应的优化方法；3）规范流程组合：将组合好的微服务整合成完整的规范的智能业务流程，服务于现代服务业，实现更好的管理维护。智能服务适配框架应支持将来自不同AI模型库，具有不同编译和运行环境的AI模型，封装成为智能微服务，并在开放的智能服务环境中，集成组合异构智能服务模型，形成智能化的服务流程，同时实现持续集成和持续部署（CICD）。微服务适配框架应支持业界主流的AI算法，主流的机器学习模型以及主流的机器学习引擎，并支持根据实际的业务需要和用户的实际习惯，提供分析、开发和交互接口和开发文档支持等功能。同时各模块间的接口应遵循业界常见的架构和协议，兼容主流开源框架的接口。