9月26日至28日,数禾科技亮相世界级盛会KubeCon+CloudNativeCon+OpenSourceSummitChina2023。在这场技术盛会上,数禾科技团队成员就“数禾使用Knative加速AI模型服务部署实践”主题展开了分享。
使用Knative加速AI模型服务
Knative是基于Kubernetes之上提供的一款开源Serverless应用框架,目标打造企业级Serverless应用平台。根据2020CNCF云原生调查报告,Knative已成为开源自建Serverless平台首选。随着2022年3月2日加入到CNCF,越来越多的开发者拥抱Knative。阿里云容器服务从Knative早期版本开始产品化集成,持续跟进Knative社区功能迭代,并与容器服务ACK、消息、存储、网络等云产品进行了全方位的融合,提供了生产级别的Knative能力。
数禾科技是业界最早使用阿里云容器服务的专业机构之一,数禾科技使用阿里云容器服务Knative和弹性节点配合部署,在保证线上模型应对突发流量的稳定性大幅提升的同时,又使资源利用效率获得了显著的提高,极大的节约了资源成本。
网友评论