近日,第八届瑞芯微开发者大会(RKDC2024)期间,基于大模型的星光麒麟端侧AI应用“星语对话”首次亮相。“星语对话”目前已完成技术路线验证并在RK3588上成功部署,可向端侧用户提供本地化生成式人工智能(AIGC)能力。
在软件技术分论坛上,麒麟软件专题分享了星光麒麟云边端的AI框架。目前,除了布局端侧AI大模型,星光麒麟AI框架还在不断提升云边端灵活协同的能力,提出了面向万物智联操作系统的云边端AI架构。
在端侧,“星语对话”已具备智能问答、逻辑生成和多语言等能力。在智能问答方面,能够模拟人与人之间的对话过程。当用户提出问题时,系统通过自然语言处理(NLP)理解问题,然后检索或推理相关信息,并将答案转化为自然语言回复用户。
在逻辑生成方面,通过数据清洗和数据预处理,基于模型训练自动调整权重和参数,最大程度地减少生成结果与真实文本之间的损失。在生成文本时,根据输入信息和已学习到的语言规律进行逻辑推理,识别和应用适当的逻辑规则,以更准确、合理且连贯地生成文本。
网友评论