
【转载•燕京理工数管专业】数管教研室——源1.0技能模型应用实践培训
为积极推进专业建设,提高教研室建设水平。2022年10月23日,燕京理工学院国际商学院大数据管理与应用教研室,举办了一场“源1.0技能模型应用实践”的主题培训。
(主题培训)
培训背景:浪潮信息基于源1.0大模型蒸馏出四个百亿参数的技能模型,在应用于不同领域场景时,技能模型可实现技能专业化、模型轻载化和调用标准化。
在此背景下,本次培训由浪潮信息源1.0高级算法工程师于彤博士,以及浪潮信息算法研究员李峰博士,做出精彩报告。报告内容聚焦于快速构建场景化技能模型,并对内容创作应用上的实战经验进行深入探讨。
(经验讨论)
培训中,首先由浪潮信息源1.0高级算法工程师于彤博士介绍技能模型的开发与应用实例。根据于博士介绍,四个技能模型是在基础的源1.0千亿参数大模型中蒸馏出来,主要包括古文、对话、翻译、问答四个方面。技能模型均为百亿参数模型,更轻量。同时,技能模型开发周期短,计算资源需求少,技术门槛低,无需改变模型结构,在专项榜单上取得业界领先效果。并对古文、对话、翻译、问答四个技能模型做出具体介绍。
(应用实践)
随后,由浪潮信息算法研究员李峰博士介绍源1.0API和Web示例应用开发。李博士通过回顾源1.0的内容,引出源1.0API和Web示例应用开发的内容。根据李博士介绍,源1.0API所有的代码封装集成在API根目录中,在根目录下有两个核心类,为Inspurai.py和url_config.py。Inspurai.py为ai程序以及ai代码的调用相关的一些类和方法,url_config.py为ur地址的提交和ur RESTful API接口相关内容。Inspurai.py下两个最重要的类为Example类和Yuan函数类。其中,Yuan类可以调用url_config.py中Submit request()和Reply request()两个方法。并对源1.0Web示例应用开发工具Sandbox做出介绍。
(工具介绍)
最后,相信此次培训,使数管教研室教师对技能模型的开发与应用实例,以及源1.0API和Web示例应用开发,有了更多认识。