浙江电信：轻量化AI开发建模平台大模型应用实践

【项目背景】

浙江电信网络部门亟需在开发大模型智能应用方面提高模型的管理能力、上架和再训练能力，以及智能化应用开发训练效率的能力。浩鲸科技以成熟的大模型应用产品助力浙江电信各个业务单元和多种业务场景，基于AI智能标注、自助建模来实现低门槛、高效率支撑大规模建模和模型应用的，解决算法人力无法支撑爆发式增长的AI场景痛点问题。

【项目亮点】

自助学习建模方式，支撑AI场景应用的快速落地：自助学习建模不同于高代码建模方式，它提供可视化流程操作界面，大大减少建模难度和提高建模效率

AI创新-能力私有化，保护模型脚本知识产权：通过私有化镜像方式对外输出AI能力，私有化镜像包括对镜像授权和模型加密，可按照硬件配置信息和时长进行订阅授权。

AI生态-模型生命周期管理：支持纳管多厂家算法以及多种AI推理的能力调用，包括在线、离线、私有化、代理API、视频能力等。

GPU精细化管理，按需分配，助力降本增效：支持按算力切片、整卡创建虚拟环境；支持对云环境资源使用情况，包括CPU、内存、GPU指标实时监控。

【客户价值】

探寻行业应用最优方案,推动AI应用普惠向实：“智能标注+自助学习建模”可助力大模型落地实现横向拓面、纵向深化。在技术能力与市场需求的合力牵引下，企业需求将与技术研发形成双向互促的良性循环。

可复制的场景方案，赋能行业、产业数字化高质量发展：在产业数字化方面，基于轻量化AI开发建模平台项目的成功为各地市组织构建自有应用，打造平台能连接、多应用、强平台、高智能、优运营的平台，为建设本地数据智能应用提供了良好的示范效果和强大的数据支撑。