昇腾AI平台训练推理!中国联通元景文生图大模型开源:真正懂中文
中国联通宣布,昇腾联通数据智能公司打造、平台首个完全在国产昇腾AI软硬件平台上实现训练和推理的训练中文原生文生图模型“联通元景文生图模型”,正式开源。推理图
该模型实现了多项自主创新突破:
首先是中国真正在架构上,通过在SDXL架构中融合复合语言编码模块,联通实现了对中文长文本、元景多属性对应和中文特色词汇的文生文精确语义理解,对应图像的模型生成效果得到了极大提升。
其次是开源在昇腾AI大规模算力集群上,实现了中文原生文生图模型的懂中训练和推理,并将模型和代码对业界开源,昇腾以推动文生图领域的平台国产化进程。
据悉,训练原始SDXL的推理图语言编码器仅使用英文CLIP模型,智能支持英文文本输入,输入长度也不能超过77个token。
对此,联通元景文生图模型一方面将英文CLIP模型替换成中文CLIP,并引入复合语言编码架构,使用基于encoder-decoder架构的语言模型,突破文本长度限制。
通过引入复合语言编码模块,元景文生图模型实现了原生中文语义理解,避免了利用翻译插件等作为中介调用英文文生图模型造成的中文信息损失。
同时,通过引入海量中文图文对数据进行预训练,模型对中文专属名词,如鼠标-老鼠、仙鹤-吊车等英文模型易混淆的对象,以及中文菜谱等英文模型无法理解的名词,都能够准确理解并生成对应的高质量图片。
(在英文中均翻译成crane,易混淆)
(中文特色词汇)
中国联通在国产昇腾AI基础软硬件平台上实现了元景文生图模型从微调训练到推理的一体化适配。
在微调训练方面,用户可使用自定义数据集,实现从其它平台至昇腾的平滑切换;
在模型推理方面,接口与Diffusers对齐,简单易用,支持单卡和多卡,单卡推理支持UNet Cache加速。
该模型已在联通的多个内外部项目中服务于文创、服装、工业设计等诸多领域,支撑了中华器灵、服装大模型等数十个案例。
联通元景文生图模型赋能服装设计
联通元景文生图模型赋能文物活化
目前,元景文生图模型已在GitHub、Hugging Face、魔搭、始智等社区全面开源,地址如下:
GitHub:
https://github.com/UnicomAI/UniT2IXL.git
HuggingFace:
https://huggingface.co/UnicomAI/UniT2IXL
魔搭:
https://www.modelscope.cn/UnicomAI/UniT2IXL.git
始智:
https://wisemodel.cn/models/UnicomAI/UniT2IXL
联通元景文生图模型在全球数字经济大会上获奖
- ·96分钟绝杀,索尔洛特超越梅西成为西甲历史打进制胜球最多的球员
- ·前教练:莱奥可以证明自己比维尼修斯和姆巴佩更强,能竞争金球
- ·奥利斯本场数据:2球2助攻+7关键传球,获评10分全场最高
- ·都体:奥西里奥与戴维经纪人展开谈判,蓝军、巴萨等队也有意球员
- ·引领平板专业生产力 HUAWEI MatePad Pro 13.2 英寸破镜而出
- ·[流言板]利拉德近4场比赛场均28分9.8助,三项命中率为46/40/97%
- ·前教练:莱奥可以证明自己比维尼修斯和姆巴佩更强,能竞争金球
- ·德科:我认为佩德里的续约一定会完成,他想在巴萨创造历史
- ·[流言板]利拉德谈50万奖金:不会疯狂消费,分享给我的工作人员团队
- ·诺伊尔迎来主要欧战150场里程碑,门将中仅次于卡西、布冯和雷纳
- ·废人动作利桑德罗双脚腾空起跳,重重跺在地上抢球
- ·效力印尼联赛的日本球员:不能小瞧印尼,即使和日本打平也不奇怪
- ·[流言板]稳准狠!基斯珀特外弹接球迎着米勒打成3+1,奇才领先9分
- ·诺伊尔迎来主要欧战150场里程碑,门将中仅次于卡西、布冯和雷纳
- ·[流言板]禁飞区!杜兰特大帽扇飞施罗德上篮,随后再封盖史密斯跳投
- ·雪上加霜!皇马输球之外还遭受打击,又一主力恐长期缺阵