您的位置:首页 >资讯 >

从可见到实用,腾讯打造大模型时代原生工具链

导读 DoNews5月21日消息,在过去一年,面对生成式AI的风起云涌,各类大模型层出不穷。但有一家企业,他选择了一条不一样的路径,聚焦应用落地,

DoNews5月21日消息,在过去一年,面对生成式AI的风起云涌,各类大模型层出不穷。但有一家企业,他选择了一条不一样的路径,聚焦应用落地,他就是腾讯。

时间回到去年619,腾讯就明确称:“大模型的打造只是起点,把技术落地到产业场景、创造价值才是目标”。企业需要大模型能够在实际场景中真正解决某个问题,而不是在100个场景中解决70%-80%的问题。

到了今天,企业对于大模型的诉求更加务实,不仅关注模型技术的领先性,也要看如何融合到业务场景,如何降本增效解决实际问题。面对这样的需求,腾讯也向深处进一步迈进,离产业更近。

5月17日,在生成式AI产业应用峰会上,腾讯宣布腾讯混元大模型能力持续升级,目前整体性能居国内第一梯队,部分中文能力追平GPT-4。腾讯集团副总裁蒋杰透露,截至目前,腾讯混元大模型已在内部600多个业务和场景中落地测试。腾讯云智能行业大模型也已在金融、医疗、教育、汽车、能源等20多个行业落地。此外,腾讯还将于5月30日发布基于混元大模型、面向C端的助手APP“腾讯元宝”。

腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生也再次强调称:“腾讯始终以‘产业实用’,作为发展大模型的核心战略。”

(腾讯集团高级执行副总裁、云与智慧产业事业群CEO 汤道生)

打破AI“落地玻璃”,构建离产业最近的AI

不管大模型技术再酷炫,落地才是硬道理。“但大模型在产业场景落地时,所面临的问题还是非常多。”汤道生说道。

比如很多企业和机构缺乏相关的技术和人才;大模型需要大量高质量数据进行持续训练和优化,但数据导入和处理缺乏轻便的支持工具;需要标准化、自动化和模块化的大模型工具平台,降低非技术人员应用门槛;GenAI需要全新的AI安全范式等等。

如何才能打破这层玻璃,将大模型技术落地到产业中呢?汤道生总结了腾讯的三个方面举措。

首先,在基础大模型的能力上,腾讯推出了基于混合专家模型 (MoE) 结构的pro、standard、lite三个不同版本的、灵活的模型规模,通过腾讯云面向企业和个人开发者开放,同时推出一站式AI智能体创作与分发平台——腾讯元器,企业和开发者可以基于此直接创建智能体、插件或者知识库。

其次,腾讯云上新了“知识引擎、图像创作引擎、视频创作引擎” 三款PaaS产品,打造大模型原生工具链,帮助企业在知识服务、图像和视频创作上提质提效。

(腾讯云发布三大AI引擎工具,降低模型应用门槛)

最后是模型的安全合规。针对内容安全,生成式AI内容经常会遇到虚假信息、内容侵权、诱导风险、个人隐私泄漏等风险,腾讯云天御AIGC 内容风控解决方案,结合机器审核、安全专家与版权验证等能力提供一站式服务,机器处理的准确率达到95%以上。针对数据安全,腾讯的大模型安全治理解决方案能够保护企业敏感数据,保障数据收集的安全合规。

目前腾讯混元大模型不仅对内赋能,对外多个产业也已有落地案例。

对于腾讯内部业务,以微信读书为例,基于混元大模型推出的AI问书、AI大纲等新功能,能够帮助用户提升阅读效率和体验。此外,在腾讯智能客服体系中,基于腾讯混元的垂直领域精调模型大幅度提升了智能对话的意图理解准确性和多轮问答流畅性,相比传统小模型的准确性提升了38%;基于腾讯混元的人工客服AI助手,则已在多个游戏客服场景应用,日均用户请求量达到150万次。

在产业方面,腾讯助力解决了政务教育、零售、医疗等行业的企业级知识服务需求。其中与中国大熊猫保护研究中心联合开展的“AI+大熊猫保护”项目吸引了不少关注。该项目组在一阶段打造了全球首个大熊猫智能行为识别模型及智慧系统,识别圈养大熊猫进食、喝水和睡觉等日常行为,准确率超过了80%。未来,广东工业大学腾创班学生还将借助腾讯云大模型知识引擎,打造更智能、更专业的大熊猫“AI大模型奶爸”,助力大熊猫保护工作。

蒋杰指出,大模型可谓是“全球最卷”的一条赛道,在这条路上,腾讯混元坚持技术初心和应用导向,希望能够为行业做出更有价值的模型、应用及服务。

值得一提的是,根据第三方咨询机构沙利文的评测结果,腾讯混元模型的通用基础能力和专业应用能力,处于国内大模型领跑梯队,高于国际大模型均线。权威评测机构SuperCLUE的报告也显示,腾讯混元大模型位列国内大模型第一梯队,在基础和场景应用上均处于领先位置。

此外,多种尺寸的腾讯混元MoE模型也即将对外开源,可分别支持手机端、PC端、云/数据中心等多样化的部署场景。

发布生成式AI生态计划,驱动产业智变

生成式AI技术,是推动产业形成新质生产力的重要力量,在产业应用方面具有巨大潜力。据艾瑞咨询相关报告显示,2023 年中国AIGC产业规模约为143亿元,2030年中国生成式AI产业规模有望突破万亿元。

腾讯云副总裁、产业生态合作负责人杨晨表示:“产业生态是落地生成式AI技术、推动产业互联网发展的决定性要素。”但在大模型的产业落地上,却是一个复杂的过程,需要大模型厂商、实体产业、生态伙伴的全产业链攻坚。

一花独放不是春,百花齐放春满园。2023年以来,腾讯云与1500家合作伙伴紧密协同,依托领先和丰富的生成式AI产品,累计服务超过2万家企业客户,初步构建起围绕生成式AI产品的生态体系。

在此次峰会上,腾讯云正式推出生成式AI生态计划。杨晨表示,腾讯云聚焦做强生成式AI技术和平台底座,通过开放平台能力与服务、提供技术与市场支持的方式,在未来联合千家行业应用厂商,培育千家服务商和万家代理商,共同推动生成式AI技术深入产业全链条,加速产业智能化升级。

(腾讯云联合17家合作伙伴发布生成式AI生态计划)

在能力开放方面,腾讯云全量生成式AI产品,均向伙伴开放售卖,为伙伴输送优质炮弹开拓蓝海市场。同时,腾讯云将为行业应用厂商开放全量生成式AI产品,以及PaaS、aPaaS、iPaaS等平台及原子能力,助力伙伴在应用侧形成差异化的、有竞争力的解决方案。

在服务开放方面,腾讯云将聚焦培育千家生成式AI产品的专业服务伙伴,通过体系化的能力认证,使伙伴形成全流程服务的能力矩阵,为行业落地提高质量交付。

在技术和市场支持方面,腾讯云为伙伴提供知识引擎、向量数据库、数智人等7大生成式AI核心产品的专项测试资金,并安排100位大模型架构师、产品专家、算法专家、数据专家陪跑,助力伙伴加速在客户场景的落地和复制。同时,设立生成式AI营销加乘资金,切实助力伙伴开拓市场。

与此同时,腾讯云还联合Gartner发布了《生成式AI产业落地路径研究报告》,为企业提供生成式AI应用场景矩阵和生成式AI应用落地路线图,帮助企业解决场景价值、落地可行性等挑战。

群访部分内容梳理(经整理有删减)

Q:如何看待大模型价格战,未来是否也有相应的降价策略。

腾讯云副总裁、腾讯云智能负责人、腾讯优图实验室负责人、腾讯企点负责人吴运声:我们把大量的精力放在提高我们底层的大模型能力上,包括为了能够让用户真正用起来、在模型上分多层次对外提供,以及模型开源计划和一系列工具产品的推出,我们都在致力于助力客户实现真的价值,能够让大模型在生产环境中实际应用起来。

另一方面,我们看到底层能力发展也好,构建应用工具链也好,现在都还在快速发展的过程中,都在处于快速迭代的过程中,所以我们会把精力放在产品、技术能力的发展之上。我们相信说,我们一定会为我们的客户去提供有竞争力的模型和产品。

Q:如何看大模型开源话题。

腾讯混元模型应用负责人张锋:腾讯一直比较积极支持开源社区。在过去我们也开源了超过170个项目,我觉得有好东西,要贡献给技术社区和开发者,我们是坚持这样一个文化导向。

Q:大模型的发展是否推高了推理和训练需求?

吴运声:其实不管是训练需求还是推理需求,现在都还在持续的上涨过程中。

我们也看到,因为很多的应用出来后,有越来越多的客户,开始了解AI能力,并且希望在他的场景中更多介入AI能力,带来了需求上涨。

同样,在训练端,很多行业实际落地的场景需要结合客户实际场景数据,用它的数据进行精调,在客户场景下也会有更多的需求出来,并且随着整个人工智能技术的发展,以及对于人工智能技术大模型技术深入了解,各行各业也在更多的知道或者是去更明确地探索,哪些业务可以和大模型有更好的结合,所以在需求上面也呈现上涨阶段。

这种大环境或者趋势下,肯定会使得训练需求、推理需求,都在不断上涨过程中。

Q:生成式AI带给安全的变化主要体现在哪些方面?企业应该如何去做。

腾讯云安全总经理李滨:大模型安全分为模型本体安全、内容安全、数据安全和应用安全几个方面。

从模型本体安全来看,因为模型由数据训练,出于数据本身合规性,以及模型训练过程中人工智能的一些道德准则。

另外在整个模型从训练推理应用全过程中,其实有一个非常重要的点和数据的交互,从模型预训练海量数据基础到在领域、微调、精调过程中设计高价值重要的数据,和用户输入输出过程中涉及数据交互,这几个环节都会涉及到数据。这里面涉及到不同数据应用者、不同数据主体,这里面会呈现比较复杂的数据安全分享问题。

在应用方面也涉及到一些新的安全问题,由于模型本体问题、数据的问题以及处理过程,会输入或者输出一些不恰当的信息,所以这些都会需要在模型应用层面去加以响应安全控制,保证有一个合适的内容输出。

最后,在内容安全方面,内容生成在不同国家都有响应这样的法律法规要求,还涉及到如果在整个模型道德方面控制不佳的话,也会产生不合适内容输出,最终在内容控制方面也会引发一系列的新的安全风险。这方面也是需要关注的。

从这样角度来看,在企业做大模型安全应用的时候,需要主要关注几个方面,还是比较清晰的,包括模型本体的合规性,数据安全全流程端到端的保护,对于内容的管理和控制,最后还就是应用端的安全防护。

免责声明:本文由用户上传,如有侵权请联系删除!