中国信通院生成式AI首轮评测正式启动

发布时间:2023-09-06

作者:NGAI

评测背景

近期,ChatGPT火爆出圈、热度不减,强大的语言理解和生成能力是引起广泛关注的重要原因。根据中国信通院对ChatGPT展开的生成能力评测结果,ChatGPT支持创意写作、命题写作、摘要生成、代码生成等多种任务,写作任务上在学术、新闻、诗歌、散文、戏剧等领域均有涉及。随着ChatGPT成为语言生成的新里程碑,生成式人工智能也进入了新一轮的发展热潮。生成式人工智能基于大规模预训练模型、对抗学习、扩散模型等技术,已逐渐拓展文本、图片、视频、3D模型等多模态生成能力,通过新闻写作、图片创作、代码生成等应用形态在商业营销、艺术设计、程序开发等众多场景中已经开始应用,成为提升生产力的重要工具。在其快速发展的同时,引发的生成不可控、版权争议、恶意滥用等问题亟待关注,其可信治理、工程化工具、管理维护等方面仍存在一定的挑战。

参考标准

中国信息通信研究院(以下简称“中国信通院”)联合百度、华为云、网易、海康威视、商汤、中国移动研究院、中国联通研究院、福建中烟、天津大学、南京邮电大学等来自产、学、研、用的40余家参编单位构建了生成式人工智能标准评测体系,共同编制标准《生成式人工智能技术及产品评估方法 第1部分:技术能力》、《生成式人工智能技术及产品评估方法 第2部分:产品能力》,针对文本、图片、视频、代码等多种模态的生成能力形成多维度评价指标。为进一步促进生成式AI技术和应用发展,现正式启动生成式AI首轮评测。
图片

评测内容

本次评测面向涉及生成式AI技术的产品及应用,围绕技术能力、产品能力两大模块开展相关评测,参评方可根据自身情况选择参评模块,评测结果综合功能、性能指标进行评级。

技术能力:考察生成式AI技术的实现水平,围绕文本、图片、视频、音频、代码等多种生成模态,通过主观指标和客观指标评估,包括30余个指标项。

产品能力:考察生成式AI产品的基础功能、服务能力和综合能力,包括生成配置、作品管理、定制开发、服务方式、易用性、合规性等20余个指标项。

图片

时间安排

1、评测报名:即日起开始;

2、评测执行:2023年3月至2023年7月底

3、专家评审:2023年8月

4、证书颁发:2023年8月底可信AI成果发布会(拟)

评测联系人

张老师,19852822678,

zhangdan3@caict.ac.cn

吴老师, 15927505636,

wusiqi@caict.ac.cn