上海首家生成式AI质检中心挂牌 为人工智能软件各项指标“体检”

“无中生有”可谓生成式人工智能强壮学习才能的“本色”。可是，在从无到有的过程中，人工智能会不会犯错？近日，由上海计算机软件技能开发中心筹建的上海市生成式人工智能质量查验检测中心挂牌。作为上海首家批筹的人工智能范畴质检中心，其将帮助生成式人工智能在深度学习，智能生成过程中及时修偏纠错，助生成式AI产品当之无愧，少走弯路。

Chatgpt强壮的智能潜力，让生成式AI瞬间火遍全球。本年5月发布的《中国人工智能大模型地图研究报告》显示，我国已有79个10亿级以上参数规模的大模型。不过，在一些大言语模型使用初期，部分歹意用户可能会经过角色扮演、分步提问等方式，躲避大言语模型安全规则，诱导其给出违背法律法规的回答，或许生成违背伦理道德的内容。怎么客观地点评大模型的性能，同时让刚刚萌发且学习才能飞快的大模型使用合礼、合规，成为赋能各行各业的重要一环。

生成式人工智能质量查验检测中心，正是要检测生成式AI产品中潜在的类似缝隙，提高人工智能体系的安全性，减少各类危险。“咱们会对送检的人工智能软件各项指标进行‘体检’，并出具详细‘体检报告’。”上海科学院直属上海计算机软件技能开发中心主任蔡立志说，上海市生成式人工智能质检中心要点聚集生成式人工智能、工业智能质检、才智医疗、人脸辨认、自动驾驶范畴的人工智能查验检测。

据介绍，该质检中心将参考国内外人工智能测评标准，自主研制人工智能深度安全和测评技能与东西，包括对立样本生成与防御评估东西、自然言语处理体系测评数据生成东西、人工智能虚假人脸检测东西、人工智能危险评估与管理东西等，为企事业单位供给人工智能质量“一站式”测评服务。

近年来，在上海科学院布置下，上海计算机软件技能开发中心布局并开展了人工智能的使用、管理、测评等技能研究与第三方技能服务，参加编写了《人工智能标准化白皮书（2021版）》，完成了《人工智能深度组成图像体系技能规范》《人工智能计算机视觉体系测评规范》等30余项标准研制，近三年来为人工智能企业与使用方供给第三方测评年均超越500项。