C-Eval
C-Eval 由上海交通大学、清华大学和爱丁堡大学等联合推出,用中文考试题评估模型的知识理解与推理能力。
站点信息
- 网站名称C-Eval
- 官方网址https://cevalbenchmark.com/index_zh.html
- 所属分类AI测评
- 收录时间2026-10-23
- 累计浏览11 次
- 收录者管理员
SEO 查询
网站介绍
C-Eval 由上海交通大学、清华大学和爱丁堡大学等联合推出,用中文考试题评估模型的知识理解与推理能力。
主要功能
C-Eval 的功能主要集中在多学科覆盖、多层次评估、标准化评测、防止过拟合、社区互动等方向,适合中文知识、学科推理和模型排名。
多学科覆盖:C-Eval涵盖了广泛的学科领域,包括STEM(科学、技术、工程和数学)、社会科学和人文科学。这种多样化的题目设计使其能够全面评估模型在不同领域的表现。
多层次评估:评估分为中学、高中、大学以及一个专门为高级推理设计的子集C-Eval Hard。这种分层设计有助于深入了解模型在不同难度下的表现。
标准化评测:C-Eval采用客观题评测方式,避免了主观判断的影响,确保评测结果的客观性和可靠性。它支持零样本(zero-shot)和少样本(few-shot)两种模式,为研究者提供了灵活的评估选项。
防止过拟合:C-Eval在构造题目时尽可能选择非公开来源的试题,并避免使用真题,以减少模型过拟合的风险。
社区互动:C-Eval提供了一个公开透明的排行榜,用户可以提交模型预测结果,系统会自动计算分数并更新排名。这种社区化的互动方式促进了模型的迭代和优化。

适合哪些人
学术研究:研究人员可以利用C-Eval评估不同语言模型的性能,推动自然语言处理(NLP)领域的研究进展
企业开发:企业在开发智能客服、内容生成等应用时,可以通过C-Eval选择最适合的语言模型,提高产品质量
教育培训:教育机构可以使用C-Eval评估学生在语言理解和生成方面的能力,帮助制定个性化的学习计划
技术评测:技术公司可以利用C-Eval对其开发的语言模型进行评测,确保其在市场中的竞争力
社区互动:用户可以参与模型的提交和评估,分享评估经验,获取其他用户的反馈
评测结果受数据版本、提示词和运行环境影响,不能单独作为模型选型依据。
价格与免费额度
免费使用,API/评测服务按官网。
怎么用
注册账户:访问C-Eval官网,注册一个用户账户。
获取数据集:C-Eval的数据集可以通过Hugging Face平台直接下载。用户也可以通过lm-evaluation-harness框架获取数据。
准备模型:将待评估的模型准备好,并确保其能够处理C-Eval提供的测试题目。
运行评估:使用lm-evaluation-harness框架运行评估。例如,可以通过以下命令行操作完成评估: bash复制 lm_eval --model vllm \ --model_ar…
提交结果:将评估结果整理成指定的JSON格式,并通过C-Eval官网提交。
常见问题
C-Eval支持哪些评估模式?
零样本(Zero-shot):模型在没有任何额外上下文的情况下直接回答问题。 少样本(Few-shot):模型在少量示例的辅助下回答问题。
如何提交评估结果?
用户需要将模型的预测结果整理成指定的JSON格式,并通过C-Eval官网提交。
C-Eval的评测结果如何呈现?
评测结果会根据模型的答题正确率进行排名和打分,并在排行榜中实时更新。
C-Eval是否支持多种语言模型?
是的,C-Eval支持多种语言模型,包括但不限于GPT-4、ChatGLM、MiniMax等。
C-Eval的题目来源是什么?
C-Eval的题目主要来源于非公开的试题库,避免使用真题,以减少模型过拟合的风险。
总结
C-Eval 适合中文知识、学科推理和模型排名。优势是「多学科覆盖」和「多层次评估」;涉及商用或引用时,以官网和原始论文条款为准。
注:以上信息整理自公开资料,具体功能、价格、免费额度与授权政策请以 C-Eval 官方最新说明为准。
评论 0
友善发言,共建温暖社区