Chronicles-OCR – 腾讯联合高校等推出的视觉感知评测基准
导读摘要:
Chronicles-OCR 是腾讯混元联合中国科学院信息工程研究所、安阳师范学院、南开大学及故宫博物院共同推出的业界首个覆盖中国汉字“七体之变”完整演化轨迹的跨时间视觉感知评测基准。该基准包含 2,800 张高质量图像,系统涵盖甲骨文、金文、篆书、隶书、楷书、行书、草书七大字体,通过阶段自适应标注范式与四大评测任务,系统评估视觉大语言模型在面对数千年汉字形态持续演变时的感知鲁棒性与泛化能力。
1. Chronicles-OCR是什么
Chronicles-OCR 是腾讯混元联合中国科学院信息工程研究所、安阳师范学院、南开大学及故宫博物院共同推出的业界首个覆盖中国汉字“七体之变”完整演化轨迹的跨时间视觉感知评测基准。该基准包含 2,800 张高质量图像,系统涵盖甲骨文、金文、篆书、隶书、楷书、行书、草书七大字体,通过阶段自适应标注范式与四大评测任务,系统评估视觉大语言模型在面对数千年汉字形态持续演变时的感知鲁棒性与泛化能力。
技术定位与领域: Chronicles-OCR 属于计算机视觉与自然语言处理交叉领域的评测基准,具体聚焦于视觉大语言模型(VLLMs)在历史文档分析中的跨时间感知能力评估。与现有仅关注现代文档或单一历史字体的基准不同,Chronicles-OCR 首创性地将评测范围扩展至汉字数千年的形态演化全过程,填补了该领域的系统性评测空白。
研发背景: 该基准由腾讯混元联合中国科学院信息工程研究所、安阳师范学院甲骨文信息处理重点实验室、南开大学及故宫博物院共同研发。研发动机源于当前视觉大语言模型在历史文字识别领域表现不佳的问题——模型在处理甲骨文、金文等古文字时往往出现灾难性失败,而缺乏系统性的跨时间评测基准来诊断这些能力缺陷。
核心价值: Chronicles-OCR 的核心价值在于为视觉大语言模型的鲁棒性评估提供了一个标准化、系统化的跨时间评测框架。它不仅揭示了当前主流模型在古文字细粒度空间定位和语义破译上的能力边界,还通过阶段自适应标注范式解决了不同历史时期字体形态差异带来的标注难题,为模型优化提供了明确的技术方向。
技术特点: 该基准采用阶段自适应标注范式,针对古文字(甲骨、金文、篆书)提供单字级边界框加现代汉字映射标注,针对成熟字体(隶、楷、行、草)提供序列级布局理解标注。此外,它引入视觉指代机制,通过彩色框标出目标字符,实现字符破译能力与空间定位能力的解耦评估,从而精准诊断模型的具体短板。
2. 主要功能
七体全覆盖评测: 完整覆盖甲骨文、金文、篆书、隶书、楷书、行书、草书七大中国字体,每种字体各 400 张图像,构建从殷商到近现代的跨时间评测体系,确保评测覆盖汉字形态演变的全部关键阶段。
阶段自适应标注: 针对古文字(甲骨、金文、篆书)提供单字级边界框坐标加现代汉字映射标注;针对成熟字体(隶、楷、行、草)提供序列级布局理解与阅读顺序标注,适配不同历史阶段的形态差异,避免统一标注范式带来的信息损失。
四大核心评测任务: 支持跨时期字符定位、细粒度古文字识别、古文本解析、字体分类四项任务,分别评估模型在空间定位、字符破译、布局理解和字体分类方面的能力,形成多维度的能力诊断矩阵。
视觉指代机制: 通过彩色框在图像中明确标出目标字符,让模型仅需识别该字符对应的现代汉字,无需同时处理空间定位任务,实现字符破译能力与空间定位能力的解耦评估,精准诊断模型的具体短板。
高质量专家标注: 由古文字学博士、研究生及领域专家进行多层级交叉标注,确保字体分类、边界框定位和字符转录的高保真度,标注质量经过严格的学术把关,避免标注噪声对评测结果的干扰。
权威数据源整合: 甲骨文来自安阳师范学院甲骨文信息处理重点实验室的专业数据;金文和篆书由古文字学团队整理;隶、楷、行、草取自故宫博物院文物手写体识别测试数据集,确保数据来源的权威性和代表性。
模型鲁棒性诊断: 系统评估视觉大语言模型在数千年汉字形态演化过程中的感知能力边界,通过对比不同字体下的模型表现,揭示现代文档解析向历史书写系统泛化的关键瓶颈,为模型优化提供明确方向。
3. 如何使用
环境要求与前置条件: 使用 Chronicles-OCR 评测基准需要准备一台能够运行视觉大语言模型的计算设备。推荐配置为 NVIDIA A100 或更高性能的 GPU,显存至少 32GB,操作系统建议为 Linux(Ubuntu 20.04 或更高版本)。此外,需要安装 Python 3.8 以上版本以及 PyTorch 框架。
访问开源仓库: 前往 GitHub 仓库
https://github.com/VirtualLUOUCAS/Chronicles-OCR获取数据集、论文及评测代码。建议首先阅读仓库中的 README 文件,了解数据集结构、标注格式和评测流程的详细说明。下载数据集: 从仓库提供的链接下载包含 2,800 张图像的完整数据集,其中甲骨文、金文、篆书、隶书、楷书、行书、草书各 400 张。数据集附带 JSON 或 XML 格式的标注文件,包含字体类别、边界框坐标、现代汉字映射等信息。
理解数据格式: 仔细阅读阶段自适应标注规范——古文字阶段(甲骨、金文、篆书)的标注格式为单字级边界框坐标加现代汉字映射;成熟字体阶段(隶、楷、行、草)的标注格式为序列级文本布局与阅读顺序标注。确保理解两种标注范式的差异。
选择评测任务: 根据研究目标从四大任务中选取需要执行的评测任务:跨时期字符定位、细粒度古文字识别、古文本解析、字体分类。每个任务对应不同的输入输出格式和评估指标,建议从单一任务开始逐步扩展。
准备被测模型: 部署待评测的视觉大语言模型(VLLM),确保模型支持图像输入与文本输出能力。常见的候选模型包括 GPT-4V、Gemini Pro Vision、Qwen-VL 等。根据模型要求配置推理环境,确保模型能够正确加载和运行。
执行模型推理: 将数据集图像输入模型,按任务要求输出对应结果。例如,对于跨时期字符定位任务,模型需要输出边界框坐标;对于细粒度古文字识别任务,模型需要输出现代汉字转录。注意保持推理过程的可重复性。
运行评测脚本: 使用仓库提供的官方评估代码,将模型输出与标准标注进行比对,自动计算各任务指标,如定位精度(IoU)、编辑距离(NED)、分类准确率等。评测脚本会自动生成详细的性能报告,便于分析与对比。
4. 优缺点分析
| 优点 |
|---|
| 首创跨时间评测体系: 首个系统覆盖汉字“七体之变”完整演化轨迹的视觉感知评测基准,填补了从殷商到近现代的时间跨度评测空白,具有开创性学术价值。 |
| 阶段自适应标注范式: 针对不同历史阶段字体的剧烈形态变化,差异化地实现古文字阶段的单字级定位加映射与成熟字体阶段的序列级布局理解,评估维度更精准。 |
| 权威数据源与专家标注: 甲骨文来自安阳师范学院专业实验室,金文/篆书由古文字学博士团队整理,隶/楷/行/草取自故宫博物院文物数据集,经多层级交叉标注确保高保真度。 |
| 视觉指代解耦评估机制: 通过彩色框视觉指代,将字符级破译能力与空间定位能力解耦评估,精准诊断模型的具体短板,为模型优化提供明确方向。 |
5. 同类工具对比
| 对比维度 | Chronicles-OCR | AncientDoc |
|---|---|---|
| 发布机构 | 腾讯混元、中科院信工所、安阳师范学院、南开大学、故宫博物院 | 字节跳动、北京交通大学等 |
| 数据集规模 | 2,800 张严格平衡图像,七体各 400 张 | 约 3,000 页古籍图像,来自 100+ 部古籍 |
| 覆盖内容 | 七大字体:甲骨文、金文、篆书、隶书、楷书、行书、草书 | 14 类古籍文档(经史子集、医学、天文历算、楚辞等) |
| 时间跨度 | 约三千年(殷商至近现代) | 战国秦汉至明清 |
| 评测任务 | 跨时期字符定位、细粒度古文字识别、古文本解析、字体分类 | 页面级 OCR、白话翻译、推理 QA、知识 QA、语言变体 QA |
| 标注粒度 | 阶段自适应:古文字单字级边界框+现代汉字映射;成熟字体序列级布局 | 页面级文本、问答对、翻译对 |
| 目标模型 | 视觉大语言模型(VLLMs) | 视觉语言模型(VLMs) |
| 核心创新 | 首创跨时间汉字演化评测、阶段自适应标注范式、视觉指代解耦评估 | 首个古籍多任务评测基准,从 OCR 延伸至知识推理 |
选型建议: 对于以汉字形态演化研究为核心目标的团队,Chronicles-OCR 是首选基准,因为它覆盖了完整的“七体之变”时间线,能够系统评估模型在跨时间感知方面的能力。如果研究重点在于古籍文档的多任务处理(如 OCR、翻译、问答),AncientDoc 提供更丰富的任务类型和更大的数据规模,更适合古籍数字化工程的实际需求。对于专注于零样本学习和细粒度字符识别的场景,ACCID 的部首级标注提供了更精细的评估维度,适合模型在字符结构理解方面的能力诊断。
6. 编辑点评
从技术创新性角度评估,Chronicles-OCR 在评测基准领域实现了显著的突破。它首次将视觉大语言模型的评测范围从现代文档和历史文档的静态图像,扩展至汉字数千年的形态演化全过程,这一跨时间维度的设计在学术界具有开创性意义。特别是阶段自适应标注范式的提出,解决了不同历史时期字体形态差异带来的标注难题,避免了统一标注范式导致的信息损失,体现了研发团队对古文字学与计算机视觉交叉领域的深刻理解。
在实用价值方面,Chronicles-OCR 的价值不仅体现在评测本身,更在于它为模型优化提供了明确的技术方向。通过视觉指代解耦评估机制,基准能够精准诊断模型在字符破译能力和空间定位能力上的具体短板,这对于指导视觉大语言模型的改进具有重要的实践意义。此外,基准的完全开源特性使得学术界和工业界能够复现验证、对比评测及进一步拓展研究,降低了使用门槛。
在适用人群定位上,Chronicles-OCR 主要面向视觉大语言模型的研究者和开发者,特别是那些专注于历史文档分析、文化遗产数字化和古文字智能识别领域的团队。同时,古文字学、历史学和考古学领域的研究人员也可以通过该基准了解 AI 技术在其学科中的应用边界。
关于未来发展潜力,随着视觉大语言模型技术的快速演进,Chronicles-OCR 作为首个跨时间评测基准,有望成为该领域的标准评估工具。未来如果能扩展至更多古代文字系统(如西夏文、契丹文等)并增加数据规模,其影响力将进一步扩大。
7. 应用场景
古文字智能识别: 利用 Chronicles-OCR 基准中的甲骨文、金文等古文字数据,训练和评测视觉大语言模型在未完全破译古文字上的自动化识别能力,辅助古文字学专家进行字符破译和校验工作,降低古文字学研究门槛。
古籍数字化工程: 基于基准中的隶、楷、行、草字体数据,对历代书法、碑帖、文献进行高精度 OCR 与结构化解析,推动文化遗产的数字化存档与保护,提升古籍数字化工程的自动化水平。
字体演化研究: 利用基准的跨时间评测框架,分析视觉大语言模型在汉字从甲骨文到楷书形态演变过程中的感知变化,支撑文字学和历史学的跨学科研究,揭示汉字形态演变的规律和特点。
VLLM 能力评测: 将 Chronicles-OCR 作为标准化基准,系统评测和对比不同视觉大语言模型(如 GPT-4V、Gemini Pro Vision、Qwen-VL 等)的跨时间感知能力与鲁棒性,为模型选型和优化提供客观依据。
文物信息提取: 从青铜器铭文、竹简、帛书等文物图像中提取文字信息,利用基准中的古文字识别能力辅助考古研究与文物鉴定,提升文物信息提取的效率和准确性。
教育科普应用: 将 Chronicles-OCR 用于汉字文化教学中的古文字识别演示与字体演变可视化,通过交互式展示增强公众对汉字历史演变的认知,提升文化遗产的传播效果。
8. 常见问题FAQ
Q:Chronicles-OCR 是否支持模型的训练或微调?
A:Chronicles-OCR 主要定位为评测基准,而非训练数据集。虽然基准包含 2,800 张高质量图像,但每种字体仅 400 张,对于训练或微调模型而言规模偏小。建议将其作为评测工具使用,而非训练数据源。如需训练,可结合其他大规模古籍数据集进行。
Q:基准中的标注格式具体是什么样的?
A:标注格式采用阶段自适应范式。古文字阶段(甲骨、金文、篆书)的标注包含单字级边界框坐标(以像素为单位)和对应的现代汉字映射;成熟字体阶段(隶、楷、行、草)的标注包含序列级文本布局信息(如文本行顺序、阅读方向)和对应的现代汉字转录。所有标注以 JSON 或 XML 格式提供。
Q:评测时需要运行哪些视觉大语言模型?
A:评测目标模型为视觉大语言模型(VLLMs),即支持图像输入和文本输出的多模态模型。常见的候选模型包括 GPT-4V、Gemini Pro Vision、Qwen-VL、InternVL 等。模型需要能够处理图像输入并生成与任务要求匹配的文本输出(如边界框坐标、现代汉字转录、字体类别等)。
Q:Chronicles-OCR 与 AncientDoc 的主要区别是什么?
A:两者的核心区别在于评测维度和目标。Chronicles-OCR 聚焦于汉字形态的跨时间演化评测,覆盖从甲骨文到草书的“七体之变”,主要评估模型在数千年汉字形态演变中的感知鲁棒性。AncientDoc 则聚焦于古籍文档的多任务处理,包括页面级 OCR、白话翻译、推理 QA 等,更侧重于古籍数字化应用。
Q:基准的评测结果如何解读?
A:评测结果以各任务的量化指标呈现,如跨时期字符定位任务使用 IoU(交并比)评估定位精度,细粒度古文字识别任务使用 NED(归一化编辑距离)评估转录准确率,字体分类任务使用准确率评估分类能力。通过对比不同字体下的模型表现,可以诊断模型在特定历史阶段的感知能力缺陷。
Q:Chronicles-OCR 是否支持自定义评测任务?
A:基准目前提供四大核心评测任务,但代码仓库是开源的,开发者可以根据研究需求扩展或自定义新的评测任务。建议在现有框架基础上,利用仓库提供的评估工具和标注格式,设计新的任务并计算相应的评估指标。
Q:基准的版权和引用要求是什么?
A:Chronicles-OCR 遵循开源许可协议,数据集和代码均可自由使用。在学术论文中引用时,请标注 arXiv:2605.11960v1 作为参考文献。商业使用需遵守相关开源协议,建议查阅 GitHub 仓库中的 LICENSE 文件获取详细信息。
9. 项目地址
版权声明:本文部分内容由 AI 辅助生成并经人工校准,版权归本站所有,未经允许禁止任何形式的转载。




