OpenAI 开源 MultiLangBench:GPT-6 Astra 用 20 种语言从零写 SQLite 平均通过率 87.4%,GPT-6.1 Sol 的 COBOL 迁移准确率达 97.9%
阅读 0
- 发布日期
- 2026-10-20
- 类型
- 研究论文
- 相关机构
- OpenAI
- 信息来源
- agipulse
这件事意味着什么
【要点】
OpenAI 10 月 19 日(北京时间 10 月 20 日 06:30 在官方账号公布)发文,称最新模型在 COBOL、Fortran、Visual Basic、OCaml 这类“低资源”编程语言上的编写和迁移能力大幅提升,并开源评测集 MultiLangBench。这些语言公开代码和文档少,但支撑着银行、政府和企业系统,OpenAI 引用的数据称 COBOL 支撑着超过 40% 的网上银行系统和 95% 的 ATM 交易。
OpenAI 做了两项评测。MultiLangBench 让模型用 20 种语言之一从零写一个兼容 SQLite 的数据库引擎,再用真 SQLite 校验结果:最高推理强度下,GPT-6 Astra 平均通过率 87.4%,GPT-5.6 Sol 只有 26.8%;COBOL 从 10.9% 升到 72.1%,仍是最难的语言,Fortran 21.4%→83.5%,Visual Basic 27.5%→89.4%。更便宜的 GPT-6 Luna 平均 40.3%,每个样本估算 API 成本 0.77 美元,GPT-5.6 Sol 是 3.48 美元。
第二项是 COBOL 迁移评测:把 COBOL 程序改写成 C++、Java、Kotlin、Python 或 Rust,隐藏测试要求输出逐字节一致。GPT-6.1 Sol 在低推理强度下准确率 86.6%(GPT-5.6 Sol 为 5.4%),成本约为后者的 61%;高推理强度下达到 97.9%,接近饱和。
【可核验】
OpenAI 原文:https://openai.com/index/low-resource-programming-languages/
MultiLangBench 代码仓库(Apache 2.0):https://github.com/openai/MultiLangBench
OpenAI 官方帖子:https://x.com/OpenAI/status/2112310345863930168
【我们的判断】
一、“老代码现代化”是企业最愿意付钱的编程场景之一,OpenAI 用专门的评测来证明这一点,说明大厂的编程竞争正从热门语言走向银行、政府里的遗留系统。
二、两项评测都是 OpenAI 自建、自测,只和自家旧模型比,没有其他厂商的成绩;公开的只有 MultiLangBench,COBOL 迁移评测没有开源,外界暂时无法复核。
三、MultiLangBench 开源后,其他厂商和第三方可以在同一套测试上跑分。仓库说明从 SQLite 的 5.1 万个测试里转换出 2.4 万个,并建议日常只跑其中 272 个,比较成绩时要先看测试范围是否一致。
继续了解相关进展
本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策