AGI Pulse
研究论文OpenAI · agipulse

OpenAI 开源 MultiLangBench:GPT-6 Astra 用 20 种语言从零写 SQLite 平均通过率 87.4%,GPT-6.1 Sol 的 COBOL 迁移准确率达 97.9%

阅读 0

发布日期
2026-10-20
类型
研究论文
相关机构
OpenAI
信息来源
agipulse

这件事意味着什么

【要点】

OpenAI 10 月 19 日(北京时间 10 月 20 日 06:30 在官方账号公布)发文,称最新模型在 COBOL、Fortran、Visual Basic、OCaml 这类“低资源”编程语言上的编写和迁移能力大幅提升,并开源评测集 MultiLangBench。这些语言公开代码和文档少,但支撑着银行、政府和企业系统,OpenAI 引用的数据称 COBOL 支撑着超过 40% 的网上银行系统和 95% 的 ATM 交易。

OpenAI 做了两项评测。MultiLangBench 让模型用 20 种语言之一从零写一个兼容 SQLite 的数据库引擎,再用真 SQLite 校验结果:最高推理强度下,GPT-6 Astra 平均通过率 87.4%,GPT-5.6 Sol 只有 26.8%;COBOL 从 10.9% 升到 72.1%,仍是最难的语言,Fortran 21.4%→83.5%,Visual Basic 27.5%→89.4%。更便宜的 GPT-6 Luna 平均 40.3%,每个样本估算 API 成本 0.77 美元,GPT-5.6 Sol 是 3.48 美元。

第二项是 COBOL 迁移评测:把 COBOL 程序改写成 C++、Java、Kotlin、Python 或 Rust,隐藏测试要求输出逐字节一致。GPT-6.1 Sol 在低推理强度下准确率 86.6%(GPT-5.6 Sol 为 5.4%),成本约为后者的 61%;高推理强度下达到 97.9%,接近饱和。

【可核验】

OpenAI 原文:https://openai.com/index/low-resource-programming-languages/

MultiLangBench 代码仓库(Apache 2.0):https://github.com/openai/MultiLangBench

OpenAI 官方帖子:https://x.com/OpenAI/status/2112310345863930168

【我们的判断】

一、“老代码现代化”是企业最愿意付钱的编程场景之一,OpenAI 用专门的评测来证明这一点,说明大厂的编程竞争正从热门语言走向银行、政府里的遗留系统。

二、两项评测都是 OpenAI 自建、自测,只和自家旧模型比,没有其他厂商的成绩;公开的只有 MultiLangBench,COBOL 迁移评测没有开源,外界暂时无法复核。

三、MultiLangBench 开源后,其他厂商和第三方可以在同一套测试上跑分。仓库说明从 SQLite 的 5.1 万个测试里转换出 2.4 万个,并建议日常只跑其中 272 个,比较成绩时要先看测试范围是否一致。

原文 →

继续了解相关进展

本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策