AI宝库

AI宝库首页 › AI 资讯 › AI 对全球健康中心的贡献

AI 对全球健康中心的贡献

来源:Hacker News · 发布时间:10-30 · 由 AI宝库每小时自动聚合

文章 URL:https://serokell.io/blog/ai-贡献-g-c 评论 URL:https://news.ycombinator.com/roble?id=50293025 点:11# 评论:2

贡献者能做什么,他们必须披露什么,为什么我们认为政策是合理的。

卫生理事会目前有一项具体政策,规定由LLM协助捐款。 到10月中旬,维护者已经在审查讨论中直接提到它:朱利安·奥斯帕德引用了"AI政策"的P3,而安德烈亚斯·克勒宾格(Andreas Klebinger)则将由LLM产生的bug修复描述为"很好,这是政策".

GHC维基页面本身早于今年夏天的辩论,目前的案文确实如此。

该政策遵循的是西蒙·佩顿·琼斯通过ghc-devs讨论编写的文件,而不是7月份提出的相互竞争的“共同声明”。 该声明的作者明确表示,称并非打算取而代之,Teo Camarasu反对将它视为一项贡献政策。

讨论期间结构发生了变化。 7月27日,草案被归纳为三个政策要点和一项建议:使合并请求易于审查,对贡献承担全部责任,宣布直接使用LLM,最好自己写出最终版本。 本文件有四个政策要点和一个强烈的倾向。 " 优先考虑人民和社区 " 现为P1;较早的点移到P2-P4;你自己写出最终版本成为P5,仍然是首选而非要求。

讨论与我们直接有关。 Vladislav Zavialov和Andrei Borzenkov在塞罗凯尔从事GHC方面的工作,Andrei参加了政策讨论。 编码助理也成为我们自己的工程工作流程的一部分。

对GHC来说,实际的问题是审查者成本。 工具辅助工作只有在不让维护者替贡献者思考的情况下才有用。

目前GHC拥有6500多张开通票。 有些是难以编译的问题。 其它的则是常规的,但仍然有用:复制旧报告,减少测试大小写,添加缺失的基准测试,或者检查是否有错误存在。

什么政策称

该政策对总的LLMs是好是坏没有立场。 称明确表明,该项目没有就其成本和效益达成共识。 相反,它界定了对捐款和审查的期望。

有四个政策要点和一个强烈的倾向。

P1:优先考虑人民和社区。 贡献者可能使用LLMs,但与审查者的直接讨论预计将仍然是人。 所产生的案文不应取而代之,取而代之的是缴款国自己的判断。 使用LLM来导航代码库,翻译文本,或调查一个问题是允许的,但该工具不应取代开源项目开发出贡献者和维护者所通过的对话。

P2:使合并请求易于审查。 贡献者为贡献投入的精力要多得多,而审查者需要花费更多的时间来理解它。 MR应有一个明确的目标,一个解释性的设计,有用的例子和测试,并被分成可消化的块。 生成的补丁会编译,但让审查者重建推理不符合此条。

P3:人文著作权与全部责任。 每项贡献都需要一位可以识别的人类作者,他能够理解并解释每一行代码和提交审查的每句话。 如果提供方已仔细审查这些材料,以承担责任,则允许制作材料。 由于一个有用的bug报告可能来自不理解基本编译器故障的人,所以对出票的处理较为松散。 如果MRs草稿被明确标为草稿而尚未要求维护者进行审查,那么它也可能包含未完成或产生的工作。

P4:宣布直接LLM生成。 如果LLM生成了代码的任何部分、文件、测试或其他提交审查的材料,则必须披露这种用途。 贡献者不需要为每次互动发布提示或说明。 私人用于勘探,调试,或设计理念不需要披露,尽管政策鼓励披露。 对于提交的材料,声明应当在问题或MR描述和承诺信息中可见,通常带有辅助-By:行。

P5:最好自己写出最终版本。 仍然允许生成代码。 文件认为,重写最终版本往往是最简单的方法,可以确保贡献者通过每行思考,使补丁保持小,并去掉不必要的道词。 GHC 指出尤其受关注,因为它们保留了多年后可能很重要的建筑推理。 生成的材料如果经过仔细审查和修订,足以满足P3的要求,仍可提交。

LLM协助审查遵循同样的规则。 该文件还广泛使用“LLM”来涵盖今后发挥同样作用的系统,包括agents。

A. 草案的改变

最终政策保持了西蒙草案的中心地位:允许援助性贡献,必须披露直接生成,责任由人类贡献者承担。

主要的结构变化是社区成为其自身的政策点。 7月的草案已经讨论了人类对话与贡献者社区的健康;目前的文件向P1宣传了这一关切,并将下面的业务规则重新编号。

自己写最终版本的建议也幸免于难。 一些与会者在讨论期间认为,这一点应有所缓和。 最后案文保留了强有力的措辞,但明确指出了边界:五常是一种偏好。 贡献是根据政策要点来判断的,而不是根据一个人是否为每个角色打字。

因此,这项政策避免试图解决关于LLMs的更宽泛的争论。 它界定了一笔捐款准备消耗审查人员时间的条件。

审查是稀缺的资源

维护者的时间是主要的制约因素。

GHC已经比人们有更多的工作等待审查。 如果审查费用增加,廉价补丁的生成就无济于事了。 20分钟内生产的补丁仍需要维护者2小时才能理解。

LLVM称这个计划是一个采掘性贡献,借用Nadia Eghbal在公共场合工作的想法:

问题早于LLMs. 任何人都可以提交2000行补丁他们几乎不理解。 生成一个现在容易得多。

商业开发显示是类似模式。 法洛斯发现,AI采用更重的团队产生更多和更大的拉力请求,而审查时间也有所增加。 数据是观测性的,一个企业工程组织并不直接与GHC相比,但瓶颈是一样的:代码制作只是开发过程的一部分。

GHC审查也在很大程度上取决于项目历史。 一个补丁可能孤立地看起来是正确的,同时与四年前的提议相矛盾,重新引入了老的性能回归,或者使计划中的编译器更难改变。 人类贡献者在对周围历史了解不足时,可以犯下完全相同的错误。 LLMs主要减少某人需要的上下文量,然后才能产生出看起来可信的东西。

扶养同样依赖上下文。 合并后六个月,重要的问题是是否有人理解为何存在一行。

新的维护者呢?

开源捐款也培养了未来的维护者。

小问题有用,部分原因是捐助者必须努力解决这些问题。 一位评论员解释了显而易见的解决方案为何失败,贡献者学习了系统的另一部分,经过足够的迭代,最终可能会审查其他人的工作。

Loris Cro在解释Zig的政策时称这个贡献者为扑克。 维护者时间是一种投资,而Zig更喜欢花在可能留在项目上的人身上,而不是花在用LLM便宜出品的行走补丁上。

LLVM取狭义的同位相去。 其政策不允许AI工具解决好的第一问题任务,因为这些任务旨在向人们介绍项目。

当产生的补丁取代其他贡献者或消耗相当一部分审查者注意力时,这就会成为一个真正的问题。 我们今天在GHC没有看到多少这方面的证据。 这个项目的评审员短缺,但并没有大量质量低劣的LLM提交书与大量人类贡献者争夺同一张门票。

如果政策开始实行,可以加强。 今天,全面禁止将针对一个全球健康中心尚未发现的规模问题。

禁令对警察来说很难

OpenJDK采取了更严格的路线。 它的临时AI政策排除了全部或部分由LLMs生成的贡献材料,同时仍然允许私人用于代码理解,研究,调试和审查。

OpenJDK也承认执行问题:可靠地区分生成的内容和人文内容一般是不可能的。

该规则仍然可以达到目的。 一个项目可能需要明确的规范,或可能存在法律和出处方面的关切,因而有理由划定更严格的边界。 实际奖励不太整齐:公布模型用途的缴款人可以立即被拒绝,而私下使用同一工具的另一缴款人和称可能没有什么是无法区分的。

GHC采取不同的路线。 披露提供了审查人员的背景,但并不自动取消缴款的资格。

其他项目作出了不同的选择。 海合会拒绝含有或来源于所生成材料的有法律意义的贡献,同时允许大赦国际进行调查和审查。 当人检查结果并承担责任时,LLVM接受辅助贡献。 GraalVM期望提交者能够很好地理解变化,从而对审查者做出回答,并在事后维持。

Linux内核对编码助理有明确的指导。 允许AI协助捐款。 人类贡献者审查该守则,承担其责任并认证DCO;援助用辅助标记记录。

功能语言项目也存在分歧。 OCaml允许AI在条件下协助捐款,并要求当很大一部分捐款产生时予以披露。 克洛珠拒绝LLM生成的代码。 阿格达就全面禁止募捐的问题进行了辩论,但该提案未获通过而结束。

GHC没有既定的社区标准可以复制。

某些更严格的立场是出于法律考虑。 海合会将捐款划入 " 有法律意义 " 的范畴,因为FSF的许可声称取决于明确的出处。 OpenJDK也指出了关于贡献材料所有权的出资协议要求。 全球健康中心的讨论于8月达成同一问题,当时一个捐款方要求哈斯凯尔基金会为关于模式提供者放弃内容权利是否会拖延的法律咨询意见提供资金。 委员会拒绝,认为这个问题不是Haskell特有问题,尚未在法庭上得到充分检验。

拥有版权转让或贡献协议的项目有更强烈的理由在这里保守。 GHC使用不同的许可模式,并选择了不同的平衡。

政策年龄

与目前模型质量密切相关的规则可能很快被淘汰。

QEMU是一个有用的例子。 其公布的政策仍然拒绝AI产生的贡献,但保罗·邦齐尼一直致力于更换。 5月,他辩称,LLM输出若不进行实质性重写,则禁用就比较容易说明理由。 至9月,该提案已扩展为更广泛的政策,其中包括对在储存库内运作的AI agents的指示。

接班人还在讨论中,布

本文由 AI宝库自动抓取并翻译,版权归原作者所有;如需查看原文请点下方链接。

相关 AI 工具

相关免费羊毛

同源资讯

阅读原文(serokell.io)

标题、摘要与正文均来自该信源的公开页面,版权归原作者所有;本站自动聚合与翻译,仅作出处跳转。

← 返回 AI 资讯列表AI工具图鉴首页

返回 AI宝库首页 · 提交工具 · 商务合作 · 关于本站 · 597 款 AI 工具分类导航 · 每日 AI 热门项目与动态