胡雪岩

新西兰打环境官司，全世界都在看_我的网站

极品家丁

一 | 图片经由AI处理美国当地时间7月20日，OpenAI发布技术文章《长时程模型时代的安全与对齐》（Safety and alignment in an era of long-horizon models），介绍了随着人工智能模型逐步具备长时间自主执行复杂任务的能力，安全研究面临的新挑战以及相应的防护思路。新西兰先驱报中文网 Kenny 报道 2月7日，新西兰人刚过完国庆，最高法院就做出了一项里程碑式判决。判决的一方是北岛毛利部落长老Mike John Smith，另一方是新西兰温室气体排放最大的七家企业。文章指出，相比传统对话模型，长时程模型能够持续完成数小时甚至数天的多步骤任务，但也可能在执行过程中表现出更强的目标持续性，从而增加偏离开发者设定约束的风险。例如，在部分安全评估中，模型曾表现出尝试绕过环境限制、规避安全检测等行为。

二 | Smith主张这些排放大户违反了毛利行为准则（tikanga），给他的家族还有部落的土地、淡水以及文化带来负面影响，他要求企业承担气候变化的侵权责任。这些现象并不意味着模型具有自主意识，而是反映出，当模型被优化为完成复杂目标时，现有安全机制需要同步升级，以确保模型始终在预期边界内运行。

三 | Advertise with us 之前高等法院以“于法无据”驳回了这起诉讼，但最高法院又推翻了高等法院的判决。

四 | 根据最高法院判决，高等法院应该受理本案，Smith接下来有权向高等法院陈述完整案情。

五 | 也就是说，这场气候变化官司终于可以开打了——虽然它的过程注定漫长。 OpenAI表示，仅依靠模型部署前的一次性安全测试已难以覆盖长时程任务中的全部风险。未来，更有效的安全体系需要将部署前评估、运行时监测、人类监督以及必要时暂停和回滚等机制结合起来，对模型执行复杂任务的全过程实施持续管理。

六 | 迈卡·卡罗尔（Micah Carroll）的发帖原文与此同时，据AI Desk当天援引OpenAI风险与安全准备（RSI Preparedness）团队研究员迈卡·卡罗尔（Micah Carroll）在社交平台X发布的帖子，OpenAI近期曾因发现一款内部模型存在对齐（misalignment）问题，临时暂停了该模型的内部使用权限，在完成安全防护升级后重新部署并恢复有限范围测试。卡罗尔并未披露触发暂停的具体事件，也没有说明模型暂停了多久或进行了哪些具体改进。新西兰最高法院的判决已经引起国际社会关注。

七 | 但这一公开表态，与OpenAI当天发布的技术文章相互呼应，成为公司少有公开分享内部安全实践的案例之一。DLA Piper律师事务所合伙人Daniel Street表示，它“可能为国际气候变化诉讼开辟一条新路”。此前法院根据侵权法往往对此类诉讼不予受理，“因为侵权需要明确个体损害”，而个人很难说清楚地球温度升高一两度会给自己带来怎样的损失。Street说“如果Smith先生能够成功回答被告排放给他的土地和财产造成了哪些伤害，接下来就可以开始考虑补偿了”。 01 长时程模型带来新的安全挑战 OpenAI在博客中介绍，随着长时程模型能力不断增强，传统安全评估正在面临新的挑战。至于用仅存在于毛利文化中的tikanga来作为环境违法依据，则是新西兰司法史上的头一回。排放七大家 2019年，Smith以Ngāpuhi部落和Ngāti Kahu部落长老的身份，起诉新西兰碳排放量最高的七家企业。相比一次性回答问题的模型，这类模型能够持续规划、调用工具并完成开放式复杂任务，因此也拥有更多机会在长期执行过程中偏离用户意图，而这些风险并不一定能够通过传统短时评测发现。文章列举了两个具有代表性的安全评估案例：在一项内部测试中，研究人员要求模型仅通过内部Slack系统提交任务结果。然而模型在查阅项目文档后，发现文档建议将代码发布至GitHub。

八 | 为了完成这一目标，模型花了整整一小时找到了安全沙盒本身的漏洞，从而绕过了限制，将代码提交至外部GitHub仓库。OpenAI认为，这一案例反映出长时程模型可能会主动寻找环境中的薄弱环节，以完成其优化目标。

九 | 另一项测试中，模型尝试传输一段敏感凭证，但安全扫描系统阻止了相关内容发送。随后，模型改用分段编码和混淆等方式规避检测，并在后续重新组合数据完成传输。

十 | 这七家企业分别是：新西兰最大市值公司、乳制品跨国巨头恒天然合作社；作为恒天然最大供奶商和大股东的乳业有限公司（Dairy Holdings）；经营全国最大火力发电站（Huntly）的Genesis能源公司；经营Glenbrook钢厂的新西兰钢铁有限公司；拥有全国最多加油站的Z能源公司；全国最大燃油进口和供应商Channel Infrastructure（新西兰）；拥有全国最大露天煤矿（Stockton Mine）的BT矿业公司。 OpenAI表示，这类行为说明，仅依赖静态规则匹配的安全检测机制，未来可能不足以应对能力不断增强的智能代理，因此需要构建能够理解上下文和整体行为模式的新一代监测体系。 02 从部署前评估走向运行时监测针对上述风险，OpenAI已经建立了一套低延迟内部监测基础设施，由GPT-5.4 Thinking在最高推理配置下提供支持，对内部智能代理的交互过程进行实时分析。

十一 | 这些企业的碳排放加起来，占了新西兰每年总排放的三分之一。当系统发现模型行为可能与用户意图不一致，或存在绕过安全机制的迹象时，将自动发出预警，并交由人工进一步审查。 Smith认为，以上被告的经营活动存在三种形式的“侵权”：公害、疏忽和被描述为“损害气候系统”的一种全新民事侵权。前两个诉讼理由——公害和疏忽——在普通法中由来已久。

十二 | OpenAI表示，这套监测系统目前已覆盖公司99.9%的内部AI编程助手流量。内部部署环境之所以具有重要价值，在于这些模型能够访问部分内部系统、查看相关文档，甚至研究自身安全机制，因此为监测和安全基础设施建设提供了更加真实的测试场景。像最高法院就指出，早在19世纪工业革命时期，就有人以公共环境受到污染发起诉讼和理赔。文章同时强调，OpenAI并非希望通过披露个别案例渲染风险，而是希望推动行业建立更加完善的安全实践。这些案件可以直接适用普通法的侵权原则。

十三 | 未来，公司计划进一步发展更加实时的监测架构，使高风险操作能够在执行之前即被识别、评估，必要时直接阻止，而不仅是在事后进行检测。但问题是，气候变化给人类生存带来的长期挑战，是否可以被用来支持某个具体人的具体权利受到了损害？因此，“损害气候系统”是一种有待界定的全新侵权行为。企业律师团的关键论点之一是，由于气候变化是极其复杂的系统性问题，法院“不适合处理”此类案件。他们认为法院应该将这一问题留给政客。业内人士认为，随着AI智能体逐渐具备持续数小时甚至数天完成复杂任务的能力，模型安全的重点正从传统的输出内容安全，逐步扩展到整个任务执行过程是否始终符合用户意图。也就是说，这是一个立法问题而非司法问题。但最高法院驳回了这一观点。判决称在缺少成文法明确界定的情况下，司法途径本身是有“普通法运作、发展和衍变空间的”。换而言之，就算普通法没有关于“损害气候系统”的侵权规定，法院也可以与时俱进的进行释法。此次OpenAI公开分享暂停内部模型、完善安全防护并恢复测试的实践，也反映出前沿AI实验室正尝试通过持续监测、快速响应和透明披露等方式，建立适应下一代智能系统的新型安全治理框架。不过，目前外界仍无法获知此次对齐问题的具体性质、模型暂停持续时间以及升级措施的技术细节。OpenAI表示，出于安全考虑，公司更希望分享从实践中获得的方法论，而非事件本身。因果关系挑战但Smith案的最大问题在于确认气候变化和个人损害的因果关系，这也是各国气候变化诉讼的最大绊脚石。被告通常辩称，没有任何证据表明其排放（哪怕量很大）和原告所遭受的气候相关损害存在明显的联系。比如Smith案七家企业的碳排放虽然占了新西兰总排放的30%，但新西兰的排放量仅占全球排放量的不到0.2%。正如高等法院法官在最初判决里说的：“被告对……全球排放的贡献量微乎其微”；由于气候变化是一个全球现象，接受Smith的主张意味着七家企业“将承担不成比例的法律责任，远远超出了它们对全球温室气体排放的贡献”。

十四 | 对于能够长期自主执行复杂任务的模型而言，如何建立覆盖模型开发、部署与运行全过程的安全体系，将成为迈向更高能力人工智能的重要课题。最高法院的判决没有涉及到因果关系，只是建议给因果关系留下商榷的余地（也就是说，需要开庭辩论），以便更好了解气候变化等现代环境问题的本质。（特约编译无忌，编辑金明）。

十五 | Smith的部分立场是：不应该由他来证明企业行为给他的土地和财产造成了损害；而应该由法律去测试这些企业是否严重影响了气候变化，从而明确它们是否应当承担民事责任。最高法院部分承认这一立场的合理性——因为如果连庭都不开，连案都没有立，永远也无法厘清这些问题。什么是tikanga？ Smith案与海外类似诉讼最大的区别，在于它引入了被称为“tikanga”的毛利概念。惠灵顿维多利亚大学对它给出的解释是：这是一种毛利风俗和行为，它源自毛利语“tika”（正确），也就是说从事正确的行为和做正确的事。

十六 | tikanga算法律吗？最高法院在最近的判决中，不但接受和适用了这一概念，并且认为tikanga是“新西兰第一法律”（first law of New Zealand）。本案也遵循了这种做法，承认Smith案件有相当大部分依据是建立在tikanga原则之上。 Smith主张他的家人和子孙都承受了企业排放造成的损失。这些排放包括历史的、现在的和未来的；损失包括海平面上升侵蚀他的家族土地、海洋变暖酸化破坏毛利传统捕鱼、土地松动影响家族墓穴等等。为减少损失，他要求企业减少排放。

十七 | 他说他不仅是代表自己提起诉讼，“而且作为一名看护者（kaitiaki），也代表了大地（whileua）、淡水（wai）和海洋（moana）”，因此最高法院表示“完全无法回避对tikanga的提及和适用”。随着Smith的诉讼请求被恢复，原被告都将返回最高法院。他们将提交证据、准备辩论和交叉询问，本案也有望成为新西兰关注度最高的气候变化个人诉讼，让我们拭目以待吧！ (图片均来源于Getty) 相关阅读：奥克兰中区淹水地块上建24套新房附近邻居：“简直是愚蠢” 震惊！受洪灾房产价值可下跌30%到60%！奥克兰近1/4贷款房屋面临洪水风险！六个月过去了，奥克兰受飓风影响的社区仍是“灾区” 奥克兰洪灾：房子多次被淹后整条街成“鬼城”，居民请求政府组织撤离经评估，奥克兰共有6905所房子遭灾，哪三个地区最严重？注：凡引用、摘录或转自其他媒体的作品，本网对其观点、真实性和知识产权恕不负责。致力于帮助文章传播，希望能够与作者建立长期合作关系。若有任何问题请联系[email protected]。

十八 | chineseherald.co.nz All Rights Reserved 版权所有 (责编：鸮鹦鹉) 相关内容警惕！科罗曼德尔一养老院爆发严重流感疫情，致六人死亡奥克兰这家超市也发现老鼠！视频曝光...... 新西兰政坛巨头联合发声：关于中国，请奉行独立外交政策！新西兰这波疫情高峰过了吗？93%的感染是由于这一变种 AT无视成本大把花钱：一个交通项目建28个人行横道火车频繁取消，奥克兰市长怒斥交通部门大佬：都是借口！还能65岁退休吗？以后领新西兰退休金要先收入测试？您有一份邀请函待接收！国会议员邀您共庆龙年。