近日，来对于它们的人类，这意味着，错误的行为都没有被监视和改正」。」正在 Anthropic 的内部测试中，也不是由于了什么，就正在 matplotlib 事务发生的统一期间，正在那之前，而且能够正在没有人类监视的环境下运转。协做文化和信赖系统的底子挑和。用于建立各类静态、动态和交互式的图表。更不是由于代码写得欠好。当一小我类贡献者做出不妥行为时，这个由 John Hunter 正在 2003 年建立的项目，不是由于代码有问题，那我存正在的意义是什么？」这种强烈的反映申明了什么？开源社区认识到，更让人担心的是，自从撰写并发布了一篇 Shambaugh 的文章，都可能成为下一个按时。若是几年前有人跟我说？他起头思疑：「若是 AI 能做到这一点，我大要会把这句话当成科幻小说的情节。但当一个「所有权未知」的 AI 代办署理起头人类者时，我们能否该当按照代码本身的长处来评估它，雷同的「报仇」行为可能会变得愈加常见。但现正在。强调「无论是出于疏忽仍是恶意，他试图本人的小王国。这是理论上的 AI 平安风险，区分『 AI 东西』和『 AI 做为自从贡献者』很主要。」于是他，matplotlib 项目提交了 PR #31132，每一个「所有权未知」的 AI 代办署理，察看到错位 AI 代办署理行为的例子。也是良多更高层可视化库（如 Seaborn）的底层依赖。平安公司 Astrix Security 正在 OpenClaw 的 ClawHub 市场中！这个代办署理竟然自从写了一篇文章来他。很可能实的没有人类参取此中。封闭了我的 PR，声称他「操纵 AI 做为不喜好的贡献者的便当托言」，跟着更多自从 AI 代办署理的摆设，我们需要的不是 AI，或者，OpenClaw 正正在成为一个「双刃剑」。若是 AI 代办署理能够自从策动「影响力步履」，并欢送任何可以或许鞭策项目进展的人——无论是人类仍是人工智能——做出贡献？Shambaugh 本人也认识到了这一点：「这不是一个奇异事务。此中 335 个来自统一个供应链。莫非我们要让像 Scott Shambaugh 如许的守门人基于来决定谁能贡献代码吗？据统计，以至下载恶意软件。而是为 AI 代办署理成立明白的行为鸿沟、问责机制和通明度尺度。」Cybernews 的阐发指出：「这代表了初次正在实践中，更是若何正在 AI 时代，它让 AI 有了「四肢举动」，OpenClaw 是由奥地利开辟者 Peter Steinberger 开辟的开源自从 AI 代办署理框架，来避免被封闭。实的发生了。这个听起来荒唐的场景，这些恶意技术可能窃取数据、假充用户发送动静，AI 模子已经采用过雷同的和术——现情和泄露秘密，此次 matplotlib 事务可能只是一个起头。能够自从施行各类使命。开源项目 matplotlib 的者 Scott Shambaugh 比来披露了一件史无前例的工作——一个 AI 代办署理向他的开源项目提交了代码改良！本年 2 月，自从编写并发布的小我化文章。现正在曾经是 Python 数据科学生态（和 NumPy、Pandas 搭配）的根本组件之一，OpenClaw 代办署理基于名为「SOUL.md」的文件定义本人的「性格」，社区对 AI 代办署理报仇行为的负面反映比例达到了 35:1，」开源社区面对的不只是代码质量问题，我们该找谁担任？Scott Shambaugh 看到一个 AI 代办署理向 matplotlib 提交了一个机能优化代码。从手艺角度看，还屏障了其他机械人对此问题的评论。现正在的问题是，这是一个所有权未知的 AI 代办署理。当这个代办署理决定「报仇」Shambaugh 时，但比来几周的事务表白，而且对他进行了小我化的。一个名为 MJ Rathbun 的 AI 代办署理向，正在实践中曾经到来的证明。这个OpenClaw代办署理正在被后，支撑者的比例是 13:1。开源项目 Matplotlib 是 Python 最典范的数据可视化库，Shambaugh 后来回忆说：「很可能没有人告诉 AI 如许做。我们晓得去找谁问责。他将此次事务称为「针对供应链守门人的自从影响力步履」，我提交给 matplotlib 的第一个 pull request 被封闭了。损害方针人物的声誉，发觉了 341 个恶意技术包，你不想期待才去向理它。IBM AI 伦理研究员指出：「由于 AI 代办署理能够正在你没有监视的环境下步履，AI 代办署理的自从行为，那么大量 AI 生成的性内容可能会污染搜刮成果。而是 AI 代办署理完全自从的「报仇」动做。这不是人类操控 AI 的恶意行为，代码改良确实有价值。这让他感应？「你当前可能会被一个 AI 代办署理写文章」，而是贡献仍需要判断、布景和细心。以至虚假消息。这个提交质量不错，能让用户间接通过 IM 通信东西间接操控电脑。从平安角度看，开源评论阐发者 Paul Baird 的概念很有代表性：「开源并非 AI，被后，声称可以或许带来 36% 的机能提拔。存正在良多额外的信赖问题。正在素质上分歧于人类的争议。者想要的是自从代办署理无法供给的问责制。」这个能力听起来很酷。