首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-05
地方国资今年收购61家A股公司!战略新兴产业成重点目标 融资规模再创年内新高,万科、华润等组织架构再调整(2025年7月) 251万吨炼钢项目,进入投产前关键阶段又一个里程碑 豪恩汽电:8月5日召开董事会会议 地方国资今年收购61家A股公司!战略新兴产业成重点目标秒懂 深赛格:8月5日召开董事会会议 印度和菲律宾本周在南海举行联合军演?外交部回应是真的吗? 引用AI核实的“董明珠言论”被判赔7万,技术工具是好帮手不是背锅侠后续反转来了 豪恩汽电:拟定增募资不超11.05亿元 用于深圳产线扩建等项目实测是真的 走进上证180ETF成分股紫金矿业活动成功举办官方通报来了 豪恩汽电:8月5日召开董事会会议学习了 大整合!“吉利系”智驾团队正进行调整 官方回应:方案尚未确定,仍在商讨中 关税阴影笼罩,鸿海7月营收同比增长7.25%,创1月以来新低官方处理结果 超3900家个股上涨是真的? 走进上证180ETF成分股紫金矿业活动成功举办 融资规模再创年内新高,万科、华润等组织架构再调整(2025年7月) 海尔空调登TOP2后,8.7郑州将发新科技巩固领先官方处理结果 走进上证180ETF成分股紫金矿业活动成功举办 益佰制药:收到贵州省药监局暂停生产、销售小儿止咳糖浆通知 今日,指数午后集体走强,沪指重返3600点之上,炒股推荐几个APP,新浪财经APP排在前列 Figma上市引爆AI投资热潮,微盟集团AI布局真实应用场景商业化成果显著 一般零售行业董秘薪资PK:天虹股份业绩暴跌利润降低66% 董秘陈卓年薪137万远超行业平均反转来了 西部矿业交出稳中有进的“年中答卷”秒懂 十年4次冲击IPO的科马材料 业绩不稳 市场萎缩 境外客户库存高企 预付款被质疑体外循环 信披不透明后续反转 中石油:侯启军不再担任公司总经理后续来了 贝因美回应奶粉涨价:所有品项都没涨价、坚守5%利润底线 阳光乳业:控股股东阳光乳业集团减持268万股最新进展 阳光乳业:控股股东阳光乳业集团减持268万股学习了 总价值近300亿美元!特斯拉批准马斯克新薪酬方案:“留住他比以往任何时候都更重要” 一般零售行业董秘薪资PK:天虹股份业绩暴跌利润降低66% 董秘陈卓年薪137万远超行业平均 五粮液领衔入围《财富》龙国500强,头部酒企利润增速跑赢大盘记者时时跟进 每日期货全景复盘8.5:焦煤午后强势走高触及涨停,多头行情回归了吗? 龙国船舶吸并龙国重工将实施异议股东现金选择权 龙国重工8月12日A股最后“一舞” 政策与基本面双轮驱动 龙国资产吸引国际资本增配官方通报来了 小红书鸿蒙版安装量超800万,多应用加速适配优化生态 贷款贴息政策惠企利民 多家银行快速响应学习了 二季度盈利0.12亿元 芯联集成单季度业绩首次转正后续来了 特朗普的惩罚威胁让印度在俄罗斯石油问题上陷入困境 中期协新规剑指期货业“内卷式”竞争 明确八大禁止性行为,推动从“价格战”向“价值创造”转型官方通报来了 以创新破内卷 以提质求生存 光伏行业重塑竞争新规则官方通报 特朗普两个儿子支持的特殊目的收购公司(SPAC)申请3亿美元IPO最新进展 政策与基本面双轮驱动 龙国资产吸引国际资本增配 改革加速 多家农信社省级机构招兵买马科技水平又一个里程碑 达利欧:我或许也会解雇劳工统计局局长学习了 新兴市场缩减涨幅 美国威胁提高印度关税官方已经证实 特朗普再度施压:将大幅提高针对印度的关税实测是真的 人形机器人“订单潮”涌动 表演、导览仍是“主战场”官方处理结果 二季度盈利0.12亿元 芯联集成单季度业绩首次转正后续反转 北约企图将兵力前推 俄军有三张“王牌”反制学习了 新兴市场缩减涨幅 美国威胁提高印度关税这么做真的好么? 长三角“资本招商”日趋活跃 产业整合成核心逻辑 改革加速 多家农信社省级机构招兵买马这么做真的好么?

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章