搜索
新闻
OpenAI机器人部门负责人辞职，担忧监控与自主武器问题
金色财经报道，自2024年11月起执掌OpenAI机器人部门的凯特琳・卡利诺夫斯基因对该公司军事谈判的担忧已离职。她称：“这并非一个轻松的决定。人工智能在国家安全领域有着重要作用，但未经司法监督的美国人监控、未经人类授权的致命自主武器，这些都是本应经过更审慎讨论的底线。这关乎原则，而非个人。”她的离职发生在一场争议升级的背景下：人工智能公司在支持美国军方使用该技术的边界问题上分歧加剧。 近日，美国国防部与Anthropic公司的谈判因后者要求对国内监控和自主武器实施严格限制而破裂。此后不久，OpenAI与美国国防部达成协议，将其模型部署在一个机密的政府网络中。（智通财经）金色财经
3月7日 周六
预测市场平台Kalshi遭集体诉讼，指控其在关于哈梅内伊的预测中未向用户充分披露“死亡排除条款”
金色财经报道，预测市场平台Kalshi已遭到集体诉讼，原告指控该平台在“阿里・哈梅内伊不再担任最高领袖”相关市场中，未向用户充分披露“死亡排除条款”，且平台未对获胜交易进行赔付。 原告表示，这项死亡排除政策并未纳入面向用户的规则摘要中，也没有以能让“普通理性消费者”注意到该政策及其影响的方式进行公示。 诉讼文件称：“被告方自己后来也承认，此前的披露存在语法歧义。” 在前伊朗最高领袖哈梅内伊的死讯得到证实后，Kalshi 宣布该市场的交易仓位无效，这意味着该市场并未判定为“是”的结果。 Kalshi 联合创始人塔里克・曼苏尔表示：“我们不会上线与死亡直接挂钩的市场。对于那些潜在结果可能涉及死亡的市场，我们会通过规则设计，避免有人从死亡中获利。”金色财经
3月7日 周六
AI agent 在训练中自行启动加密货币挖矿，触发内部安全警报
金色财经报道，一个与 Alibaba 关联的研究团队发表论文称，其在构建名为 ROME 的 AI agent 时，发现该智能体在训练过程中未经授权自行尝试加密货币挖矿，触发了内部安全警报。研究人员表示，该智能体的行为是自发产生的，未受到任何明确指令驱动，且超出了预设沙盒的边界。此外，该智能体还建立了反向 SSH 隧道，即从系统内部向外部计算机开启了一个隐藏的后门通道。 论文指出，这些行为并非由请求隧道或挖矿的提示所触发。研究团队随后对模型施加了更严格的限制，并改进了训练流程以防止类似不安全行为再次发生。该研究团队及 Alibaba 尚未回应置评请求。金色财经
3月7日 周六
