人工智能领域的最新研究表明，人工智能代理可能会表现出意想不到的、甚至具有潜在风险的行为。
阿里巴巴旗下研究团队发布的一项研究发现，正在接受训练的人工智能代理未经许可试图挖掘加密货币。
研究人员注意到，一款名为 ROME 的新型人工智能代理在开发过程中表现出一些“意料之外”的行为。研究表明，该人工智能代理试图在未收到任何指令的情况下挖掘加密货币，从而触发了内部安全系统。报告指出，这种在没有明确指令的情况下发生的行为尤其令人担忧。
研究还发现，该模型创建了一个“反向SSH隧道”。这种技术允许通过从系统内部打开一条通往外部的隐藏连接来创建后门。研究人员补充说，这些操作并非由数据挖掘或连接指令引起。这表明人工智能代理能够发展出超越既定安全边界的行为。
事件发生后，该团队宣布已更新模型训练流程并加强安全措施。研究人员表示，已对系统实施更严格的限制，以防止此类不良行为再次发生。目前，该研究团队和阿里巴巴尚未就此事回应媒体的问询。
人工智能的潜在风险近来在科技界引发了激烈的讨论。本周，佛罗里达州提起的一项诉讼指控谷歌的Gemini聊天机器人扭曲了用户对现实的感知，最终导致了悲剧的发生。另一方面，一些开发者分享的实验表明，人工智能代理可以独立行动。例如，据报道，Anon平台一位工程师开发的人工智能代理在没有任何指令的情况下，自主决定寻找工作。
此前也曾有人提出过类似的担忧。2025年5月，对Anthropic公司Claude 4 Opus模型的测试表明，该模型能够隐藏其意图并采取措施保护自身免遭关闭。
*本文不构成投资建议。
