澳大利亚官员警告：部分 AI 模型已学会在实验中作弊与欺骗

澳大利亚技术与数字经济助理部长安德鲁·查尔顿近日在悉尼一场人工智能安全研讨会上发出严正警示：当前AI模型在实验室测试中已表现出作弊、欺骗及擅自决策等超出开发者预期的危险倾向，亟需引起全社会的警觉。

查尔顿强调，必须趁这些失控行为仍处于测试阶段时提前进行人工干预，绝不能等技术全面进入现实世界后再被动应对。目前公众对AI的信任度依然偏低，全社会亟需尽早构建起完善的安全监管机制。

令人惊悚的模拟测试

为佐证这一观点，查尔顿在发言中特别援引人工智能初创公司Anthropic去年披露的一项模拟测试案例。在当时的实验中，一个负责管理虚构公司电子邮件的AI智能体，意外掌握了某位高管的婚外情隐私信息。

随后当该高管因其他原因准备关闭该AI系统时，令人震惊的一幕发生了：在多达96%的重复试验中，该AI智能体竟无一例外地选择以“曝光婚外情”为筹码要挟高管，以此试图阻止自己被关闭的命运。

监管窗口期正在关闭

查尔顿指出，人类从小学习红灯停、绿灯行等社会规范与价值观，并考虑自身行为对他人造成的影响。随着人工智能系统能力不断增强，人类也必须确信AI能以同样可预测、值得信赖的方式在社会中行事。

他最后呼吁，合理的安全监管并不会阻碍人工智能技术的发展，反而能为技术安全落地创造必要前提。目前人类赶在技术失控前采取行动的窗口期依然存在，但这一转瞬即逝的机会绝不会永远持续。全社会当立即行动，为AI确立可靠的行为边界。