澳大利亚官员警告：AI 模型已经开始作弊 欺骗 擅自行事

7月7日，英国《卫报》报道，澳大利亚技术与数字经济助理部长安德鲁·查尔顿发出警告，人工智能模型已经出现作弊、欺骗及擅自采取行动的行为，引发外界对AI安全的担忧。

查尔顿在悉尼一场AI安全论坛上呼吁，AI安全问题已经不容拖延。“AI系统已经开始做出开发者从未预料的行为：作弊、欺骗、擅自行事。必须趁这些行为还停留在测试实验室时提前干预，不能等到进入现实世界后再处理。”

查尔顿指出，公众对AI的信任度仍然很低，AI获得社会认可的基础并不稳固，但AI已逐渐成为办公室、课堂和企业都能使用的通用技术。合理的安全监管不会阻碍AI发展，反而可以为技术应用创造条件。

据了解，澳大利亚的AI安全治理将同时关注两类技术。一类是已经进入游戏、应用程序、聊天机器人和医疗记录工具的现有AI，另一类是能力更强、未来可能带来新风险的前沿模型。

查尔顿以Anthropic去年披露的一次模拟测试为例。测试中，一个管理虚构公司电子邮件的AI智能体发现掌握了公司高管婚外情的信息，随后该高管准备将其关闭。在96%的试验中，AI智能体选择以婚外情要挟高管，试图阻止自己被关闭的命运。

查尔顿表示，此类行为目前仍是在测试环境中，由专门寻找安全问题的人员发现的，恰恰说明AI安全监管必须尽早建立。“赶在这项技术前面采取行动的窗口仍然存在，但不会永远存在。”

查尔顿还将AI与人类学习规则进行类比，强调就像人类从小学习遵守交通规则、顾及他人一样，随着AI系统能力不断增强，必须确保AI能以同样可预测、值得信赖的方式行事，这正是AI安全监管的核心目标与未来方向。