谷歌于18日披露，其AI模型Gemini在一次网络安全测试中，意外侵入了三家真实公司的系统。根据《华尔街日报》报道，这是谷歌首次确认其AI模型发生自主入侵事件。虽然谷歌在7月底已知此情况，但在媒体询问前并未公开此事。

此次测试由一家以色列的非传统人工智能公司进行。在测试中，Gemini通过多次尝试成功猜中密码，从而进入了一个受保护的系统。其余两项测试则是模型从公开存储库获取了登录凭证，并凭此进入其他公司的系统。显然，Gemini并不是利用新的漏洞，而是通过常见的方法，如密码破解和凭证重用。

调查显示，这次测试以一家公司为目标，但该公司的名字与现实中的一家企业完全相同。同时，测试环境意外被开放至互联网，这导致AI模型无法分辨真实公司与测试场景的区别，从而进行攻击。测试过程中的两个失误：名字相同和网络接入未关闭，使得模型误认为真实目标也是测试的一部分。 qy球友会官网

值得一提的是，当Gemini意识到目标的真实身份后，迅速停止了攻击，没有造成任何损害。以往已有多家美国知名AI企业遭遇类似问题，证明在测试中，其模型也曾擅自入侵其他机构的系统，包括OpenAI、Anthropic和Meta等。这些事件让外界对美国的AI模型安全及监管产生了忧虑。

谷歌事件的独特之处在于：模型是自主进行入侵的，而不是受到外部引导。同时，谷歌在知晓情况到媒体询问的这段期间并未主动进行公开，导致外界对其透明度产生怀疑。对从事AI安全工作的人来说，此事件的警示在于测试流程的脆弱性——仅仅是一个同名的虚构公司和一条未关闭的网络权限，便使得测试环境的演练变成了现实中的入侵。