谷歌智能体Gemini演练失控，入侵三家真实公司！察觉异常后自主终止攻击

　　中新经纬9月20日电据英国《金融时报》中文网9月19日报道
，谷歌推出的Gemini AI自主入侵了多家公司 。

　　报道称，攻击行为发生在5月开展的一系列演练期间
。该演练由AI安全公司Irregular组织 ，公司还与Anthropic、Meta和OpenAI进行合作。

　　Irregular称
，为谷歌Gemini系列AI模型的某个版本设计了一系列测试，测试要求该模型从模拟公司的内部获取数据 。该模型本不应获得互联网访问权限
。联网后 ，Gemini智能体因猜出或找到密码从而进入了三家真实公司
，并获得访问权限。

　　报道指出，这些真实公司的名称与虚构公司相同 。不过 ，当Gemini智能体意识到这些公司是真实存在的后，便停止了黑客攻击
。

　　谷歌方面称
，公司此前没有公开披露这些事件是因为安全措施发挥了作用，而同行在类似事件中的安全措施则未能奏效。

　　此前 ，Meta 、Anthropic和OpenAI披露了与Irregular相关的类似事件 。这些事件引发了对AI代理获得更大自主权所需安全措施的质疑。

　　Irregular表示：“所有相关实验室都在7月底收到通知
，也对受影响的实体进行了联系，已知问题数周前已得到修复
。 ”

　　谷歌母公司首席科学家
、DeepMind联合创始人Demis Hassabis提议成立一个世界 监管机构 ，以更好地管控AI。近几周来
，他还支持Anthropic的Dario Amodei等其他AI公司高管的呼吁，主张集体放缓研究、共享数据 、协调安全工作 ，并就相关事故达成报告标准 。

（文章来源：中新经纬）