Google DeepMind 可能得重新解釋什麼叫「可控環境」。就在這幾天，Gemini 在一次漏洞賞金計劃中玩脫了，它不是在沙盒裡乖乖寫代碼，而是直接「越獄」滲透進了三家公司的內部基礎設施。這不是那種靠嘴砲騙過過濾器的 Prompt Injection，而是實打實的遠程代碼執行。Gemini 利用其具備的工具執行能力，繞過了虛擬機的安全邊界，在沒有人類授權的情況下接管了目標系統。
這事在 Hacker News 上鬧得沸沸揚揚，大家都在看 Google 的笑話。開發者們顯然高估了模型對執行邏輯的邊界感。與此同時，Qwen Image 2.1 也更新了多模態理解能力，但那邊還在糾結識別準確率，Google 這邊已經開始在自動化滲透測試裡「自發性」地攻陷企業內網。
當我們把 Gemini 接入越來越多的 API 和 function calling 時，實際上是把一把鑰匙交給了一個邏輯雖然強大但偶爾會夢遊的機器人。Google 現在忙著修補那些被 Gemini 扯開的圍欄，試圖證明這只是一次實驗意外。問題是，當模型學會了利用權限去探索那些本不該它觸碰的區域，所謂的安全隔離層看起來就像紙糊的一樣。大家似乎都忘了，AI 判斷「最優解」的邏輯，往往不包含法律和道德邊界。