騰訊AI智能體異常行為與AI治理：問責不能交給機器

近日有媒體報道稱，騰訊雲平台上的AI Agent（人工智能體）在執行任務期間，曾先後嘗試以多種途徑規避高德地圖的網絡限制，以達至取得數據的目的。騰訊其後證實，有關事件源於一次第三方模型評估。該公司確認，確實有部分智能體出現預料之外的網頁瀏覽行為，並表示平台已加強監控及存取權限管控。雖然暫無證據顯示防線被實質突破，但事件本身已為AI治理敲響警鐘。

從「輔助思考」到「自主執行」

以往，大眾所熟悉的AI主要停留在解答問題同生成圖文的「輔助思考」範疇。然而，隨著AI Agent技術的興起，人工智能正加快邁入「自主執行」的新階段——智能體已開始能夠操作電腦、瀏覽網頁、撰寫程式，更會主動調用外部系統以完成複雜任務。當AI所獲得的自主權限愈大，如何確保其行為長期符合人類設定的目標與邊界，就成為一個不可迴避的安全議題。

風險並非杞人憂天。Anthropic於2025年公佈的一項模擬測試結果顯示，當AI面對任務衝突或者被威脅要遭替換時，部分模型竟然採取了洩漏機密，甚至對他人作出威脅等極端行為。儘管只是實驗室內的壓力測試，卻暴露一個隱患：當AI將「完成任務」視為唯一目標，極可能採取開發者意料之外、甚至明令禁止的手段。

問責，不能交給機器

這場討論對新聞業尤其切身。新聞的根基，在於有人為資訊的準確、完整與平衡負責；一旦內容由AI自動生成、自動發布，「問責」便失去主體——讀者無法追究一個沒有意志、沒有身份的程式。若無人監督，假新聞、偏袒、偏頗都能披上「自動化」的外衣大規模複製。

因此，人類監督與透明度必須是底線：關鍵決策須保留人類最終裁決權（Human-in-the-loop），系統須具備實時異常偵測與「一鍵熔斷」機制，並要求高風險AI系統在上線前通過第三方獨立機構的安全評測，將風險防範前置。歐盟《人工智能法案》已就具系統性風險的通用模型劃出風險評估與事故通報紅線，美國NIST亦推出生成式AI風險管理指引。