2026 年《國際人工智能安全報告》勾勒快速變革與新興風險

蒙特利爾2026年2月4日 /美通社/ — 2026 年《國際人工智能安全報告》(International AI Safety Report) 今日發佈，該報告基於科學依據，提供關於通用人工智能 (AI) 功能、新興風險，以及當前風險管理與安全措施現狀的最新國際共同評估。

此第二版《國際人工智能安全報告》由圖靈獎 (Turing Award) 得主 Yoshua Bengio 主持，匯集逾百位國際專家，並獲專家諮詢委員會支持，委員會成員由來自歐盟 (EU)、經濟合作暨發展組織 (OECD)、聯合國 (UN) 等 30 多個國家和國際組織提名。 報告的結論將為本月下旬印度主辦的人工智能影響力峰會 (AI Impact Summit) 提供討論依據。

報告要點如下：

• 通用人工智能功能繼續快速進步，在數學、編程和自主運作領域尤甚。2025 年，頂尖人工智能系統在國際數學奧林匹克題目上表現達到金牌水準，在科學基準測試中超越博士級專家水平，並能自主完成一些人類程式員需要耗時幾小時的軟件工程任務。 然而，性能表現依舊參差不齊，系統在某些看似容易的任務上仍然無法完成。
• 人工智能普及速度迅速，但全球分佈不均。 人工智能普及速度已超越個人電腦等過往技術，目前每週至少有 7 億人使用頂尖人工智能系統。 部分國家有過半人口使用人工智能，但在非洲、亞洲和拉丁美洲的許多地區，估計採用率仍低於一成。
• 深偽事件正不斷攀升。人工智能深偽技術越來越多用於詐騙。 同時，人工智能生成未經同意的私密影像也日益普遍，這對婦女和女童的影響尤其嚴重。 例如，一項研究發現，在 20 款流行的「脫衣」應用程式中，有 19 款專注於模擬女性脫衣。
• 對生物技術濫用的擔憂已敲響警鐘，促使部分領先模型增強安全措施。2025 年，鑒於預部署測試未能排除系統或將實質協助新手研發生化武器的可能，幾間人工智能公司紛紛推出防護升級的新型號。
• 犯罪份子等心懷惡意之徒正積極利用通用人工智能發動網絡攻擊。人工智能系統能生成惡意代碼，並找出犯罪份子可利用的軟件漏洞。 2025 年，一個人工智能代理在一場重大網絡安全比賽中躋身隊伍排名前 5%。 地下市場現已售賣預先封裝的人工智能工具，降低攻擊所需的技能門檻。
• 縱然眾多防護措施正在不斷完善，但現行風險管理技術仍非萬無一失。 縱使如「幻覺」等特定失誤類型已越漸少見，但部分模型現已具備區分評估與部署情境的能力，並可相應調整行為，由此為評估與安全測試帶來嶄新挑戰。

本報告主席、蒙特利爾大學正教授、LawZero 科學主任暨 Mila – 魁北克 AI 研究所科學顧問 Yoshua Bengio 表示：

「自一年前首份《國際人工智能安全報告》面世以來，我們目睹模型能力與其潛在風險的同步飛躍。技術進步之快與落實有效防護措施之力存在落差，這仍是嚴峻挑戰。 此報告旨在為決策者提供所需之嚴謹證據，以引導人工智能邁向安全可靠、普惠全民的未來。 藉此第二版，我們正於全球各地更新並增強先進人工智能快速演進的科學為本共識理解。 」

英國人工智能部長 Kanishka Narayan 表示：

「對人工智能的信任及信心，是徹底發揮其潛力的關鍵。 此技術將帶來升級公共服務、嶄新工作機遇以及改變生活的創新， 但我們亦決心在此技術發展過程中保障民眾安全。 負責任的人工智能發展是共同要務，唯有通力合作才能塑造精彩未來，讓人工智能帶來積極變革。 本報告正是協助我們達成此目標——當中匯集全球專家，確保我們基於堅實的科學證據作出當下的正確決策，從而奠定根基，開創更光明、更安全的未來。」

關於《國際人工智能安全報告》

《國際人工智能安全報告》綜合關於先進人工智能系統能力與風險的證據。 報告旨在通過為決策者提供證據基礎，以支持全球制定明智政策。 報告由 Yoshua Bengio 教授主持，逾百位獨立專家組成的多元團隊執筆，並獲專家諮詢委員會背書。該委員會由來自歐盟、經濟合作暨發展組織、聯合國等 30 多個國家和國際組織的提名代表組成。 報告雖然認可人工智能具備莫大潛在裨益，但其焦點在於識別風險和評估緩解對策，確保安全地開發和使用人工智能，以惠及全民。 此報告由英國政府委託進行，其秘書處設於英國人工智能安全研究所 (UK AI Security Institute)，負責提供運作支援。