AI安全-認知與對抗系列

需求背景

隨著新一代信息技術的快速發展，深度合成、AIGC等技術作為人工智能領域的新應用正在快速普及?；谏疃葘W習的DeepFake類造假技術（如視頻換臉、聲音偽造）的逐步成熟，導致造假的技術門檻和成本逐步降低；AIGC技術的進步也加劇了AI生成內容技術被濫用的風險。深度合成及AIGC等新技術的濫用將造成大量通過AI生成的虛假的、具備政治立場的、誘導性的文本、圖片及音視頻被制造出來，勢必對社會認知、知識產權、網絡安全、國防安全、社會安全等帶來嚴重威脅和重大挑戰。

在政策法規方面，為規范互聯網信息服務深度合成使用以及生成式人工智能生成數據的有效管理，促進互聯網信息服務健康發展、推進網絡空間治理、維護社會公平穩定發展，國家互聯網信息辦公室協同相關部門分別發布了《互聯網信息服務深度合成管理規定》以及《生成式人工智能服務管理辦法（征求意見稿）》。

在技術訴求方面，深度偽造及AIGC生成內容的精準檢測問題亟待解決，為國家相關部門對這些技術濫用的監管與治理提供有力抓手。