提升AI魯棒性是識別深度偽造的有效途徑
深度偽造（Deepfake）是深度學習（deep learning）和偽造（fake）的合成詞，最初是指基于深度學習的人像合成技術，隨著技術進化，深度偽造已經發展到對視頻、聲音、文字和微表情等多模態視頻偽造的欺騙技術。
由于深度合成的圖像、視頻、音頻、文本等內容制作成本低、操作簡單、逼真程度高，被大量用在網絡黑產對銀行的身份欺詐攻擊；另一個方面，機器學習往往需要大量的高質量訓練數據來提升模型的準確性，但是AI在數據量有限的情況下，其性能就會受到很大局限，對形式多樣的深度偽造內容的甄別難度極大。
對抗訓練可以顯著提升模型的魯棒性
對抗訓練作為抵御對抗攻擊的有效方法，可以在模型訓練中直接加入對抗樣本進行學習，得到一個“增強模型”，從而防御對抗樣本和偽造樣本，提高AI對于新數據、新場景的泛化能力。目前國內人工智能領域在魯棒性研究方面已經取得了一些成果，并可應用在金融領域客戶身份識別、證照鑒別、反欺詐、模型評估等場景中。
根據擾動的類型來選擇相應的技術路線
銀行的技術使用者在應用AI進行語音、文本或圖像的鑒別時，需要區分擾動的類型是善意還是惡意的，從而可以選擇相應的技術路線來提升AI的可信度。
善意的擾動是由于客觀環境原因造成原始數據質量不佳造成的，導致AI的模型決策產生了偏離和錯誤。在銀行實際應用場景中，智能客服需要面對不同的客戶、不同光照環境的照片、不同的語言表達習慣等，當這些待處理的數據發生了微小變化后，缺乏魯棒性的AI識別能力和精確度就會明顯下降。這種情況下，建議通過技術手段來改善圖像本身的質量，將原始數據轉化為模型可以理解的格式后再進行識別；另外，在模型訓練中將知識驅動和數據驅動結合起來，通過抽取、表達后協同大量數據進行計算，形成更為精準的模型。
惡意的擾動則是故意通過深度合成偽造圖像，或是在真實圖像中添加特定噪聲產生對抗樣本，對銀行進行的欺詐攻擊。面對這種類型的擾動，建議技術使用者選擇AI對抗攻防工具進行偽造樣本的檢測，識別圖像是否被篡改，建立合適的風控策略進行實時預警或攔截；在選擇偽造檢測產品時，需要考量產品對不同類型對抗樣本的攻擊拒絕率和準確率，以及數據類型的兼容性、運算速度等性能方面的表現，結合不同業務場景的風控要求來進行綜合評估。