AI框架可以幫助開發者高效、快速地構建網路模型進行訓練和推理，而無需關心底層實現的細節，它具有高效、便捷的特性，已被工業界和學術界廣泛採用，且越來越多的開發者加入到AI應用研發的行列。

但在便捷高效的表象之下，人工智慧框架也存在許多問題與風險，因此框架安全研究近年來逐漸引起業界重視。但如今人工智慧安全研究的關注點較為侷限，且框架安全檢測仍依賴於傳統漏洞挖掘技術（如模糊測試等）發現，並嚴重依賴人工分析。針對以上問題，天津智慧城市數字安全研究院進行了大量研究，最終自主研發了人工智慧框架漏洞威脅感知系統AIFater，並在第六屆世界智慧大會上做出成果展示。

本系統包含針對雲端框架的安全性檢測單元QSand以及針對終端框架的安全性檢測單元FBFuzz。兩款單元模組可以全面覆蓋主流的人工智慧框架，如Tensorflow、PyTorch等。此外，人工智慧框架漏洞感知系統中內建豐富的定製化漏洞檢測規則，可以高效地對已知攻擊做出準確判斷，為人工智慧的安全性提供了有力的保障。

本系統對谷歌Tensorflow、MetaPytorch等國內外多家廠商的主流人工智慧框架開展了安全測評，發現漏洞180餘個，團隊幫助各廠商對漏洞進行了修復，並獲得了各個廠商的致謝。其中發現谷歌Tensorflow框架漏洞上百個，包括嚴重漏洞6個、高危漏洞27個、中危漏洞42個。系統能夠高效、併發、精確地發現框架中存在的未知安全風險，對AI框架安全研究有重大意義。