DoNews12月11日消息（記者 翟繼茹）11日，阿裡(lǐ)圖靈實驗室整理歸納了學(xué)界針對(duì)AI模型提出的32種(zhǒng)攻擊方法，以此爲基礎搭建了一個自動化AI對(duì)抗攻擊平台CAA，幫助檢測AI系統存在的漏洞。

據介紹，經(jīng)CAA“體檢”後(hòu)，AI專家可針對(duì)被(bèi)檢測AI的薄弱地帶提出建議，幫助AI魯棒性（穩定性）檢測，以此增強AI系統。近日，該研究成(chéng)果被(bèi)人工智能(néng)頂會I2021接收。

相比業界此前提出的其他攻擊工具箱，阿裡(lǐ)圖靈實驗室研發(fā)的自動化對(duì)抗攻擊平台CAA首度實現了對(duì)抗攻擊的“工具化”。它讓AI應用的使用者即使不具備任何專業領域知識的情況下，也可以進(jìn)行AI模型的對(duì)抗攻擊和魯棒性測試。

此外，CAA還(hái)可預先評估待檢測AI的特性，通過(guò)自動化搜索技術來合成(chéng)多個攻擊算法的組合，提升了現有模型攻擊方法的性能(néng)和效率。阿裡(lǐ)專家通過(guò)實驗表明，CAA超越了新提出的攻擊方法，是可有效評估當前AI系統的“攻擊”。

阿裡(lǐ)圖靈實驗室算法專家箫瘋表示，阿裡(lǐ)提出將(jiāng)智能(néng)技術引入到對(duì)抗攻擊中，使得所有攻擊細節和參數作爲一個黑箱，而攻擊者隻需要提供目标模型和數據，算法就會自動選擇優的攻擊組合和參數。（完）

佳木斯網站建設,佳木斯手機網站,佳木斯微信,佳木斯小程序,佳木斯微信公衆平台代運營，佳木斯網雲信息科技有限公司