針對人工智能(AI)算法的網(wǎng)絡攻擊新聞已不再罕見，現(xiàn)在幾乎每天都在發(fā)生。研究人員發(fā)現(xiàn)，無論是在實驗室環(huán)境還是在實踐中，算法都十分脆弱。在許多頭條新聞中，我們看到人臉識別系統(tǒng)可能被特殊眼鏡和黑客操縱的醫(yī)療應用程序欺騙，比如AI癌癥診斷系統(tǒng)。

AI的進步、新神經(jīng)網(wǎng)絡的構成以及神經(jīng)科學新模型的出現(xiàn)都表明，我們正在接近這樣的現(xiàn)實，即AI算法可以復制大腦功能。盡管這些技術還遠遠不夠完美，但AI和人類大腦有許多驚人的相似之處，尤其是在圖像處理技術方面。

最近，科學家們發(fā)現(xiàn)，黑客不僅可以對神經(jīng)網(wǎng)絡發(fā)起對抗性攻擊，也可以對人類發(fā)起類似攻擊。通過某些操作，他們成功地對狗的圖像進行了修改，讓人們誤以為它是貓。然后，科學家們又改變了蛇的圖像，使它看起來像蜘蛛，反之亦然。

這項研究之所以引起了我的注意，是因為它提供了很好的例子，我們可以把它付諸實踐，檢查各種情況下發(fā)生欺騙的可能性。這促使我做了個實驗，調(diào)查人們對這些照片的反應，尤其是那些患有蜘蛛恐懼癥的人。喜歡蛇的人(同時也對蜘蛛有很深的恐懼)看到蜘蛛變成蛇的畫面會感到不舒服。

然而，當他們意識到照片中的主體確實是蜘蛛時，他們的不安變成了恐懼。這些實驗表明，這種類型的對抗性攻擊可以在潛意識中發(fā)揮作用。也就是說，某個人沒有意識到圖片有什么問題，就像算法不能識別攻擊一樣。因此，當涉及到對抗性攻擊和網(wǎng)絡安全時，我們必須考慮到，即使是人類的眼睛，這個復雜的器官和長期進化的產(chǎn)物，也無法抵御這種攻擊。從這個意義上說，很容易看出對感官的攻擊可以與對算法的攻擊進行比較。

雖然神經(jīng)語言程序設計(NLP)還沒有得到科學的證實，但對語言或其他感官的對抗性攻擊可能與這個領域有關。事實上，對AI的隱私攻擊可以被視為吐真藥或催眠，讓我們研究以下幾種AI欺騙人類大腦的示例：深度學習模型可以通過大量的圖像數(shù)據(jù)集進行訓練，從而根據(jù)一張照片來識別一個人的信任水平。使用AI進行對抗性攻擊可以創(chuàng)建任何人最“可靠”的照片，并提高受眾的信任水平。

我們所需要的只是改變一張照片，這樣照片才能激發(fā)信任。它可以被用于廣告，由于照片的快速調(diào)整，你會更容易吸引客戶青睞!

現(xiàn)在，讓我們來看看音頻信息和語音感知的過程。當我們聽到某個詞，沒有上下文我們無法解釋它的意思時，我們經(jīng)常會在腦海中產(chǎn)生幾個猜測。當我們聽到一個句子的結尾時，我們的大腦會固定信息，并推斷出某個單詞的最終含義。這種機制類似于遞歸神經(jīng)網(wǎng)絡中基于注意力的模型。

在我們解密信息之前，沒有上下文存在的所有含義都會在某種程度上被下意識地處理掉，它們會對我們的思維產(chǎn)生輕微的影響。如果人類的大腦能夠識別由多義詞組合而成的句子的不同可能含義，人們就能在不經(jīng)意的情況下接收到平行乃至互相矛盾的命令。而巨大的數(shù)據(jù)集可以自動化這個過程，并創(chuàng)建具有隱藏雙重含義的文本。

我再舉個例子——隱私攻擊，就是試圖揭露某個人隱藏的信息。在交流中，人們傾向于使用面部表情、身體姿勢、手勢和眼神來推斷意思。肢體語言往往能或明或暗地透露說話人的心理狀態(tài)、情緒和感受。事實上，有許多類似的隱藏數(shù)據(jù)泄漏通道，如體溫、瞳孔大小、輻射水平或人類呼吸出的化學成分。

如果有人構建了一個精確的設備，能夠捕捉所有這些隱藏的通道，他們就能讀懂人類對外界刺激的反應，比如圖像和挑釁的問題。這與神經(jīng)網(wǎng)絡上的隱私攻擊類似，攻擊者測試不同的輸入數(shù)據(jù)來訪問信息。對人類的潛意識攻擊，如我提到的例子，通常是很可怕的。最糟糕的是，它們不是憑空想象出來的，而且可以在任何時候實施。

如果將來我們可以戴上特殊的眼鏡或助聽器來保護自己免受音頻或視覺網(wǎng)絡攻擊，我對此不會感到驚訝。但在此之前，使用這些策略將是非常重要的，盡可能多地了解AI及其不那么光彩的用例，以確保自己和公司的安全。請記住，只要對這些應用有更多的了解，與那些沒有相同知識的人相比，就就具備了很大的優(yōu)勢。