據(jù)外媒報道，美國南加州大學(xué)維特比工程學(xué)院（USC Viterbi Engineering）的研究人員研發(fā)了一種新工具，如果AI算法生成的數(shù)據(jù)和預(yù)測信息是可靠的，該工具可以自動生成指標(biāo)。

神經(jīng)網(wǎng)絡(luò)是一種人工智能（AI）技術(shù)，能夠模仿大腦并產(chǎn)生預(yù)測信息。但是，此類神經(jīng)網(wǎng)絡(luò)產(chǎn)生的預(yù)測真的可信嗎？自動駕駛汽車普及的一個關(guān)鍵障礙是，汽車需要在自動駕駛時作為獨立的決策者，并快速理解和識別路上的物體，無論該物體是減速帶、無生命物體、寵物還是孩子，并且在遇到另一輛車時，其需要決定如何采取行動避開其他車輛。汽車是否應(yīng)該撞上迎面駛來的車輛、或者撞上無生命的物體或兒童？我們能夠信任車載計算機軟件可以在幾分之一秒內(nèi)做出正確決定嗎？特別是當(dāng)不同的傳感器給出相互沖突的信息時，如攝像頭的計算機視覺信息或激光雷達(dá)的數(shù)據(jù)？知道哪個系統(tǒng)值得信任，哪個傳感系統(tǒng)最準(zhǔn)確，將有助于確定自動駕駛系統(tǒng)應(yīng)該做出什么決定。

于是，研究人員們打造了一個名為DeepTrust的工具，可以將不確定性進行量化，從而確定是否需要人工干預(yù)。

研發(fā)該款工具花費了南加州大學(xué)研究團隊近兩年的時間，他們利用主觀邏輯來評估該神經(jīng)網(wǎng)絡(luò)架構(gòu)。此外，在2016年總統(tǒng)大選的民調(diào)中，DeepTrust發(fā)現(xiàn)，指向希拉里獲勝的預(yù)測有更大的誤差率。

該項研究的另一個重要意義是，為如何測試AI算法的可靠性提供了見解，因為此類算法通常需要在成千上萬個數(shù)據(jù)點上進行訓(xùn)練。如果去檢查此類指示AI預(yù)測的數(shù)據(jù)點是否進行了準(zhǔn)確標(biāo)記將非常耗時。研究人員表示，更重要的是，此類神經(jīng)網(wǎng)絡(luò)系統(tǒng)的架構(gòu)將具有更高的精確度。此外，如果計算機科學(xué)家想要同時將準(zhǔn)確性和信任度實現(xiàn)最大化，該項研究也可以作為測試樣本中有多少“噪音”的路標(biāo)。

研究人員還認(rèn)為，他們研發(fā)的模型是首創(chuàng)。“據(jù)我們所知，目前還沒有用于量化深度學(xué)習(xí)、人工智能和機器學(xué)習(xí)信任度的模型或工具。作為首個方法，該工具開辟了新的研究方向，能夠讓AI具有感知能力和適應(yīng)性。”
責(zé)任編輯:tzh