蓋世汽車(chē)訊 人類(lèi)通常很擅長(zhǎng)識(shí)別何時(shí)出錯(cuò)，但人工智能系統(tǒng)做不到。根據(jù)一項(xiàng)最新研究，由于數(shù)學(xué)存在數(shù)百年的悖論，人工智能通常會(huì)受到固有限制。

劍橋大學(xué)（University of Cambridge）和奧斯陸大學(xué)（University of Oslo）的研究人員表示，不穩(wěn)定性是現(xiàn)代人工智能的致命弱點(diǎn)，一個(gè)數(shù)學(xué)悖論顯示了人工智能的局限性。神經(jīng)網(wǎng)絡(luò)是人工智能中最先進(jìn)的工具，可大致模仿大腦中神經(jīng)元之間的聯(lián)系。研究人員表明，目前還沒(méi)有算法可以生成穩(wěn)定和準(zhǔn)確的神經(jīng)網(wǎng)絡(luò)，除非在特定情況下。據(jù)外媒報(bào)道，這些研究人員提出了一種分類(lèi)理論，描述了何時(shí)可以訓(xùn)練神經(jīng)網(wǎng)絡(luò)以在某些特定條件下提供可信賴(lài)的AI系統(tǒng)。

圖片來(lái)源：劍橋大學(xué)

深度學(xué)習(xí)是用于模式識(shí)別的領(lǐng)先人工智能技術(shù)，用于可診斷疾病或通過(guò)自動(dòng)駕駛預(yù)防交通事故。然而，許多深度學(xué)習(xí)系統(tǒng)可信度不高且容易被欺騙。

劍橋大學(xué)應(yīng)用數(shù)學(xué)和理論物理系的合著者Anders Hansen表示：“許多人工智能系統(tǒng)不穩(wěn)定，并逐漸成為一個(gè)主要問(wèn)題，尤其這些系統(tǒng)越來(lái)越多地用于疾病診斷或自動(dòng)駕駛汽車(chē)等高風(fēng)險(xiǎn)領(lǐng)域。如果人工智能系統(tǒng)一旦出錯(cuò)，就會(huì)造成實(shí)際傷害，因此提高其可信度非常重要?！?/p>

研究人員發(fā)現(xiàn)的悖論可以追溯到20世紀(jì)的兩位數(shù)學(xué)巨人：Alan Turing和Kurt G?del。在20世紀(jì)初，數(shù)學(xué)家們?cè)噲D證明數(shù)學(xué)是科學(xué)的終極一致語(yǔ)言。然而，Turing和G?del展示了數(shù)學(xué)核心的一個(gè)悖論，即無(wú)法證明某些數(shù)學(xué)陳述是真還是假，一些計(jì)算問(wèn)題也無(wú)法用算法解決。而且，無(wú)論數(shù)學(xué)系統(tǒng)有多豐富，以描述學(xué)習(xí)算術(shù)，它無(wú)法證明其自身的一致性。

幾十年后，數(shù)學(xué)家Steve Smale提出了21世紀(jì)18個(gè)未解決的數(shù)學(xué)問(wèn)題的清單。 其中第18個(gè)問(wèn)題就涉及人類(lèi)和機(jī)器的智能極限。

研究人員說(shuō)，由于該悖論，在某些情況下可以存在良好的神經(jīng)網(wǎng)絡(luò)，但無(wú)法建立一個(gè)本質(zhì)上值得信賴(lài)的神經(jīng)網(wǎng)絡(luò)。研究人員之一、奧斯陸大學(xué)（University of Oslo）Vegard Antun博士表示：“無(wú)論數(shù)據(jù)多么準(zhǔn)確，我們永遠(yuǎn)無(wú)法獲得構(gòu)建所需神經(jīng)網(wǎng)絡(luò)的完美信息?！?/p>

無(wú)論訓(xùn)練數(shù)據(jù)量如何，都無(wú)法計(jì)算出良好的現(xiàn)有神經(jīng)網(wǎng)絡(luò)。無(wú)論算法可以訪(fǎng)問(wèn)多少數(shù)據(jù)，它都不會(huì)產(chǎn)生所需的網(wǎng)絡(luò)。Hansen表示：“該論點(diǎn)與Turing的觀點(diǎn)類(lèi)似，無(wú)論計(jì)算能力和運(yùn)行時(shí)間如何，都存在無(wú)法解決的計(jì)算問(wèn)題?！?/p>

研究人員表示，并非所有人工智能都存在固有缺陷，但它僅在特定領(lǐng)域使用特定方法才可靠。應(yīng)用數(shù)學(xué)和理論物理系的合著者M(jìn)atthew Colbrook博士表示：“問(wèn)題在于你需要保證的領(lǐng)域，因?yàn)樵S多人工智能系統(tǒng)都是一個(gè)黑匣子。在某些情況下，人工智能是完全可以犯錯(cuò)的，但它需要誠(chéng)實(shí)地對(duì)待。但這一點(diǎn)我們?cè)谠S多系統(tǒng)中并沒(méi)有看到，沒(méi)有辦法知道系統(tǒng)什么時(shí)候更有信心或缺乏信心做決定?！?/p>

Colbrook表示：“當(dāng)20世紀(jì)的數(shù)學(xué)家發(fā)現(xiàn)不同的悖論時(shí)，他們并沒(méi)有停止研究數(shù)學(xué)。他們只需要找到新的路徑，因?yàn)樗麄兞私饩窒扌?。?duì)于人工智能來(lái)說(shuō)，可能也需要改變路徑或開(kāi)發(fā)新路徑，以構(gòu)建能夠以可信賴(lài)和透明的方式解決問(wèn)題的系統(tǒng)，同時(shí)了解它們的局限性。”

未來(lái)，研究人員將結(jié)合近似理論、數(shù)值分析和計(jì)算基礎(chǔ)，以確定哪些神經(jīng)網(wǎng)絡(luò)可以通過(guò)算法計(jì)算，哪些可以穩(wěn)定可信。正如G?del和Turing提出的關(guān)于數(shù)學(xué)和計(jì)算機(jī)局限性的悖論導(dǎo)致了豐富的基礎(chǔ)理論（描述了數(shù)學(xué)和計(jì)算的局限性和可能性），也許類(lèi)似的基礎(chǔ)理論可能會(huì)在人工智能中開(kāi)花結(jié)果。

返回第一電動(dòng)網(wǎng)首頁(yè) >