沭陽網首頁   |   手機沭陽網   |   網站地圖  
您的位置:沭陽網首頁 > 科技頻道 > 滾動新聞>正文

看看計算機如何“思考”如何幫助人類將機器堆起來并揭示AI的弱點

2020-03-10 15:06:01    來源:    我來說兩句()
字號:TT

 人工智能的最終目標之一是真正理解人類語言并從復雜細微的段落中解釋含義的機器。當IBM的Watson計算機擊敗著名的“ Jeopardy!”時 2011年冠軍肯·詹寧斯(Ken Jennings),似乎已經達到了這個里程碑。但是,任何嘗試與虛擬助手Siri進行對話的人都知道,計算機要真正理解人類語言還有很長的路要走。為了更好地理解語言,計算機系統必須使用挑戰性的問題進行訓練,并反映出人類語言的全部復雜性。

馬里蘭大學的研究人員已經弄清楚了如何通過人機協作來可靠地創建此類問題,開發了一個包含1200多個問題的數據集,這些數據集雖然易于回答,但卻構成了當今最好的計算機回答系統。學習掌握這些問題的系統比目前存在的任何系統都對語言有更好的理解。這項工作在2019年《計算語言學協會》期刊上發表的一篇文章中進行了描述。

UMD計算機科學副教授,該論文的高級作者約旦·博伊德·格拉伯說:“大多數回答問題的計算機系統都無法解釋它們為什么回答其工作方式,但是我們的工作可以幫助我們了解計算機真正理解了什么。” 。“此外,我們已經產生了一個數據集以在計算機上進行測試,這將揭示計算機語言系統是否實際上正在閱讀并進行人類能夠進行的相同類型的處理。”

當前用于改進問答程序的大多數工作都是使用人工作者或計算機來生成問題。這些方法所固有的挑戰是,當人們編寫問題時,他們不知道問題的哪些具體元素會使計算機感到困惑。當計算機寫問題時,他們要么寫公式化的空白問題,要么犯錯誤,有時會胡說八道。

為了發展人類和計算機共同產生問題的新穎方法,Boyd-Graber和他的團隊創建了一個計算機界面,以揭示計算機在人類作家鍵入問題時正在“思考”的內容。然后,作者可以編輯他或她的問題,以利用計算機的弱點。

在新界面中,當計算機的猜測在屏幕上按排名順序顯示時,人類作者會鍵入一個問題,并突出顯示導致計算機做出猜測的單詞。

例如,如果作者寫道:“海頓的作曲家對主題的變化是受卡爾·費迪南德·波爾的啟發嗎?” 并且系統正確回答了“ Johannes Brahms”,界面將突出顯示單詞“ Ferdinand Pohl”,以表明該短語將其引向了答案。利用這些信息,作者可以編輯問題,以使計算機更加困難,而無需更改問題的含義。在此示例中,作者用對他的工作的描述“維也納音樂博物館的檔案保管員”代替了啟發勃拉姆斯的那個人的名字“ Karl Ferdinand Pohl”,并且計算機無法正確回答。但是,專家級人類問答游戲玩家仍然可以輕松地正確回答已編輯的問題。

通過共同努力,人類和計算機可靠地提出了1,213個計算機絆腳石的問題,研究人員在比賽中測試了經驗豐富的人類運動員-從初中高中瑣事小組到“ Jeopardy!” 冠軍-針對計算機 即使是最弱小的人類團隊也擊敗了最強大的計算機系統。

UMD計算機科學專業研究生,該論文的合著者石峰說:“三到四年來,人們已經意識到計算機問答系統非常脆弱,很容易被愚弄。” “但這是我們知道的第一篇論文,實際上是使用機器來幫助人類打破模型本身。”

研究人員說,這些問題不僅可以作為計算機科學家更好地了解自然語言處理失敗之處的新數據集,還可以作為開發改進的機器學習算法的訓練數據集。這些問題揭示了六種不同的語言現象,這些現象始終困擾著計算機。

這六個現象分為兩類。第一類是語言現象:釋義(例如說“從懸崖上飛躍”而不是“從懸崖上跳”),分散注意力的語言或意想不到的環境(例如對政治人物的引用出現在無關緊要的線索中)政治)。第二類包括推理技能:需要邏輯和計算的線索,對問題中元素的心理三角測量或將多個步驟組合在一起以得出結論。

博伊德·格拉伯說:“人類有能力進行更多的概括,并看到更深的聯系。” “他們沒有無限的計算機存儲能力,但是在查看樹木的樹林方面仍然具有優勢。對計算機所具有的問題進行分類有助于我們理解我們需要解決的問題,從而使我們能夠真正解決問題。計算機開始透過樹木看森林,并以人類的方式回答問題。”

Boyd-Graber補充說,要實現這一目標還有很長的路要走。他還曾在馬里蘭大學高級計算機研究所(UMIACS)以及UMD的信息學院和語言科學中心共同任職。但是這項工作提供了令人興奮的新工具來幫助計算機科學家實現該目標。

他說:“本文正在為未來幾年制定研究議程,以便我們實際上可以使計算機很好地回答問題。”


 
責任編輯:

相關新聞
    無相關信息

山东十一选五爱彩乐 麻将作弊最新技术 河北快3 乌鲁木齐站街女照片 永高股份股票 水果大爆发 湖北快三 广东十一选五* 吉祥棋牌麻将作弊器 重庆百变王牌走势图 黑龙江11选5基本 福利片东京热 佐佐木希亚下码作品 新2即时指数 南昌麻将抢杠 股票投资报告 股票推荐3只黑马票黑