- 訊飛超腦2030計(jì)劃核心技術(shù)不斷突破,無監(jiān)督學(xué)習(xí)讓AI更懂知識(shí)
- 2022年11月28日來源:南方企業(yè)新聞網(wǎng)
提要:11月18日,在2022科大訊飛全球1024開發(fā)者上,科大訊飛AI研究院副院長(zhǎng)高建清表示,支撐“訊飛超腦2030計(jì)劃”的發(fā)展,有兩個(gè)關(guān)鍵算法亟待突破,無監(jiān)督學(xué)習(xí)和知識(shí)推理。前者要實(shí)現(xiàn)實(shí)用化、場(chǎng)景化的預(yù)訓(xùn)練技術(shù),后者要構(gòu)建基于知識(shí)檢索、決策以及融合的推理系統(tǒng)。
自今年年初推出“訊飛超腦2030計(jì)劃”以來,不到一年的時(shí)間,科大訊飛在相關(guān)方面的技術(shù)持續(xù)突破,成果不斷顯現(xiàn)。
11月18日,在2022科大訊飛全球1024開發(fā)者上,科大訊飛AI研究院副院長(zhǎng)高建清表示,支撐“訊飛超腦2030計(jì)劃”的發(fā)展,有兩個(gè)關(guān)鍵算法亟待突破,無監(jiān)督學(xué)習(xí)和知識(shí)推理。前者要實(shí)現(xiàn)實(shí)用化、場(chǎng)景化的預(yù)訓(xùn)練技術(shù),后者要構(gòu)建基于知識(shí)檢索、決策以及融合的推理系統(tǒng)。
對(duì)此,科大訊飛設(shè)計(jì)了基于無監(jiān)督學(xué)習(xí)的預(yù)訓(xùn)練框架,并創(chuàng)新使用了少量有監(jiān)督數(shù)據(jù)進(jìn)行優(yōu)化,大幅提升訓(xùn)練效率。
針對(duì)多模語(yǔ)音識(shí)別、情感識(shí)別等多模態(tài)任務(wù),全新的預(yù)訓(xùn)練框架對(duì)音頻、人臉等不同模態(tài)的輸入“一視同仁”,利用其中內(nèi)容、表情及身份等信息的關(guān)聯(lián)性進(jìn)行融合,可設(shè)計(jì)出不同的訓(xùn)練目標(biāo)。
而少量有監(jiān)督數(shù)據(jù)構(gòu)建碼本,讓訓(xùn)練機(jī)時(shí)下降八成,實(shí)現(xiàn)了實(shí)用化預(yù)訓(xùn)練。在無監(jiān)督學(xué)習(xí)的預(yù)訓(xùn)練算法框架下,訊飛開放了輕量化的中文語(yǔ)音、中英文多模態(tài)預(yù)訓(xùn)練模型。
在知識(shí)推理方面,以回答“面包在低溫下會(huì)馬上發(fā)霉嗎”為例,機(jī)器要理解“低溫變質(zhì)慢”等常識(shí),在引入海量知識(shí)的基礎(chǔ)上,要用預(yù)訓(xùn)練模型進(jìn)行知識(shí)重要性排序,也要融合知識(shí)與問題進(jìn)行推理,才能與人暢聊“面包變質(zhì)的二三事”。同時(shí),提出了知識(shí)與問題融合的Across attention model,實(shí)現(xiàn)問題和知識(shí)之間的充分交互,從而實(shí)現(xiàn)更有效的知識(shí)推理。
此外,科大訊飛還探索將神經(jīng)網(wǎng)絡(luò)與符號(hào)推理相結(jié)合,實(shí)現(xiàn)了推理過程的可解釋性。應(yīng)用于小學(xué)平面幾何題上,這個(gè)推理系統(tǒng)讓AI答題的正確率從完全不可用,提升到了90%的水平,顯著優(yōu)于傳統(tǒng)推理系統(tǒng)。
受技術(shù)躍升推動(dòng),今年科大訊飛超腦計(jì)劃推進(jìn)順利,已結(jié)碩果,形成多個(gè)示范應(yīng)用。基于多模態(tài)交互、以及醫(yī)療認(rèn)知技術(shù),訊飛研發(fā)了抑郁定量篩查系統(tǒng),該系統(tǒng)已在北京安定醫(yī)院、合肥四院等醫(yī)院試點(diǎn)應(yīng)用,抑郁篩查效果由 75% 提高至 91%。
未來,基于定量篩查基礎(chǔ)能力,訊飛將研發(fā)抑郁癥篩查平臺(tái),向更多的學(xué)校推廣,助力青少年的心理成長(zhǎng)。
專業(yè)虛擬人家族茁壯成長(zhǎng),種類涉及客服、招聘、服務(wù)、法務(wù)、歌手、助理多個(gè)領(lǐng)域,已為上千家企業(yè)提供高效數(shù)字化服務(wù)。
同時(shí)為推動(dòng)人機(jī)協(xié)同新時(shí)代早日到來,11月18日,科大訊飛宣布全面升級(jí)開放平臺(tái)2.0,新增了機(jī)器人超腦AIBOT、能力云AIHUB、模型云AILAB等組件。
其中機(jī)器人超腦AIBOT融入多模交互、深度理解、運(yùn)動(dòng)控制、硬件模組等核心能力,為實(shí)體機(jī)器人提供高性能的算力支撐、高效率的地圖導(dǎo)航以及高精度的定位功能,打造軟硬一體的智能化機(jī)器人。
而這一項(xiàng)技術(shù)已經(jīng)有了實(shí)際的應(yīng)用案例。
在實(shí)體機(jī)器人方面,訊飛聯(lián)合宇樹科技推出了支持戶外巡檢、化工巡檢等多元場(chǎng)景巡檢的四足機(jī)器人;
聯(lián)合珞石機(jī)器人推出了柔性機(jī)械臂實(shí)現(xiàn)與人更安全的配合,可用于工業(yè)巡檢、商業(yè)服務(wù)等場(chǎng)景;
虛擬數(shù)字人方面,數(shù)字機(jī)器人助力企業(yè)構(gòu)建協(xié)作新模式,虛擬人資產(chǎn)進(jìn)一步擴(kuò)充,星晝數(shù)字藏品為品牌客戶打造了可交互的數(shù)字資產(chǎn)。