8月22日,在2024世界機(jī)器人大會(huì)期間,北京具身智能機(jī)器人創(chuàng)新中心首發(fā)了具身智能服務(wù)機(jī)器人“天軼”。值得關(guān)注的是,“天軼”搭載了具身智能情感大模型,其中的情感模型源于北京大學(xué)計(jì)算機(jī)學(xué)院情感與認(rèn)知智能機(jī)器人實(shí)驗(yàn)室主任王韜研究員帶隊(duì)研發(fā)的情感與認(rèn)知技術(shù),也就是說(shuō),“天軼”可以對(duì)人類情感進(jìn)行反應(yīng)。

 

據(jù)了解,人形機(jī)器人是具身智能機(jī)器人的一種。未來(lái)是否能將情感模塊賦予更多人形機(jī)器人?一旦人形機(jī)器人擁有了與人類相似的情感,是否需要探討其倫理邊界?針對(duì)這些問(wèn)題,新京報(bào)記者對(duì)王韜進(jìn)行了專訪。


北京大學(xué)計(jì)算機(jī)學(xué)院情感與認(rèn)知智能機(jī)器人實(shí)驗(yàn)室主任王韜。受訪者供圖


通過(guò)建模驅(qū)動(dòng)機(jī)器人“學(xué)習(xí)”情感

 

新京報(bào):“天軼”機(jī)器人搭載了具身智能情感大模型,這讓機(jī)器人實(shí)現(xiàn)了什么功能?

 

王韜:北京大學(xué)計(jì)算機(jī)學(xué)院情感與認(rèn)知智能實(shí)驗(yàn)室成立于2017年,一直研究如何讓機(jī)器人更具有情感能力、交互能力,讓它通過(guò)認(rèn)知環(huán)境,更重要的是認(rèn)知人,成為跟人打交道的機(jī)器人。以后的人形機(jī)器人不僅是在工廠“上班”,更多的應(yīng)該是和人打交道。

 

因此,這種類型的機(jī)器人一定要能讀懂人的心理或者心情,讀懂人的喜怒哀樂(lè),還要能感知人們更加細(xì)微和豐富的情感與認(rèn)知狀態(tài)。這是我們實(shí)驗(yàn)室一直在研究的方向,我們稱其為情感計(jì)算,我們也陸續(xù)在一些國(guó)際優(yōu)秀會(huì)議和期刊上發(fā)表了相關(guān)文章,在智能機(jī)器人上實(shí)現(xiàn)了許多實(shí)際相關(guān)應(yīng)用,也取得了國(guó)際上的一些關(guān)注與認(rèn)可。

 

機(jī)器人的情感計(jì)算有很多重要應(yīng)用場(chǎng)景。例如,搭載了情感計(jì)算模型的機(jī)器人如果陪伴我們?nèi)ナ袌?chǎng)買菜,它可以捕捉到我們的表情和注意目標(biāo),分析出我們更喜歡哪種蔬菜;它也可以在家陪伴老人,如果發(fā)現(xiàn)老人悶悶不樂(lè),它會(huì)做出一些正確的應(yīng)對(duì)反應(yīng),排解老人不快的情緒。此外,還可以監(jiān)控人的心率變化等生理指標(biāo),可以用作某些特殊情景的判定,甚至還可以用作健康監(jiān)控。

 

今年6月起,我們與北京具身智能機(jī)器人創(chuàng)新中心合作,成立情感智能應(yīng)用聯(lián)合實(shí)驗(yàn)室,已使“天軼”具有情感交互能力,讓它能更好地服務(wù)人。

 

現(xiàn)在我們看到的大多是冷冰冰的機(jī)器人,未來(lái)我們希望不僅有“天軼”,還有更多的情感機(jī)器人,它們會(huì)像人一樣擁有比較細(xì)膩的情感識(shí)別與反應(yīng)能力。

 

新京報(bào):工業(yè)機(jī)器人需要不斷學(xué)習(xí)掌握各種工作技能,讓機(jī)器人擁有情感也需要學(xué)習(xí)嗎?

 

王韜:機(jī)器人一定要學(xué)習(xí),但是這種學(xué)習(xí)跟我們現(xiàn)在看到的機(jī)器人學(xué)習(xí)抓取物品不太一樣,它需要特殊的學(xué)習(xí)方法,我們需要在機(jī)器人的“大腦”里建模,不能僅僅對(duì)機(jī)器人進(jìn)行數(shù)據(jù)驅(qū)動(dòng),更好地建模,使其能夠更好地理解和學(xué)習(xí)是必要的。

 

機(jī)器人的情感訓(xùn)練在這方面的問(wèn)題更加突出,因?yàn)槿说那楦蟹浅?fù)雜,也不存在大規(guī)模的具有全面情感標(biāo)注的數(shù)據(jù)集,所以我們才要不斷推進(jìn)這一領(lǐng)域的研究。

 

對(duì)情感機(jī)器人來(lái)說(shuō),設(shè)計(jì)者的倫理道德十分重要

 

新京報(bào):如果將人形機(jī)器人賦予情感功能的話,是否需要探討其倫理邊界?

 

王韜:首先,我們要明確情感分成三個(gè)方面,第一個(gè)是例如那些長(zhǎng)得非常像人的機(jī)器人,它們是能夠表達(dá)情感的機(jī)器人,現(xiàn)在很多機(jī)器人在這方面做得很好;第二個(gè)是機(jī)器人對(duì)人的情感識(shí)別,它能知道“眼前”的人是什么情感,比如悲傷、生氣、高興、沮喪等;第三個(gè)是機(jī)器人的“情商”,比如說(shuō)它識(shí)別出來(lái)這個(gè)人心情不好,那么它應(yīng)該怎么應(yīng)對(duì)才能讓這個(gè)人心情變好。

 

在上述三個(gè)方面中,機(jī)器人的情感識(shí)別和“情商”非常難,但是我們一直在研究這一領(lǐng)域,希望在今年年底或者明年年初能夠有所突破。

 

其次我們討論倫理邊界。當(dāng)機(jī)器人能夠識(shí)別人類情感的時(shí)候,它可以做出自己的反應(yīng),比如發(fā)現(xiàn)一個(gè)人心情不好時(shí),機(jī)器人是表現(xiàn)出關(guān)懷還是說(shuō)教,或者其他的方式,這就涉及機(jī)器人設(shè)計(jì)者的倫理。

 

我一直認(rèn)為,機(jī)器人的倫理不是機(jī)器人本身的倫理,而是設(shè)計(jì)者、數(shù)據(jù)工程師、設(shè)計(jì)架構(gòu)人員等人的倫理。這跟我們教育孩子是一樣的,家長(zhǎng)的思想、倫理影響孩子的成長(zhǎng)。

 

對(duì)機(jī)器人來(lái)講,即使到了通用人工智能階段,設(shè)計(jì)者的倫理也很重要,對(duì)于情感機(jī)器人尤其重要,這體現(xiàn)了設(shè)計(jì)者的水平,也體現(xiàn)了設(shè)計(jì)者的倫理道德。

 

新京報(bào):人類對(duì)于情感機(jī)器人是不是同樣需要倫理邊界?

 

王韜:這是相互的影響。情感機(jī)器人對(duì)人類的情感產(chǎn)生反應(yīng),這個(gè)時(shí)候我們就需要注意了,盡管情感機(jī)器人能夠讀懂人的情感并用情商進(jìn)行反應(yīng),但就目前而言,機(jī)器人還不存在像人類一樣的“內(nèi)心情感”。

 

所以我們需要關(guān)注一個(gè)問(wèn)題——機(jī)器人的情感模型,尤其是神經(jīng)網(wǎng)絡(luò)模型,往往并不完全清楚模型內(nèi)部發(fā)生了什么,而更多是看到普通情況下模型對(duì)外的表現(xiàn)形式,那么機(jī)器人有沒(méi)有可能在模型內(nèi)部產(chǎn)生一種不好的反應(yīng)呢?這是需要我們特別關(guān)注的問(wèn)題。這又回到了剛才的話題,也就是設(shè)計(jì)者的倫理和技術(shù)水平。所以至少?gòu)哪壳皝?lái)看,設(shè)計(jì)者是非常重要的。

 

新京報(bào):人形機(jī)器人對(duì)人工智能倫理會(huì)帶來(lái)哪些挑戰(zhàn)?如何應(yīng)對(duì)?

 

王韜:人形機(jī)器人是人工智能的一個(gè)載體,人工智能的挑戰(zhàn)和倫理就是人形機(jī)器人的挑戰(zhàn)和倫理。當(dāng)然,如果有一天人形機(jī)器人的外形真的與真人外形無(wú)限接近,甚至產(chǎn)生了混淆的時(shí)候,那么將會(huì)產(chǎn)生一些新的倫理挑戰(zhàn)。

 

若有志于機(jī)器人全面擬人化,研發(fā)人員仍需探索

 

新京報(bào):在這次機(jī)器人大會(huì)上,我們看到很多以真人為原型的機(jī)器人。人形機(jī)器人需要逼真的擬人化嗎?

 

王韜:機(jī)器人可以分成兩類,第一類是不怎么和人打交道的機(jī)器人,例如工業(yè)機(jī)器人。從科技發(fā)展角度來(lái)講,工業(yè)機(jī)器人不一定都是人形機(jī)器人。第二類是與人打交道的機(jī)器人,我認(rèn)為最好還是人形。

 

這其中有兩個(gè)原因,一方面是人類天然地對(duì)人形的產(chǎn)物溝通效率更高,另一方面,機(jī)器人要跟人一起生活或服務(wù)于人,并且要在人的環(huán)境中進(jìn)行交互,如果它不太像人的話,可能很難適應(yīng)這個(gè)環(huán)境。

 

對(duì)于是否需要逼真擬人化,人形機(jī)器人設(shè)計(jì)成什么樣的外貌,說(shuō)到底還是設(shè)計(jì)者的問(wèn)題。有位科學(xué)家提出了恐怖谷效應(yīng),提出機(jī)器人長(zhǎng)到與人接近的時(shí)候,是很恐怖的,但是如果一旦突破了邊界,機(jī)器人將不再恐怖。從現(xiàn)階段以真人為原型的人形機(jī)器人的外觀來(lái)看,還沒(méi)有突破恐怖谷效應(yīng),所以有志于機(jī)器人全面擬人化的研發(fā)人員還需要不斷探索。就我個(gè)人而言,我還是喜歡長(zhǎng)得像科幻電影或者動(dòng)畫(huà)片里那些可愛(ài)機(jī)器人的樣子,事實(shí)上“天軼”機(jī)器人就沒(méi)有逼真擬人化。

 

新京報(bào)記者 吳婷婷

編輯 白爽 校對(duì) 楊許麗