有情感機器(qì)人(rén)可能(néng)會“記仇”
AI(人(rén)工智能(néng))有多接近人(rén)類?機器(qì)人(rén)會有喜怒哀樂(yuè)嗎(ma)?人(rén)工智能(néng)會不會有統治人(rén)類的一(yī)天?昨日在小蠻腰科技大會上(shàng),廣州日報(bào)特别設置了(le)“大咖面對面”環節,美國天普大學計算(suàn)機與信息科學系副教授王培,與廣州日報(bào)讀者分(fēn)享了(le)他對于人(rén)工智能(néng)的看法,暢談他對人(rén)工智能(néng)的未來(lái)預測。
像人(rén)一(yī)樣犯錯的智能(néng)才更像人(rén)
王培從專訪開始便強調,他所談的通用人(rén)工智能(néng)(AGI)與社會主流討(tǎo)論的人(rén)工智能(néng)(AI)不是同一(yī)概念。人(rén)工智能(néng)讓計算(suàn)機取代人(rén)類腦力勞動;而通用人(rén)工智能(néng)是讓計算(suàn)機更像人(rén)。“AGI就(jiù)是在計算(suàn)機上(shàng)模仿人(rén)的思維規律,而不是在具體(tǐ)的行為(wèi)上(shàng)模仿人(rén),它可能(néng)不會下(xià)圍棋、不能(néng)開汽車。”
王培舉了(le)一(yī)個(gè)飛機與鳥的例子(zǐ)說(shuō)明人(rén)工智能(néng)與通用人(rén)工智能(néng)的差異。同樣達到飛的目标,飛機的運行機制與鳥類是不一(yī)樣的,制造出飛機并不能(néng)加深人(rén)類對鳥類飛行的認識。通用人(rén)工智能(néng)(AGI)要做的是,像做出模拟鳥類飛行的機器(qì)那樣,做出能(néng)模拟人(rén)腦的機器(qì)。
人(rén)類思維規律是怎麽樣呢(ne)?王培說(shuō),人(rén)們如(rú)果要做一(yī)件一(yī)開始不知道怎麽做的事(shì),可能(néng)會先試試方法A,失敗了(le)再試試方法B。“模拟人(rén)腦的人(rén)工智能(néng)下(xià)棋不一(yī)定能(néng)赢人(rén)類,它還可能(néng)會犯各種錯誤,但(dàn)如(rú)果它犯的錯誤跟人(rén)相類似,我反而覺得我成功了(le),因為(wèi)它再現(xiàn)了(le)人(rén)的思維。”
機器(qì)人(rén)已學會“高興”“不高興”
如(rú)果機器(qì)能(néng)再現(xiàn)人(rén)的思維,那它是否會出現(xiàn)像人(rén)類那樣的情感模式?王培笑(xiào)答(dá),實際上(shàng)已經出現(xiàn)了(le)。
他的一(yī)位博士生(shēng)的畢業論文就(jiù)是研究機器(qì)人(rén)的情感。目前,這(zhè)個(gè)情感機器(qì)人(rén)還是在程序階段,隻有“高興”“不高興”兩種簡單模式。王培強調,機器(qì)人(rén)的情感表達不是哭或笑(xiào),不一(yī)定能(néng)被人(rén)類感知或理(lǐ)解,更不是簡單呼應、模拟人(rén)類的情感。
王培解釋道,這(zhè)個(gè)機器(qì)人(rén)情感的影響因素是目标完成的效果。如(rú)果達到預設的目标,它會感到“高興”,表現(xiàn)得更開放(fàng),願意接受更多新(xīn)知識,接受新(xīn)任務(wù)也(yě)會更痛快(kuài)一(yī)些(xiē);如(rú)果沒有達到預設目标,它會不高興,對周圍事(shì)物的敏感度降低(dī),也(yě)不願意接受新(xīn)事(shì)物,想着“我現(xiàn)在的任務(wù)還沒弄好(hǎo)(hǎo),不想弄别的事(shì)”。
王培談到,未來(lái),通用人(rén)工智能(néng)的情感還将進一(yī)步複雜化(huà),能(néng)感受喜、怒、憂、思、悲、恐、驚等等情感。比如(rú)通用人(rén)工智能(néng)可以分(fēn)析它碰到的對象,在過去是否曾對它構成威脅,如(rú)果識别出“打不過”就(jiù)會感到“恐懼”,這(zhè)個(gè)通用人(rén)工智能(néng)控制的機器(qì)人(rén)會選擇回避或逃跑。
機器(qì)人(rén)擁有感情或許會帶來(lái)不利于人(rén)類的社會後果?王培表示有可能(néng),他舉例,擁有情感的機器(qì)人(rén),如(rú)果被人(rén)類踹兩腳,它可能(néng)會記仇,以後都不理(lǐ)踹它的人(rén)。但(dàn)王培也(yě)認為(wèi),讓機器(qì)人(rén)喜歡你,和讓人(rén)類喜歡你的方式是一(yī)樣的。“你對它好(hǎo)(hǎo),它就(jiù)會為(wèi)你的利益考慮。”
王培認為(wèi),他無法證明壞的結果不可能(néng)發生(shēng),然而像公衆擔憂的“人(rén)工智能(néng)統治世界”發生(shēng)的可能(néng)性很低(dī)。王培引述複旦大學一(yī)位哲學家的分(fēn)析文章,公衆對人(rén)工智能(néng)的恐懼更多是思維混亂的結果,難以邏輯自洽。同時(shí),人(rén)工智能(néng)科學家應該加強與公衆的交流,解釋哪些(xiē)是真正的危險,哪些(xiē)是臆想出來(lái)的問題。