“共情”AI出現了,你會(huì )共情嗎?如何約束使用成為難點(diǎn)

2024年04月09日 16:41  科技日報

  當我們想到有情感的人工智能(AI)時(shí),素材其實(shí)都來(lái)源于科幻作品,其中的情感式AI常常被描述成一個(gè)尋求人類(lèi)同等愛(ài)意的孤獨者,或心思縝密的電子大腦。

圖片來(lái)源:VentureBeat網(wǎng)站 

  現在,一家由前“深度思維”(DeepMind)研究員擔任首席執行官的初創(chuàng )公司“HumeAI”,發(fā)布了一款標榜為“第一個(gè)具有情商的對話(huà)式AI”的共情語(yǔ)音接口(EVI),其能夠檢測到用戶(hù)53種不同的情緒。

  這是技術(shù)上的一個(gè)飛躍!癏umeAI”公司已在一次B輪融資中籌集了5000萬(wàn)美元,但隨之而來(lái)的,也有人們夾雜了恐懼的希冀。

  情感是AI的分水嶺嗎 

  1997年,IBM的“深藍”打敗了國際象棋世界冠軍,其強大的計算力、純粹的暴力破解法震驚人類(lèi),也扭轉了AI研發(fā)的形勢。這種暴力破解法,后來(lái)就被用于機器學(xué)習,在看似具有無(wú)數種可能的對戰中輕松取勝。

  現在,各領(lǐng)域AI挑戰人類(lèi)的消息不斷傳來(lái),可能會(huì )給人這樣一種錯覺(jué):計算機在認知能力方面已堪比人類(lèi)。

  但兩者之間仍存在一條鴻溝。機器學(xué)習和自然語(yǔ)言專(zhuān)家格雷格·霍蘭德告訴人們,人腦可以解決AI前所未見(jiàn)的問(wèn)題,而機器學(xué)習依然是針對特定問(wèn)題而設計的。

  實(shí)際上,考慮AI的實(shí)現程度,需精準地用強AI和弱AI來(lái)劃分!皬姟笔钦J為計算機不僅作為一種工具,其本身就是有思維的。這樣的機器有知覺(jué),有自我意識。

  而“弱”則是認為不可能制造出真正進(jìn)行推理并解決問(wèn)題的機器,AI終究是沒(méi)有自主意識的工具。長(cháng)期以來(lái),主流研究也正是圍繞“工具”展開(kāi)的,且成就可觀(guān)。

  但也因此,很多人將是否具有知覺(jué)或情感,當成了AI發(fā)展的分水嶺。

  AI需要理解情感嗎 

  AI的下一個(gè)重大突破是理解和運用情感嗎?“HumeAI”的答案是肯定的。該公司的初衷即是要讓一個(gè)情感智能模型更好地服務(wù)人類(lèi)。

  該公司認為,情感智能包括從行為中推斷意圖和偏好的能力。這正是AI界面試圖實(shí)現的核心目標:推斷人們想要什么,然后去實(shí)現它。因此在某種意義上,情感智能才是AI界面最重要的功能。

  同樣作為聊天機器人,“HumeAI”與前輩們的區別在于,它專(zhuān)注于理解人類(lèi)情感并作出合理反饋。它不僅能理解文本,還可使用語(yǔ)音對話(huà)接口,聽(tīng)取人類(lèi)的語(yǔ)調、音高、停頓等聲音特征來(lái)加深理解。

  這種理解可能非常細微,包括但不限于人們的快樂(lè )、悲傷、憤怒、害怕等“大情緒”,連更微妙、更多維的“小情緒”也在體察范圍內,譬如欽佩、崇拜、沉迷、諷刺、羞恥等,“HumeAI”在其網(wǎng)站上總共列出了53種不同的情緒。

  不得不說(shuō),像諷刺這種常常帶有反意的情感表達方式,連人類(lèi)也不是每每都能察覺(jué)到。

  你害怕有情感的AI嗎 

  其實(shí),人們害怕的不僅僅是能感知情感的AI。近年來(lái),在A(yíng)I迅猛發(fā)展的同時(shí),反思和提醒的聲音一直存在。

  業(yè)界著(zhù)名公眾人物的警告也有可能放大恐懼。如被評為“愛(ài)迪生的合法繼承人”的美國科學(xué)家庫茲韋爾推斷:在2045年,AI將超越人類(lèi)大腦,促進(jìn)社會(huì )劇烈轉型,跨入高智能機器時(shí)代。此外,“鋼鐵俠”埃隆·馬斯克也曾說(shuō)過(guò),AI或許很快會(huì )強大到能統治世界的地步。

  但普通人會(huì )覺(jué)得,在到達那一步之前,AI需要再多點(diǎn)什么——感知情感,可能就是缺失的那一環(huán)。

  “HumeAI”演示之后反響十分熱烈。但網(wǎng)絡(luò )上已開(kāi)始有人擔心,用戶(hù)會(huì )以一種不健康的方式沉迷于它的“魅力”,同時(shí)滋生一些不良用途,譬如誘導、操縱、欺詐等。

  人類(lèi)的情感并不只有正面情緒。當AI試著(zhù)了解甚至學(xué)習人們的情感行為時(shí),是否會(huì )主動(dòng)或被動(dòng)地利用其來(lái)達到某些目標?譬如誘導購買(mǎi)、養成惡習、心理折磨等。

  當缺少倫理限制與法律紅線(xiàn)時(shí),被當作工具的,可能是人們自己的情感。