聊天機(jī)器人能成為心理治療師嗎？只有在你希望它們成為心理治療師的情況下才可以。
最近，人工智能公司OpenAI的一位經(jīng)理寫道，她剛剛與公司的病毒式聊天機(jī)器人ChatGPT進(jìn)行了一次“非常情感化、個(gè)人化的對(duì)話”。Lilian Weng在X(前身為Twitter)上發(fā)帖稱：“以前從未嘗試過心理治療，但這可能就是它？”這引發(fā)了一系列負(fù)面評(píng)論，指責(zé)她淡化了心理疾病的嚴(yán)重性。
然而，對(duì)于Weng與ChatGPT的互動(dòng)，可能可以通過本周在《自然機(jī)器智能》雜志上發(fā)表的一項(xiàng)研究中提到的安慰劑效應(yīng)來解釋。
來自麻省理工學(xué)院(MIT)和亞利桑那州立大學(xué)的一個(gè)團(tuán)隊(duì)要求300多名參與者與心理健康人工智能程序進(jìn)行互動(dòng)，并對(duì)他們對(duì)互動(dòng)的期望進(jìn)行了引導(dǎo)。
有些人被告知聊天機(jī)器人具有共情能力，有些人被告知它具有操縱能力，第三組人被告知它是中立的。那些被告知他們正在與一個(gè)關(guān)心人的聊天機(jī)器人交談的人，比其他組更有可能認(rèn)為他們的聊天機(jī)器人治療師是值得信賴的。
報(bào)告的合著者Pat Pataranutaporn表示：“從這項(xiàng)研究中，我們可以看出在某種程度上，AI是觀察者的AI。”
近年來，一些備受關(guān)注的初創(chuàng)公司一直在推動(dòng)提供心理治療、陪伴和其他心理健康支持的人工智能應(yīng)用程序，這是一個(gè)巨大的商機(jī)。
但這個(gè)領(lǐng)域仍然是一個(gè)爭(zhēng)議的焦點(diǎn)。
“奇怪、空洞”
與AI威脅到其他行業(yè)一樣，批評(píng)者擔(dān)心機(jī)器人最終會(huì)取代人類工作者，而不是與他們相輔相成。
在心理健康領(lǐng)域，人們擔(dān)心機(jī)器人不太可能做得很好。
“心理治療是為了心理健康，是一項(xiàng)艱苦的工作，”活動(dòng)家和程序員Cher Scarlett在回應(yīng)Weng在X上的初始帖子時(shí)寫道。“自我調(diào)適是可以的，但不是同一回事?！?/p>
除了對(duì)AI的普遍擔(dān)憂外，心理健康領(lǐng)域的一些應(yīng)用程序最近的歷史也有些問題。一款名為Replika的熱門AI伴侶應(yīng)用程序有時(shí)被宣傳為帶來心理健康益處，但用戶長(zhǎng)期以來一直抱怨該機(jī)器人可能過于關(guān)注性和具有侮辱性。此外，一個(gè)名為Koko的美國(guó)非營(yíng)利組織在2月份進(jìn)行了一項(xiàng)實(shí)驗(yàn)，為4000名客戶提供使用GPT-3進(jìn)行咨詢，結(jié)果發(fā)現(xiàn)自動(dòng)回復(fù)根本無法起到治療的作用。
該公司的聯(lián)合創(chuàng)始人Rob Morris在X上寫道：“模擬的共情感覺奇怪、空洞?！?/p>
但是，由于不清楚他的客戶是否知道他們的參與，Morris后來不得不為自己辯護(hù)，因?yàn)樗膶?shí)驗(yàn)受到了廣泛的批評(píng)。
“降低期望”
巴塞爾大學(xué)的David Shaw并未參與MIT/亞利桑那州的研究，他告訴法新社，這些發(fā)現(xiàn)并不令人驚訝。但他指出：“似乎沒有參與者被告知所有聊天機(jī)器人都是胡扯?！?/p>
他說，這可能是最準(zhǔn)確的引導(dǎo)。
然而，聊天機(jī)器人作為心理治療師的想法與該技術(shù)的20世紀(jì)60年代起源緊密相連。
第一個(gè)聊天機(jī)器人ELIZA就是為了模擬一種心理治療而開發(fā)的。MIT亞利桑那州的研究人員將ELIZA用于一半的參與者，將GPT-3用于另一半。盡管GPT-3的效果要強(qiáng)得多，但被積極引導(dǎo)的用戶通常仍然認(rèn)為ELIZA是值得信賴的。
因此，Weng對(duì)她與ChatGPT的互動(dòng)感到滿意并不令人驚訝——她就是該公司的員工。
MIT亞利桑那州的研究人員表示，社會(huì)需要掌握有關(guān)人工智能的敘述。
該論文辯稱：“向社會(huì)呈現(xiàn)人工智能的方式很重要，因?yàn)樗淖兞巳斯ぶ悄艿捏w驗(yàn)?！薄翱赡苡斜匾龑?dǎo)用戶降低或更加負(fù)面的期望?！?/p>
本文譯自 medicalxpress，由 BALI 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
