5月26日消息，創(chuàng)新工場董事長兼首席執(zhí)行官李開復在本周于瑞士召開的2022年達沃斯世界經濟論壇上發(fā)表題為《關于人工智能的“電車難題”的嶄新思考》的專欄文章。
李開復在文中談到，自主機器人和自主決策的確可能造成致命錯誤；因機器人錯誤而造成的死亡，將造成道德兩難的新時代“電車難題”。但是，如果社會接受機器學習，并竭力以負責任的態(tài)度導入機器人技術，更多生命將會因此得到拯救。
以下為《關于人工智能的“電車難題”的嶄新思考》全文：
在未來 20 年內，隨著機器人技術的進步，自動駕駛汽車、工業(yè)機器人和醫(yī)用機器人將擁有更強的能力、更高的自主性，并得到更為廣泛的應用。不可避免，這些自主機器人可能會犯下決策方面的錯誤，造成數百上千人死亡。但如果人類參與其中，這種災難是可以避免的。
這樣的未來固然可怕，不過一旦人類社會能負責任地運用機器人技術，獲救的生命將多于造成的死亡。
機器學習的過程
機器人并非經由人類“編程”而模仿人類的決策過程。它們從大數據中學習，利用從數據中推導出的復雜數學公式，執(zhí)行諸如“識別紅綠燈”之類的任務。機器學習過程需要的數據量遠遠超過人類所需。然而，一旦經過訓練，機器人在任何特定任務中的表現都將優(yōu)于人類。借由機器學習，人工智能和機器人的性能在過去五年里已經獲得了極大的提升。
我在這篇文章提出的觀點適用醫(yī)療健康、制造業(yè)及其他正在快速實現自動化的行業(yè)。先以自動駕駛為例，一位經驗豐富的人類司機，一生中可能有幾十萬英里的駕駛經驗，而谷歌旗下的自動駕駛汽車公司Waymo，僅在2021年一年間就完成230萬英里的上路測試里程，其背后的AI技術通過數據學習了每一輛車的駕駛經驗，而且這些自動駕駛車輛永不疲勞，也不像健忘的人類司機，可能忘記他們曾經犯的錯誤。
特斯拉公司的“智能召喚”功能首次推出后，汽車可以在沒有車主操作的情況下，離開停車位并繞開障礙物。一開始許多用戶抱怨這個新功能表現得不盡如人意，但在短短幾周內，特斯拉公司便收集了早期用戶的數據，重新訓練了新功能背后的機器學習模型。從此，“智能召喚”顯著獲得改進，成為了特斯拉新車的一大關鍵競爭優(yōu)勢。
自主機器人可以挽救生命
可供學習的數據日益增加，人工智能的能力也隨之快速提升，AI 變得更精準，適應性更強，也更安全。隨著越來越多的機器人進入主流日常應用，其應用領域越來越廣，標志著功能性機器人技術正得到逐步普及。自動駕駛將從“握住方向盤”到“放開方向盤”，進而發(fā)展到“無需監(jiān)視”，乃至“無需關注”，并最終進化到“無方向盤”的全自動狀態(tài)。
中國的自動駕駛企業(yè)文遠知行便是一個很好的范例。這家公司已在中國數個城市部署了無人小巴和無人環(huán)衛(wèi)車。相較于無人駕駛出租車，它們在運行環(huán)境上受到了更大的限制，但與人類司機相比，安全性有了大幅提高。這些車輛在特定環(huán)境下運行并收集大量數據后，最終將擺脫這些初期上路的限制條件。
在機器人技術從簡單應用通往復雜場景的發(fā)展過程中，我們將獲得更多數據，從而提升其性能和安全性。舉例來說，在未來十年里，通過減少人為失誤（這是道路事故最常見的原因），自動駕駛汽車僅在英國就可以防止47000起嚴重交通事故發(fā)生，挽救3900人的生命。蘭德公司的研究發(fā)現，即使自動駕駛的安全性僅比人類駕駛高 10%，換算過來也能夠拯救許多寶貴的生命。
道德困境
對于機器人的大規(guī)模應用，大部分人仍然表現出極大的擔憂，包括對機器錯誤導致人類喪命的道德爭議。古典的“電車難題”是指一種道德困境，經典假設是旁觀者可以通過切換失控電車的軌道，雖然會因此撞死一個人，卻能拯救另外五個人。這一難題說明了攸關“誰生誰死“的選擇，本質上是一種道德判斷，這樣的決策不應該交給無情的機器。
然而，機器人和人類的感知方式不同，出現的錯誤類型自然也就不同，這使得“道德困境”進一步加劇。舉例來說，機器人反應迅捷，注意力始終集中，但可能會誤判障礙物，例如優(yōu)步的無人駕駛汽車就曾把推著自行車過馬路的行人誤判為汽車，并因此預判它比自身行進的速度更快。
人類失誤和機器失誤之間的差異，使得公眾更加難以接受由機器人導致的死亡，如果他們曾經聽聞了類似 2018 年美國鳳凰城車禍事件后的媒體渲染報道，一定更難釋懷。一旦各種媒體持續(xù)以譴責性的大標題，有失偏頗地放大抨擊每樁自動駕駛致死的案例，那么人們很可能會對自動駕駛系統(tǒng)徹底失去信心，即便這項技術最終有可能拯救數百萬人的生命。
若是人類司機造成他人死亡，他們將面臨法律的判決并承擔相應后果。但“人工智能的黑匣子”無法以人類可理解的詞句，或者在法律和道德上正當合理的人類語言，向法官和公眾解釋肇事決策的原由。
另一點需要商榷的是問責問題。在鳳凰城的那場事故中，汽車里的人類司機被指控犯有過失殺人罪。但是，在這一案件中，汽車制造商、人工智能算法供應商或工程師應該為此負責并承擔一定的法律責任嗎？只有問責歸屬明確，我們才能有共識和準則的基礎來建立一個完善的自動駕駛生態(tài)系統(tǒng)。
人工智能和機器學習時代的“電車難題”
既然機器人技術可以挽救無數生命，那么只要證明它比人類略勝一籌，我們就有充分的理由大舉推廣自動化技術。我認為，我們應把握一切機會推出對人類有助益的機器人自動化工具，它們初期應在受限制的特定環(huán)境中使用，然后再逐步規(guī)?；捎?，最終獲得更多自主權及更廣泛的推動。通過這種循序漸進的方式，我們一方面可以收集更多的數據，提升機器人的性能，另一方面能夠最大限度地降低危及人類生命的事故。
考慮到可能出現的異議，我們需要共同努力，讓大眾更了解機器人技術帶來的短期陣痛和長期效益。只有這樣，我們才能在擁抱自動化技術的進程中，逐漸培養(yǎng)出負責任和嚴謹的態(tài)度，讓機器人更好地為人類社會服務。
（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
