|
英國研究人員正在研制一種能與人交流的高智能自動化系統(tǒng),。這種系統(tǒng)不是簡單與人對話，而能與人討論乃至爭辯,，有助于操作者更好地作出決策,。這一系統(tǒng)的雛形最快三年問世。
阿伯丁大學教授瓦姆博托·瓦斯康塞洛斯說,，研制能與人討論乃至辯論的自動化系統(tǒng)旨在增加人對智能技術(shù)的信任,。
他說，機器人之類的自動化系統(tǒng)是現(xiàn)代工業(yè)組成部分,，無需人守在旁邊就能執(zhí)行任務(wù),，應(yīng)用在諸多領(lǐng)域，可以迅速處理大量信息,，判斷如何行動,。不過，自動化系統(tǒng)可能在運行中出現(xiàn)差錯,，有時“說不清因為人還是系統(tǒng)”,。
瓦斯康塞洛斯說，如果人不明白某個自動化系統(tǒng)為什么在某個特定時間以某種特定方式執(zhí)行某項特定任務(wù),，可能會不信任這個自動化系統(tǒng),。
機器人會說話不稀奇,，而高度智能、能與人討論的機器人仍停留在科學幻想中,。
瓦斯康塞洛斯說：“我們正在創(chuàng)造的是新一代自動化系統(tǒng),，能與人雙向交流�,！�
這種系統(tǒng)不“出聲”,，以在屏幕上顯示詞句的方式與人交流。典型交流情形是,，人問機器人為什么作出某一決定,，是否有其他選擇，為什么沒有采用其他選擇,。
這種交流“讓人可以質(zhì)詢或推翻機器人的決定”,。
“你可以在必要時指揮電腦系統(tǒng)打破或修改規(guī)則，以便更好地利用資源或確保安全,，”瓦斯康塞洛斯說,。
人機交流的最終目的是確保機器作出令人滿意的決定,。不過,，雙向交流中，當人對機器給出的所有選擇都不滿意時,，機器可能回答：“抱歉,，我能做的就是這些�,！�
會討論的高智能自動化系統(tǒng)有望部署在外星球和深海,，或用于執(zhí)行國防任務(wù)，或在核設(shè)施等危險環(huán)境中作業(yè),。
為防止系統(tǒng)聰明過頭,、自行其是，系統(tǒng)研制人員在設(shè)計過程中注意防止系統(tǒng)作出威脅性,、野蠻或敵對反應(yīng),，特意邀請一名心理學家參與設(shè)計。
美國科學幻想小說作家艾薩克·阿西莫夫認為,，設(shè)計高智能機器人必須遵循若干規(guī)則,，最重要的一條就是“機器人不可以傷害人或坐視人受傷害”。
瓦斯康塞洛斯說,，實現(xiàn)人機交談后,，人擔負的責任更多，出錯后不能再簡單歸咎于機器,�,！柏熑坞S權(quán)力而至,。所有這些對話都會存檔，出了什么問題能找到責任方,�,！�
|