英國研究人員正在研制一種能與人交流的高智能自動(dòng)化系統。這種系統不是簡(jiǎn)單與人對話(huà)，而能與人討論乃至爭辯，有助于操作者更好地作出決策。這一系統的雛形最快三年問(wèn)世。
　　阿伯丁大學(xué)教授瓦姆博托·瓦斯康塞洛斯說(shuō)，研制能與人討論乃至辯論的自動(dòng)化系統旨在增加人對智能技術(shù)的信任。
　　他說(shuō)，機器人之類(lèi)的自動(dòng)化系統是現代工業(yè)組成部分，無(wú)需人守在旁邊就能執行任務(wù)，應用在諸多領(lǐng)域，可以迅速處理大量信息，判斷如何行動(dòng)。不過(guò)，自動(dòng)化系統可能在運行中出現差錯，有時(shí)“說(shuō)不清因為人還是系統”。
　　瓦斯康塞洛斯說(shuō)，如果人不明白某個(gè)自動(dòng)化系統為什么在某個(gè)特定時(shí)間以某種特定方式執行某項特定任務(wù)，可能會(huì )不信任這個(gè)自動(dòng)化系統。
　　機器人會(huì )說(shuō)話(huà)不稀奇，而高度智能、能與人討論的機器人仍停留在科學(xué)幻想中。
　　瓦斯康塞洛斯說(shuō)：“我們正在創(chuàng )造的是新一代自動(dòng)化系統，能與人雙向交流�！�
　　這種系統不“出聲”，以在屏幕上顯示詞句的方式與人交流。典型交流情形是，人問(wèn)機器人為什么作出某一決定，是否有其他選擇，為什么沒(méi)有采用其他選擇。
　　這種交流“讓人可以質(zhì)詢(xún)或推翻機器人的決定”。
　　“你可以在必要時(shí)指揮電腦系統打破或修改規則，以便更好地利用資源或確保安全，”瓦斯康塞洛斯說(shuō)。
　　人機交流的最終目的是確保機器作出令人滿(mǎn)意的決定。不過(guò)，雙向交流中，當人對機器給出的所有選擇都不滿(mǎn)意時(shí)，機器可能回答：“抱歉，我能做的就是這些�！�
　　會(huì )討論的高智能自動(dòng)化系統有望部署在外星球和深海，或用于執行國防任務(wù)，或在核設施等危險環(huán)境中作業(yè)。
　　為防止系統聰明過(guò)頭、自行其是，系統研制人員在設計過(guò)程中注意防止系統作出威脅性、野蠻或敵對反應，特意邀請一名心理學(xué)家參與設計。
　　美國科學(xué)幻想小說(shuō)作家艾薩克·阿西莫夫認為，設計高智能機器人必須遵循若干規則，最重要的一條就是“機器人不可以傷害人或坐視人受傷害”。
　　瓦斯康塞洛斯說(shuō)，實(shí)現人機交談后，人擔負的責任更多，出錯后不能再簡(jiǎn)單歸咎于機器�！柏熑坞S權力而至。所有這些對話(huà)都會(huì )存檔，出了什么問(wèn)題能找到責任方�！�