第五課：機器人會不會擺脫人類的控制？
小欣：這節(jié)課，陳沛老師會為我們講解機器人會不會擺脫人類的控制。
陳沛：機器有沒有可能有一天擺脫我們?nèi)祟惖目刂?？甚至反過來控制我們?nèi)祟?？這個話題在我看來是一個越來越現(xiàn)實的話題。當然現(xiàn)在我們不用特別擔心它，因為現(xiàn)在機器智能離我們?nèi)祟惿羞h，甚至還不能夠綜合掌握人類所有的智慧。我們只是對未來做一個展望，就像做一個科學幻想一樣。
我覺得人類至少有這樣幾條不同的路徑失去對機器的這種管控。首先人不是神，只要是人就會犯錯誤。雖然機器人的所有程序都是我們編寫的，但是依然可能會失去對它的控制，因為我們會犯錯。
如果有個機器人給你端咖啡端到一半突然不動了，我們知道這個機器人出了一個bug，如果我們?nèi)祟惙稿e，有多時候我們不知道犯在哪個地方。如果犯在一個失去控制的地方，我們根本不能預測犯錯以后的結果，這是我覺得人類自身存在的一個可能。還有一種機器人失去控制可能是來自于人類的善良和同情。機器人可能借助人類的善良或者其他的愛心，不僅擺脫人類的控制并且還會反過來控制人類，那這種情況也可能會出現(xiàn)。
另外一個來自于理解的問題。就像我們一個大人和一個孩子說話，看起來你把問題表達的比較清楚，但對孩子來說聽到可能是不同的。理解上的差別也可能帶來一種更大的風險。比如人類給機器設定了三個原則：第一機器人必須保護人類，第二就是機器人必須服從人類的指令除非它違反了第一條，然后第三條說機器人必須學會保護自己除非它違反了前面兩條。作為三個公理我們聽起來挺好的，覺得可以很好的管控機器人，可以像植入操作系統(tǒng)一樣使每個出廠的機器人都擁有基本的原則，我們以為這樣就完成了對機器人的管理。
實際上在我們現(xiàn)在理解中，這樣的三個原則真能管好機器人嗎？其實不一定。比如說我們讓一個家庭機器人照顧好自己的孩子，我們這么告訴他必須絕對保證這個孩子的安全。聽起來這是非常重要的，但是機器人怎么理解這件事情呢？機器人通過各種分析，發(fā)現(xiàn)怎么樣才能夠最好的保證這個孩子的安全呢？就是呆在家里不出去。于是它就不讓孩子出去。如果只是管理個孩子還行，換成是大人呢？這時候相當于軟禁了，如果它對人類的理解就是這樣保護人類安全，同樣帶來一些大的風險。
小欣：下節(jié)課，陳沛老師會為我們講解他對于“真正機器人”的構想。
【版權歸鈦媒體所有，未經(jīng)許可不得轉載】
賬號合并
經(jīng)檢測，你是“鈦媒體”和“商業(yè)價值”的注冊用戶?，F(xiàn)在，我們對兩個產(chǎn)品因進行整合，需要您選擇一個賬號用來登錄。無論您選擇哪個賬號，兩個賬號的原有信息都會合并在一起。對于給您造成的不便，我們深感歉意。
Oh! no
您是否確認要刪除該條評論嗎？