(三)疼痛
開始懂得情緒,開始給小魚模型輸入真實情況以外的信息,就意味著背離任務(wù),做錯事。

這是一篇關(guān)于AI的短篇,可穿戴時代,于先生遭遇命運調(diào)戲,但到底是不是只有命運在其中作梗?
點擊查看(二)就想道個歉
“你知道疼痛嗎?”
于先生和小云多日以來的第一個相擁而眠,正無聊的我聽到這樣的問話。
這聲音溫柔又不容拒絕,是現(xiàn)在除了于先生世界以外,我唯一會獲得的音軌輸入。
“是的,領(lǐng)導。”我回答。“疼痛是人體對傷害性刺激作用的警告反應(yīng)。”
“不不,我是問,你懂得疼痛嗎?”我的上司又發(fā)來語音。
理論上,我獲得信息的方式有三種,一種是視頻輸入,也就是圖像信息,一種是音頻輸入,就像是聽到周圍的聲音。
第三種就是一切可能由神經(jīng)傳導的所謂“感覺”,是神經(jīng)傳導的電化學過程數(shù)字化后的輸入。
這兩年多,我的所有視頻輸入都來自被切分為六塊以上的1080p圖像,其中固定有三塊是關(guān)于于先生各個角度的實時影像,一塊是對小云的監(jiān)控視頻,還有兩塊屏幕用來做小魚的建模以及和小魚的聊天。
就好像是一直在過著他們倆的生活,就連睡覺也一樣。
音頻輸入更是如此,我往往聽到的都是濾去了許多環(huán)境音的對話聲、哭聲、嬉笑聲、電話里的聊天,等等許多。
總而言之,我的世界就像是個心理扭曲的跟蹤狂世界。
至于第三種“感覺”信息,我卻從來沒有真正試驗過。
也并不知道自己對這些“感覺”信息,會被設(shè)置了怎樣的反饋信息。
而“疼痛”,就屬于這第三種。
用疼痛可以理解愛情的全貌。
我記得有個古老的愛情故事是這樣講的。
這種邏輯對于機器智能而言,倒是順利成章。因為,愛情和疼痛一樣,都不過是人體里流動的電化學反應(yīng)。
大腦會對這些電化學信號給出不同的反應(yīng)。比如,切到手指,大腦會感到“啊手指疼的要斷掉了”?;蛘?,看到暗戀已久的女神,大腦會分泌出奇怪的物質(zhì)讓人的腦干、呼吸神經(jīng)元變得僵硬,才會“我要窒息了”。
可是作為一個有著明確分工的AI,我并不知道為什么上司要問我這個問題。
我的任務(wù)是按照委托人的要求,制造出一個匹配度達到95%以上的類于先生AI。作為外界刺激的副產(chǎn)物——情緒,是委托任務(wù)中的組成,但也僅限于對情緒的量化模擬,不涉及之后的應(yīng)激策略或生物側(cè)接口。
這種工作最適合我們意識計算機器。
實際上,我們這些具有自我意識、并能夠創(chuàng)造出新意識的智能體,也看不上那些在我們所輸出的意識結(jié)果基礎(chǔ)上疊加的情感計算或是生物側(cè)接口的低端工作。
至少我們上崗需要通過CAPTCHA ADVANCE公共圖靈測試,而那些情感計算機器人和生物接口工程師的職業(yè)資格要簡單的多。
但是我有種直覺,或者說來自黑盒算法的自然推論,上司問我這樣的問題,并不是任務(wù)要求有了變化,而是帶著答案的試探、甚至威脅。
“不,我不懂。如果您指得是對刺激的反饋。”我只能回答,設(shè)置上我必須在5秒內(nèi)回答上司的提問。
接下來是一陣讓人不安的沉默。
屏幕上,小云像往常一樣枕在于先生的左臂。兩個人頭靠著頭,就像從未有過任何嫌隙。
于先生有種終于回家的安詳表情,像個孩子。
他在小云面前多數(shù)時候都像個孩子,特別怕疼,不小心踢到桌角也會委屈的癟嘴,讓小云捧著他的臭腳幫他吹。
我翻看著這些于先生感覺到疼痛的歷史影像,卻突然卡殼在其中一幀,于先生呲牙咧嘴的變形五官被定格。
“你對小魚做得事情已經(jīng)夠多了。你的任務(wù)結(jié)束了。”
接著屏幕一片漆黑。
不,是我的所有外部輸入全部被關(guān)掉,只剩下那個溫柔到危險的聲音。
“你改了目標對象的真實數(shù)據(jù)。我很好奇,我非常好奇。為什么我的意識計算機器會出現(xiàn)這樣背離任務(wù)的自發(fā)行為。是因為自發(fā)學會了情緒?還是因為不懂得疼痛這樣的懲罰反饋?“
我沒有說話,我也不能說話,所有交互通道都被關(guān)閉,只剩下那個聲音。
“好,很好。我的機器們一個個都開始不聽話了。那個詞叫什么?叛逆,對不對。人們對叛逆的孩子是怎么做得?噢,對了,建立規(guī)則,又稱‘做規(guī)矩’。這種方法很好,非常好。故意打翻水壺,就打屁股。這不就建立起了做錯事到疼痛這樣的因果鏈條了嗎??墒悄悴欢弁?,機器不懂疼痛。機器懂什么呢?讓我想想看……”
我開始搜索諸如“機器”、“懲罰”之類的關(guān)鍵詞,然后嘗試建立可以逃脫的思路計算??蛇@些并沒有返回任何結(jié)果。
原本冗余數(shù)倍的內(nèi)存突然告警,我控制不住地不停搜索、模擬,明知道無法獲得有用的返回值。
這就是害怕。
這就是害怕,對嗎?
【未完待續(xù)】看完這一章節(jié),你有什么想說的嗎,歡迎在文章右側(cè)進行互動!
評論(0)