圖片來源@Unsplash
鈦媒體注：本文來自于微信公眾號扯氮集（weiwuhui_com），作者｜魏武揮，鈦媒體經(jīng)授權(quán)發(fā)布。
騰訊掌門人馬化騰在朋友圈宣布：科技向善，是騰訊未來的愿景和使命。
稍早的時候，他在兩會上提交的七份書面建議，其中就有一個《關(guān)于加強(qiáng)科技倫理建設(shè) 踐行科技向善理念的建議》。
很樂見于騰訊的這種“我要做個好人”這樣公開的明確的表態(tài)。
印象中，這樣言辭鑿鑿斬釘截鐵的中國高科技公司的表態(tài)——并升格為一種愿景和使命，騰訊是頭一個。
尤其是在谷歌撤下了“不作惡”的背景之下。
自動駕駛領(lǐng)域里有一個很有名的倫理問題。這個倫理問題其實(shí)并不新鮮，就是著名的電車難題的翻版。
一臺載有乘客的自動駕駛汽車，極端情況下的算法該如何設(shè)計(jì)：究竟是撞向前方的路人，還是自己翻了算。再或者，是撞向左邊的五個人，還是撞向右邊的一個人，還是自己翻了算導(dǎo)致乘客倒霉？
道德和倫理并不完全相同。我們可以大罵洗稿是不道德的，但我們不會說洗稿是沒有倫理的。而自動駕駛的算法難題，不是道德問題，是倫理問題。
故而，當(dāng)我們在說，科技向善的時候，到底是在說道德，還是倫理？
而如果是倫理問題，那我們不得不承認(rèn)這樣一個事：科技倫理，或者說，技術(shù)倫理，是一個很復(fù)雜的問題。
北美的媒介環(huán)境學(xué)致力于研究媒介新技術(shù)對社會究竟是什么影響，這個學(xué)派從伊尼斯以降，到麥克盧漢，到波斯曼，到梅羅維茨。
有趣的地方是，每一代都在和上一代不敢茍同。伊尼斯是著名的技術(shù)決定論者，麥克盧漢就不是那么決定論，但他總體上是個樂觀主義者，波斯曼自稱是麥克盧漢不乖的學(xué)生，三本被譯介為中文的著作足以表明，他是一個悲觀主義者。梅羅維茨又收回來那么點(diǎn)，他沒他的老師那么悲觀。他可能是媒介環(huán)境學(xué)里對技術(shù)看法最中庸的一位學(xué)者。
更有一堆學(xué)者在這個問題上各執(zhí)己見?？苹眯≌f家出身的萊文森樂觀得不行；早年頗有些馬克思主義者氣質(zhì)的艾呂爾就很悲觀以至于他呼喚神性來拯救蒼生；活了94歲的芒福德本來是個樂觀派，但獨(dú)子死于戰(zhàn)爭后他迅速站到了悲觀的陣營；凱利跳出來和稀泥：你們說得都對。
想知道這個學(xué)派都在吵吵嚷嚷什么，可以去看一本叫《媒介環(huán)境學(xué)：思想沿革與多維視野》的書。
這本書是一本論文集，很學(xué)術(shù)。不看也沒關(guān)系，反正你只要知道這點(diǎn)就可以了：關(guān)于技術(shù)到底會帶來福祉，還是會導(dǎo)向悲劇，學(xué)者們從來沒有定論。
技術(shù)到底會帶來什么吵得不可開交，這其實(shí)涉及到一個問題：技術(shù)倫理本身都特別難有定論。
嚴(yán)謹(jǐn)?shù)卣f，向善，不等于善。更進(jìn)一步，善是什么，都莫衷一是。
技術(shù)倫理有一些特別搞的地方。
比如大多數(shù)人對社交網(wǎng)絡(luò)并沒有什么太惡的看法。但如果一生獲獎無數(shù)的芒福德爵士要活到今天，可能要很不以為然。這個從古埃及金字塔里琢磨出“權(quán)力五邊形”的老頭子，會以“王者機(jī)器”金字塔不僅僅包括石頭還包括那些死去的奴隸為例，來論證Facebook也好，微信也好，我們都是那個權(quán)力五邊形的奴隸。
其實(shí)當(dāng)今世上，都有一派人有類似的看法。他們給我們這些用戶起了個名字，叫“數(shù)字勞工”。996？不存在的，我們是007為社交網(wǎng)絡(luò)打工，還是免費(fèi)的。
技術(shù)也會改變倫理。
比如說，亂倫這件事其實(shí)非常值得細(xì)細(xì)琢磨。石器時代的原始人對亂倫行為就有些防范，一直到今天我們都無法在道理上或倫理上接受亂倫。但反對這件事的科學(xué)依據(jù)究竟是什么？——不要和我說亂倫會生白癡，那個純屬刻板印象。
假定基因技術(shù)、試管嬰兒技術(shù)發(fā)達(dá)到我們?nèi)祟愐呀?jīng)完全能駕馭，亂倫這種不合乎道德倫理的行為，就可以再推敲一下。如果沒有什么不良后果，我們?yōu)槭裁催€要認(rèn)為這不符合道德不符合倫理？
什么叫善，什么叫惡，本身都可以大加討論。
讓我們來聊聊核。
據(jù)說美國人在日本投放了原子彈之后，愛因斯坦頗為后悔。用一顆原子彈終結(jié)了無數(shù)平民的生命以使得戰(zhàn)爭迅速結(jié)束從而救下了可能同樣是無數(shù)的生命，這個頗有些莽一波氣質(zhì)的操作，其善惡大概可以爭論半天。
但有一件事怕是基本可以停止?fàn)幷摿耍喝祟惛懔艘粋€惡魔般的原子彈，反倒達(dá)成了一種平衡。局部戰(zhàn)爭還有，全球戰(zhàn)爭倒停止了。因?yàn)榈灿悬c(diǎn)理智的人都明白，原子彈不是僅僅消滅對手。頗有些利用恐懼來終結(jié)恐懼的意思。
我們現(xiàn)在要擔(dān)心的事情只剩下這條：不要讓原子彈落到不正常組織里沒有理智的人手中。
好，那么我們善用技術(shù)，不搞原子彈，搞核發(fā)電。在嚴(yán)格管理之下，這項(xiàng)清潔能源，如果不出疏漏，將極大造福人類。
請注意前提：嚴(yán)格管理，不出疏漏。
日本福島的事并不久遠(yuǎn)，至今對當(dāng)?shù)亟?jīng)濟(jì)打擊沉重。在我看來，核電廠泄露的本身危害，與造成的社會心理恐慌，當(dāng)量級恐怕后者更甚?？只烹m未見理性，但類似《思考快與慢》的作者卡尼曼早就證明了：人類，并不完全理性。
我們能做到100%不出疏漏嗎？
安全這檔子事，哪有百分百的保證。
有件事很多人都明白，發(fā)明家一旦發(fā)明出某種技術(shù)或東西之后，這項(xiàng)技術(shù)或東西的未來走向，不是發(fā)明家自己能把控的。
但向善總是好的。
這表明了一種對技術(shù)審慎的態(tài)度。審慎總比不審慎好。三思總比不思好。
曾經(jīng)有過一個觀點(diǎn)：能被發(fā)明出來的東西，都是好的。所以，能夠發(fā)明，必須發(fā)明。
但人類走到今天，這個觀點(diǎn)，怕是不怎么能立住腳。
一個高科技公司做起惡來，或者，哪怕不作惡只是不審慎，造成的后果比一個賣賣可樂的公司，嚴(yán)重得多。后者還算在可控的范圍，前者風(fēng)險(xiǎn)無限大。
所以科幻片從來只有惡的科學(xué)怪人，沒有惡的可樂老板。
向善有點(diǎn)類似善良比聰明更重要的論點(diǎn)。貝索斯于2010年說出了這樣一句話，多年以后，張小龍?jiān)谖⑿殴_課引用此句，被更多人知曉。
插一句，亞馬遜被爆出用AI監(jiān)控員工，這件事我覺得貝索斯也不是不可以辯論：監(jiān)督員工勉力干活，談不上惡。你看，什么叫善什么叫惡，是可以爭論的。
向善是動機(jī)，善是結(jié)果。動機(jī)未必導(dǎo)向結(jié)果，但如果沒有向善的動機(jī)，善的結(jié)果可能也會無心插柳柳成蔭，但總是小概率事件。
我建議騰訊成立一個圓桌式的技術(shù)倫理委員會，來落地“科技向善”這個夢想。
基于騰訊一個高科技公司的定位，高層大多理工背景，這個技術(shù)倫理委員會應(yīng)該延請一些聲望卓著的倫理學(xué)家，對關(guān)鍵性技術(shù)做一個倫理上的審慎評估。
這里可能有一些老外（如果可能的話），但中國本土學(xué)者是必須的。因?yàn)?，不得不承認(rèn)，中國這片土地，和老外還是有些不同。
在安個攝像頭基本不用和你打招呼的這里，和安個攝像頭還要討論半天的美國，AI尋人這個事，怕是做法有些不同罷。
最后多說一句話。
這也是我多年以前的觀點(diǎn)，至今未變：
科技，總體來說，永遠(yuǎn)符合既得利益者的利益。
這個意義上說，我算是骨子里的技術(shù)悲觀派。
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求，請綁定手機(jī)號后發(fā)表評論
通篇看完結(jié)論就是人類遲早完蛋。