加州帕洛阿爾托電 — 醫療職業(yè)有一條道德標準：第一，不得傷害他人。

硅谷精神則是：先去做，然后再請求原諒。

如今，隨著(zhù)科技公司不斷出現假新聞等問(wèn)題，那些為硅谷培養頂尖技術(shù)人員的美國大學(xué)正在加緊為計算機科學(xué)引入更接近醫學(xué)行業(yè)的道德標準。

就在這學(xué)期，哈佛大學(xué)與麻省理工學(xué)院共同設置了一門(mén)新課程，內容是人工智能的倫理道德與管理規范。德克薩斯大學(xué)奧斯汀分校剛剛推出一門(mén)名為“計算機科學(xué)的道德基礎”的課程，有意讓它成為所有計算機科學(xué)專(zhuān)業(yè)的必修課。

而在計算機科學(xué)的學(xué)術(shù)中心斯坦福大學(xué)，三位教授與一名研究人員正為明年開(kāi)發(fā)一門(mén)計算機科學(xué)倫理課。他們希望能有幾百名學(xué)生參加。

該課程是為了培養下一代技術(shù)人員和決策者在創(chuàng )新產(chǎn)品上市銷(xiāo)售之前，學(xué)會(huì )思考它能夠產(chǎn)生的各種影響，比如自主武器和無(wú)人駕駛汽車(chē)。

“這門(mén)課程是為了找到并確定未來(lái)兩年、三年、五年、十年從我們這里畢業(yè)的學(xué)生將要努力解決的問(wèn)題，”斯坦福大學(xué)頗受歡迎的計算機科學(xué)教授、參與此次新課程開(kāi)發(fā)的邁赫蘭·沙哈（Mehran Sahami）表示。他因為給馬克·扎克伯格上過(guò)課，在學(xué)校里非常有名。

“科技并不是中立的。創(chuàng )造科技時(shí)做出的選擇會(huì )產(chǎn)生相應的社會(huì )影響，”沙哈教授說(shuō)，他曾在 Google 擔任過(guò)高級研究員。

左起：斯坦福大學(xué)的杰里米·溫斯坦（Jeremy Weinstein）、希拉里·科恩（Hilary Cohen）、邁赫蘭·沙哈和羅布·萊希（Rob Reich）正在開(kāi)發(fā)明年的計算機科學(xué)倫理道德課程。圖片版權：Christie Hemm Klok for The New York Times

這些課程的出現恰逢大型科技公司都在努力應對科技帶來(lái)的副作用。在整個(gè)行業(yè)“先做再說(shuō)”思維模式影響下，Facebook 上出現了假新聞，Twitter 有了虛假關(guān)注者，Youtube 上有人上傳了猥褻兒童視頻——層出不窮的負面消息公開(kāi)挑戰了一種在硅谷常見(jiàn)的態(tài)度：將道德規范視為障礙。

勞拉·諾倫（Laura Norén）是紐約大學(xué)數據科學(xué)中心的博士后研究員，她從這學(xué)期開(kāi)始教授一門(mén)新開(kāi)的數據科學(xué)倫理課。她表示：“我們至少要教會(huì )人們知道，這種想法也有它的陰暗面，需要人們快速行動(dòng)、打破常規。你可以修復軟件，但如果你破壞了一個(gè)人的名譽(yù)，那是沒(méi)辦法修補的�！�

計算機科學(xué)課程需要確保學(xué)生了解與計算機相關(guān)的道德問(wèn)題，以便獲得 ABET 認證——ABET 是一個(gè)對大學(xué)科學(xué)與工程課程進(jìn)行認證的全球認證機構。有些大學(xué)的計算機科學(xué)系已經(jīng)把這個(gè)課題融入到很多課程中，其它大學(xué)則開(kāi)設了單獨課程。

即便如此，很多學(xué)生仍然覺(jué)得倫理道德課無(wú)關(guān)緊要。

“交通行業(yè)或醫生每天都接觸人身傷害或疼痛、死亡，相比之下給應用程序編寫(xiě)軟件就很少能想到這些了，”麻省理工學(xué)院媒體實(shí)驗室負責人伊藤穰一（Joi Ito）表示。

美國大學(xué)紛紛推進(jìn)科技道德的原因之一是各類(lèi)強大工具的普及，比如機器學(xué)習——可以通過(guò)分析大量數據自主學(xué)習任務(wù)的計算機算法。在哈佛-麻省理工聯(lián)合倫理課上共同授課的伊藤表示，這些工具最終都能改變人類(lèi)社會(huì )，因此美國大學(xué)都急于讓學(xué)生了解到它們的潛在影響。

“當我們開(kāi)始發(fā)現有些事物——比如自動(dòng)駕駛汽車(chē)——同時(shí)具備幫助和傷害人類(lèi)的能力，人們就開(kāi)始急于建立一個(gè)道德體系了，”伊藤說(shuō)。（伊藤還是紐約時(shí)報公司一位主管。）

去年秋季學(xué)期，康奈爾大學(xué)推出了一門(mén)數據科學(xué)課程。學(xué)生會(huì )在課上學(xué)習處理一些道德問(wèn)題：比如，當數據中包含的低收入家庭過(guò)少時(shí)，結果就會(huì )偏倚，不能代表一般人群。學(xué)生還會(huì )針對算法的應用進(jìn)行辯論，探討它們是否能夠幫助招聘或大學(xué)招生等改變人生的決策實(shí)現自動(dòng)化。

“這門(mén)課重點(diǎn)是為了讓學(xué)生了解，他們作為數據科學(xué)家在每天的日常工作可能會(huì )面臨什么，并幫助他們更加系統化地深入思考這些挑戰，”負責教授這門(mén)課的信息科學(xué)助理教授梭倫·巴洛克斯（Solon Barocas）說(shuō)。

諾倫等人的新課程旨在訓練下一代技術(shù)人員和決策者，學(xué)會(huì )思考創(chuàng )新帶來(lái)的影響。圖片版權：Sam Hodgson for The New York Times

在康奈爾大學(xué)另一門(mén)課程中，同為信息科學(xué)系助理教授的凱倫·利維（Karen Levy）則教導學(xué)生多關(guān)注科技公司的道德規范。

“一個(gè)公司所做的選擇會(huì )牽涉到很多倫理道德上的決策：他們要開(kāi)發(fā)哪種產(chǎn)品？他們對用戶(hù)數據采取什么策略？如果數據科學(xué)倫理教育完全集中于數據科學(xué)家的個(gè)人責任，那它就可能忽略企業(yè)在其中所扮演的角色，”利維教授說(shuō)。

哈佛-麻省理工聯(lián)合課有 30 個(gè)學(xué)生參加，課程主要聚焦于人工智能的道德、政策和法律問(wèn)題。推動(dòng)課程的贊助方之一是一個(gè)新成立的人工智能道德研究基金會(huì )，捐贈者包括 LinkedIn 聯(lián)合創(chuàng )始人雷德·霍夫曼（Reid Hoffman）和 eBay 創(chuàng )始人皮埃爾·奧米迪亞（Pierre Omidyar）的慈善投資公司 Omidyar Network。

這門(mén)課程還包括算法風(fēng)險評分的普及，即利用數據——如一個(gè)人是否曾被退過(guò)學(xué)，或他有多少朋友有逮捕記錄——來(lái)預測某人是否有可能犯罪。伊藤說(shuō)，他希望這門(mén)課程可以激勵學(xué)生提出一些基本道德問(wèn)題，比如：科技是否公平？如何保證數據沒(méi)有偏倚？應該用機器來(lái)評判人類(lèi)嗎？

有些大學(xué)會(huì )在信息科學(xué)、法律或哲學(xué)系設置這樣的課程。斯坦福大學(xué)計算機科學(xué)系將開(kāi)設新的倫理道德課，暫定名為“道德規范、公共政策與計算機科學(xué)”。

這門(mén)課程倍受期待，原因之一是沙哈教授在學(xué)校非常受歡迎。每年約有 1500 名學(xué)生選修他的計算機科學(xué)導論課。

新倫理道德課涵蓋的課題包括：人工智能和自動(dòng)化機器、隱私和公民權利、Facebook 等公眾平臺等。協(xié)助開(kāi)發(fā)課程的斯坦福大學(xué)政治學(xué)教授羅布·萊希表示，課上將會(huì )要求學(xué)生從軟件工程師、產(chǎn)品設計師和決策者的角度來(lái)思考這些問(wèn)題。另外，課程還將安排學(xué)生把理想解決方案轉化為計算機語(yǔ)言。

“斯坦福絕對有責任帶頭整合這些道德觀(guān)點(diǎn)，不過(guò)卡內基梅隆、加州理工、加州大學(xué)伯克利分校和麻省理工也是一樣，”斯坦福大學(xué)政治學(xué)教授、倫理道德課共同開(kāi)發(fā)者杰里米·溫斯坦說(shuō)，“為科技領(lǐng)域培養下一代領(lǐng)軍人物的整個(gè)體系都必須加入這個(gè)行列�！�