我們需要就哪些任務(wù)需要掌握在公眾手中和退出市場進(jìn)行更深入的辯論。----瑪麗埃特?舍克（Marietje Schaake）

在AI論壇上，專家表示，超人機(jī)器智能的到來將是人類歷史上最大的事件之一。
斯坦福大學(xué)人類中心人工智能學(xué)院秋季會議提出了一個(gè)基本主題：人工智能必須對人類真正有益，并且不能在效率低下的情況下?lián)p害人們的利益。

該活動名為AI道德，政策和治理，聚集了來自學(xué)術(shù)界，行業(yè)，公民社會和政府的900多人，討論了AI（或能夠執(zhí)行通常需要人類智能的任務(wù)的自動計(jì)算機(jī)系統(tǒng)）的未來。
會議上的討論強(qiáng)調(diào)了世界各地的公司，政府和人們?nèi)绾螒?yīng)對AI的道德，政策和治理影響。

擴(kuò)大人類經(jīng)驗(yàn)

斯坦福大學(xué)商學(xué)院技術(shù)經(jīng)濟(jì)學(xué)教授蘇珊?阿西（Susan Athey）和HAI斯坦福大學(xué)的教務(wù)副主任談到了人工智能對經(jīng)濟(jì)的影響。她說，至關(guān)重要的是，人工智能將創(chuàng)造共同的繁榮，并擴(kuò)大而非取代人類在生活和工作中的經(jīng)驗(yàn)。畢竟，人類以某種難以理解的方式理解人工智能。她補(bǔ)充說，我們?nèi)绾谓M織和考慮人與機(jī)器工作的未來很重要，因?yàn)樗鼈兌际窍嗷ヂ?lián)系的。

Athey說：“當(dāng)我們深入應(yīng)用程序并了解整個(gè)垂直領(lǐng)域，實(shí)現(xiàn)過程中的所有內(nèi)容時(shí)，包括AI的道德規(guī)范和人們的感受，人工智能的真正好處就會顯現(xiàn)出來。”

麻省理工學(xué)院數(shù)字經(jīng)濟(jì)倡議組織的負(fù)責(zé)人埃里克?布林約爾夫森（Erik Brynjolfsson）表示，打造AI的公司除了需要引人注目的技術(shù)外，還需要關(guān)注人類這一方面?！拔覀兪紫刃枰私馕覀兊膬r(jià)值觀，這樣我們才能了解如何最好地使用這些技術(shù)。” 他說，有必要從人工智能如何適應(yīng)人類文化的角度重新考慮整個(gè)組織和業(yè)務(wù)流程。

其他小組成員討論了公共實(shí)體和私營企業(yè)在監(jiān)管AI方面的作用。
谷歌前首席執(zhí)行官，Alphabet Inc.技術(shù)顧問埃里克?施密特（Eric Schmidt）與歐洲議會荷蘭議員馬瑞埃特?舍克（Marietje Schaake）進(jìn)行了交談，他在歐盟對大技術(shù)的監(jiān)管中發(fā)揮了作用，并且是斯坦福大學(xué)網(wǎng)絡(luò)政策中心的國際組織政策總監(jiān)。

施密特指出，道德與人為決定與AI決定的組合方式息息相關(guān)，他說，在像中國這樣的國家正在使用AI技術(shù)壓制和監(jiān)督自己的人民的時(shí)代，“自由，西方的價(jià)值觀”對支持至關(guān)重要。他說：“我們要確保我們正在構(gòu)建的系統(tǒng)是建立在我們的價(jià)值觀，人類價(jià)值觀之上的?！?

沙克（Schaake）敦促全球決策者應(yīng)對AI政策和法規(guī)采取面向公民的方法，而不是遵循更面向公司用戶的框架。她主張對科技公司如何使用大數(shù)據(jù)以及對個(gè)人的隱私保護(hù)進(jìn)行更嚴(yán)格的監(jiān)管，并敦促就人工智能而言，監(jiān)管應(yīng)該早于而不是晚進(jìn)行。

她說：“我們需要就哪些任務(wù)需要掌握在公眾手中和退出市場進(jìn)行更深入的辯論?！?

倫理，地緣政治與多樣性

LinkedIn的聯(lián)合創(chuàng)始人里德?霍夫曼（Reid Hoffman）談到了他的“閃電縮放”概念，這是硅谷公司學(xué)到的用于快速發(fā)展創(chuàng)新的一套技術(shù)。霍夫曼說，這應(yīng)該在具有道德感和責(zé)任感的同時(shí)在人工智能中發(fā)生。

例如，當(dāng)快速發(fā)展的公司為未來做計(jì)劃并快速建立其工程或銷售能力時(shí)，他們還需要預(yù)見風(fēng)險(xiǎn)以及在未來的道路上可能出什么問題。這意味著需要聘用了解風(fēng)險(xiǎn)和道德規(guī)范的人員，并為公司開發(fā)具有道德意識的風(fēng)險(xiǎn)框架。

在醫(yī)療保健和疾病領(lǐng)域，虔誠健康技術(shù)負(fù)責(zé)人DJ Patil指出，人工智能如何在治療人和挽救生命方面具有巨大的前景：“我們需要以最大的扭曲速度來幫助那些人。” 面臨的挑戰(zhàn)是如何將這些療法和治療方法迅速推向市場，同時(shí)還要遵守必要的醫(yī)療保健保障措施和道德規(guī)范。

Patil還呼吁在全球數(shù)據(jù)共享方面進(jìn)行更多合作?！拔覀冇袣夂蜃兓?，有可能爆發(fā)大流行。我們需要的是更好的國際框架，條約機(jī)制，以跨地區(qū)界共享數(shù)據(jù)，以便我們可以實(shí)際處理人類問題。”

人工智能與國家安全

在由弗里曼?史波格利國際研究學(xué)院和胡佛研究所高級研究員艾米?澤加特（Amy Zegart）主持的一次人工智能和地緣政治學(xué)分會上，小組成員分析了人工智能的性質(zhì)，人工智能在國家安全，情報(bào)和安全系統(tǒng)中的作用，以及它如何影響戰(zhàn)略穩(wěn)定性或不穩(wěn)定。

關(guān)于后者，斯坦福大學(xué)國際安全與合作中心聯(lián)合主任科林?H?卡爾（Colin H. Kahl）提出了以下?lián)鷳n：如果某些國家迅速采取行動，人工智能是否會加劇世界上最強(qiáng)大國家之間的經(jīng)濟(jì)緊張關(guān)系并改變?nèi)蜍娛铝α科胶?？而其他人則落伍了。他提到的另一個(gè)擔(dān)憂是有人可能會使用具有AI功能的網(wǎng)絡(luò)武器打擊核指揮和控制中心。

Zegart補(bǔ)充說，當(dāng)情報(bào)專家分析和篩選數(shù)據(jù)時(shí)，機(jī)器學(xué)習(xí)可以幫助減輕認(rèn)知負(fù)擔(dān)，而如今這些數(shù)據(jù)正在以更快的速度生成。挑戰(zhàn)在于組織，因?yàn)楣倭艡C(jī)構(gòu)采用改變游戲規(guī)則的技術(shù)的步伐很慢。