尼克·波斯頓說(shuō)過(guò)：“我們對(duì)待風(fēng)險(xiǎn)，絕對(duì)不是"屢敗屢戰(zhàn)"的方式。我們沒(méi)有機(jī)會(huì)從錯(cuò)誤中汲取教訓(xùn)……我們應(yīng)該采取預(yù)防的方式。這需要我們預(yù)測(cè)到新的危險(xiǎn)，并有決心采取行動(dòng)，將危險(xiǎn)阻止。 ” 焦點(diǎn) 智能機(jī)器存在反人類(lèi)風(fēng)險(xiǎn)
“我們必須嚴(yán)肅對(duì)待可能演變成"潘多拉之盒"的時(shí)刻，人工智能一旦失控，后果可能是災(zāi)難性的。 ”劍橋哲學(xué)家休·普萊斯說(shuō)出了對(duì)人工智能的擔(dān)憂。在其看來(lái)，當(dāng)計(jì)算機(jī)可以自己寫(xiě)程序時(shí)，可能就會(huì)達(dá)到這個(gè)臨界點(diǎn)。
目前，人工智能界總是傳來(lái)令人振奮的消息，但對(duì)其的擔(dān)心也無(wú)時(shí)不在，失控的機(jī)器并不總是存在于科幻界。
11月，美國(guó)一家人權(quán)機(jī)構(gòu)發(fā)表了名為《逝去的人性：殺人機(jī)器人案例》的報(bào)告，引發(fā)諸多擔(dān)心。報(bào)告稱(chēng)，全自動(dòng)武器發(fā)展會(huì)給人類(lèi)文明帶來(lái)危險(xiǎn)。全自動(dòng)武器不具備人性，無(wú)論是致命的還是非致命的屬性，都可能導(dǎo)致對(duì)平民的無(wú)情殺戮。
美國(guó)國(guó)會(huì)今年公布的一份報(bào)告顯示，短短七年內(nèi)，美國(guó)增加了7494架無(wú)人機(jī)。該報(bào)告未提及去年美國(guó)內(nèi)華達(dá)空軍基地發(fā)生的無(wú)人機(jī)機(jī)器中毒事件。當(dāng)時(shí)，計(jì)算機(jī)病毒在遠(yuǎn)程控制無(wú)人機(jī)的計(jì)算機(jī)中擴(kuò)散，不過(guò)軍方稱(chēng)病毒被控制，未發(fā)生事故。此外，該報(bào)告也未提及涉及遠(yuǎn)程控制方面的一些倫理問(wèn)題。 生物技術(shù)可能會(huì)“助紂為虐”
針對(duì)生物技術(shù)的威脅，劍橋哲學(xué)家休·普萊斯和天文學(xué)家馬丁·里斯都認(rèn)為，如今，制造病毒武器或其他生物恐怖事件的方式已被大大簡(jiǎn)化。
去年，兩組獨(dú)立的科學(xué)家在實(shí)驗(yàn)室里生產(chǎn)出了H5N1流感病毒，以對(duì)其進(jìn)行研究，最終使人類(lèi)疫情得以控制。不過(guò)，當(dāng)他們計(jì)劃將在全球最權(quán)威的兩份期刊《自然》和《科學(xué)》發(fā)表此項(xiàng)論文時(shí)，卻被美國(guó)政府制止，要求不能公開(kāi)研制過(guò)程的關(guān)鍵步驟，以防被生物恐怖主義利用。
