機器(qì)人(rén)三定律有瑕疵，授權理(lǐ)念才能(néng)保護人(rén)類？

正如(rú)可以保護你、幫助你、支持你一(yī)樣，機器(qì)人(rén)也(yě)可能(néng)會傷害你。如(rú)何構建一(yī)套放(fàng)之四海皆準的機器(qì)人(rén)行為(wèi)原則，是科技工作(zuò)者不得不面對的技術和倫理(lǐ)雙重難題。赫特福德大學的人(rén)工智能(néng)學者ChristophSalge博士撰文分(fēn)享了(le)自己的思考。

如(rú)何避免機器(qì)人(rén)傷害他人(rén)？許多現(xiàn)有的機器(qì)人(rén)，比如(rú)在工廠裏組裝汽車的機器(qì)人(rén)，在人(rén)類接近的時(shí)候就(jiù)會立即關(guān)閉電源。但(dàn)是，這(zhè)種簡單粗暴的解決方案并不适用于自動駕駛汽車，它可能(néng)需要在發生(shēng)車禍時(shí)緊急移動，或者是對于一(yī)個(gè)護士機器(qì)人(rén)來(lái)說(shuō)，因為(wèi)它可能(néng)需要在老人(rén)摔倒之前扶起對方。

随着機器(qì)人(rén)成為(wèi)我們的仆人(rén)、夥伴和同事(shì)，我們需要處理(lǐ)日益複雜的情況，以及可能(néng)引發的倫理(lǐ)和安全問題。科幻小說(shuō)已經預見了(le)這(zhè)個(gè)問題，并提出了(le)各種可能(néng)的解決方案。最著名的是阿西(xī)莫夫（IsaacAsimov）的機器(qì)人(rén)三原則，它們的提出是為(wèi)了(le)避免機器(qì)人(rén)傷害人(rén)類。自2005年以來(lái)，我和我在赫特福德大學的同事(shì)們一(yī)直在研究一(yī)個(gè)可以替代的想法。

我們認為(wèi)不應該限制機器(qì)人(rén)的行為(wèi)，機器(qì)人(rén)應該被賦予最大限度發揮它們行動能(néng)力的權利，這(zhè)樣它們就(jiù)可以為(wèi)任何特定的場(chǎng)景挑選最好(hǎo)(hǎo)的解決方案。正如(rú)我們在一(yī)篇新(xīn)論文中所描述的那樣，這(zhè)一(yī)原則可能(néng)構成一(yī)套新(xīn)的通用準則的基礎，以使人(rén)類盡可能(néng)安全。

阿西(xī)莫夫的三原則

1.機器(qì)人(rén)不可能(néng)傷害人(rén)類，或者通過不作(zuò)為(wèi)，讓人(rén)類受到傷害。

2.機器(qì)人(rén)必須服從人(rén)類的命令，除非這(zhè)樣的命令與第一(yī)定律相抵觸。

3.機器(qì)人(rén)必須保護自己的存在，隻要這(zhè)種保護不與第一(yī)或第二定律相抵觸。

盡管這(zhè)些(xiē)原則聽(tīng)起來(lái)相當有理(lǐ)，但(dàn)無數批評已經揭示了(le)它的不足。Asimov自己的故事(shì)可以說(shuō)就(jiù)是對自己所提出的這(zhè)三項原則的解構了(le)，展示了(le)它們在不同的情況下(xià)是如(rú)何失效的。目前，大多數試圖起草新(xīn)指導方針的嘗試都遵循了(le)類似的原則，以創造出安全、順從和有效的機器(qì)人(rén)。

任何明确制定的機器(qì)人(rén)指導方針所存在的一(yī)個(gè)問題是——我們需要将它們轉換成機器(qì)人(rén)能(néng)夠處理(lǐ)、理(lǐ)解和運用的格式。理(lǐ)解人(rén)類語言和語言背後的生(shēng)活經驗對于一(yī)個(gè)機器(qì)人(rén)來(lái)說(shuō)是非常困難的。寬泛的行為(wèi)目标，例如(rú)避免對人(rén)類造成傷害或保護機器(qì)人(rén)自身(shēn)的存在，在不同的情況下(xià)可能(néng)意味着不同的東西(xī)。遵守這(zhè)些(xiē)規則可能(néng)最終會讓機器(qì)人(rén)無法像它的創造者所希望的那樣行事(shì)。

新(xīn)理(lǐ)念：授權

我們的另一(yī)種理(lǐ)念——授權，代表着無助的反面。被授權意味着有能(néng)力、并意識到你可以産生(shēng)影響。我們一(yī)直在開發将這(zhè)個(gè)社會概念轉化(huà)為(wèi)可量化(huà)和可操作(zuò)的技術語言的方法。這(zhè)将使機器(qì)人(rén)能(néng)夠保持它們的選擇，并以一(yī)種增加它們對世界的影響的方式行動。

當我們嘗試模拟機器(qì)人(rén)如(rú)何在不同的場(chǎng)景中使用授權原則時(shí)，我們發現(xiàn)它們通常會以令人(rén)驚訝的“自然”的方式行動。它通常隻要求他們對真實世界的運作(zuò)模式進行建模，但(dàn)不需要任何專門的人(rén)工智能(néng)編程來(lái)處理(lǐ)特定的場(chǎng)景。

但(dàn)是為(wèi)了(le)保證人(rén)們的安全，機器(qì)人(rén)需要努力維持或改善人(rén)類的授權，以及他們自己的賦權。這(zhè)基本上(shàng)意味着要具有保護能(néng)力和支持性。為(wèi)人(rén)打開一(yī)扇鎖着的門會增加他們的賦權。限制人(rén)類将會導緻對機器(qì)人(rén)的短期授權失效。而對人(rén)類的嚴重傷害可能(néng)會完全消除機器(qì)人(rén)被賦予的權力。與此同時(shí)，機器(qì)人(rén)必須努力保持自身(shēn)的運作(zuò)力量，例如(rú)确保它有足夠的能(néng)量來(lái)運作(zuò)，而不會被卡住或損壞。

機器(qì)人(rén)可以适應新(xīn)的環境

使用這(zhè)一(yī)通用原則，而不是預先設定的行為(wèi)規則，可以讓機器(qì)人(rén)考慮環境，并評估人(rén)們未曾設想過的場(chǎng)景。例如(rú)，機器(qì)人(rén)不會總是遵循“不能(néng)推人(rén)類”的規則，而是會在人(rén)們可能(néng)被一(yī)個(gè)墜落物砸到之前将他們推出去。人(rén)可能(néng)仍會受到傷害，然而這(zhè)種傷害相比之下(xià)更小。

在電影《I,Robot》中，機器(qì)人(rén)處在一(yī)個(gè)令人(rén)壓抑的狀态中，通過限制和“保護”來(lái)減少對人(rén)類的整體(tǐ)傷害。但(dàn)我們的原則是避免這(zhè)樣的情況，因為(wèi)這(zhè)意味着機器(qì)人(rén)失去了(le)人(rén)類的賦權。

盡管“授權”提供了(le)一(yī)種新(xīn)的思考安全機器(qì)人(rén)行為(wèi)的方式，但(dàn)我們仍有許多工作(zuò)要做。我們要提高它的效率，這(zhè)樣它就(jiù)可以很容易地部署在任何機器(qì)人(rén)上(shàng)，并外化(huà)為(wèi)機器(qì)人(rén)良好(hǎo)(hǎo)、安全的行為(wèi)。這(zhè)是一(yī)個(gè)非常困難的挑戰，但(dàn)是，我們堅信，授權可以讓我們找到一(yī)個(gè)切實可行的解決方案，來(lái)解決當前充滿争議(yì)的問題，即如(rú)何控制機器(qì)人(rén)的行為(wèi)，以及如(rú)何讓機器(qì)人(rén)——在最基本的意義上(shàng)——“具備道德倫理(lǐ)”。