人工智能機器人要毀滅人類!

專家憂人工智能隨時「叛變」 美研究:機械人短期內不會構成威脅 (03:36)

(明報製圖 / 網上圖片)

圖1之1 – (明報製圖 / 網上圖片)

機械人「叛變」攻擊人類是不少科幻小說的主題,惟隨着AI(人工智能)發展,幻想漸成實質隱憂。科學界對此各執一詞,一方稱機械人構成威脅的說法言之尚早,另一方則擔心,機械人被用於戰爭等道德爭議範疇,恐造成可怕後果。

 

美國史丹福大學去年8月發表《100年AI研究》(AI100)的首份報告,研究交通、醫療保健、教育、就業、治安與公共安全等範疇,AI對美國的影響。報告指出,直至2030年,AI發展雖未臻完善,但亦將成人類生活中的得力助手。帶領研究小組的美國得州大學電腦科學家斯通(Peter Stone)在報告中指出,人們對機械人的能力躍進感憂慮,但現今機械人距離完全自主仍有極大差距,短期內不會對人類構成威脅。

不過,美國機械人工程師兼藝術家雷本(Alexander Reben)去年6月則以名為「第一法則」的機械人,挑戰「機械人不可傷害人類」的經典法則。「第一法則」機械人能夠刺傷放在工作平台上的手指,但程式設計令它不一定每次都刺下去,令放下手指的人類難以預期會否受傷。

雷本向英國廣播公司表示,這種設計突顯AI的風險「可能現已存在」,隨時對人類造成傷害或惹起道德爭議。對於部分科學家主張,替AI設下防止叛變的「安全掣」,雷本反問:「如果機械人變得如此聰明,它為何不可能自行解除安全掣?」

國際間要求採取行動、消除AI威脅的呼聲日盛,例如Google、微軟等科技企業代表聯同多名科學家,去年發動千人聯署,呼籲聯合國行動制止AI被用作致命武器。聯合國已通過今年內正式商討相關議題。人權觀察軍備分部總監古斯(Stephen Goose)強調,必須立即行動,制止AI武器為人類帶來災難。

(BBC / Seeker)

機械人3定律

電影《智能叛變》(I, Robots)原著小說創作者、美籍俄裔科幻小說家艾西莫夫(Isaac Asimov,1920-1992)曾為其作品的機械人設定行為準則,被稱為「機械人3定律」。

第一法則﹕機械人不得傷害人類,或因袖手旁觀使人類受傷害

第二法則﹕除非違背第一法則,機械人須服從人類命令

第三法則﹕在不違背第一及第二法則下,機械人須保護自己