Posts from the ‘AI’ Category

人工智能機器人要毀滅人類? 能隨時「叛變」?

人工智能機器人要毀滅人類!

專家憂人工智能隨時「叛變」 美研究:機械人短期內不會構成威脅 (03:36)

(明報製圖 / 網上圖片)

圖1之1 – (明報製圖 / 網上圖片)

機械人「叛變」攻擊人類是不少科幻小說的主題,惟隨着AI(人工智能)發展,幻想漸成實質隱憂。科學界對此各執一詞,一方稱機械人構成威脅的說法言之尚早,另一方則擔心,機械人被用於戰爭等道德爭議範疇,恐造成可怕後果。

 

美國史丹福大學去年8月發表《100年AI研究》(AI100)的首份報告,研究交通、醫療保健、教育、就業、治安與公共安全等範疇,AI對美國的影響。報告指出,直至2030年,AI發展雖未臻完善,但亦將成人類生活中的得力助手。帶領研究小組的美國得州大學電腦科學家斯通(Peter Stone)在報告中指出,人們對機械人的能力躍進感憂慮,但現今機械人距離完全自主仍有極大差距,短期內不會對人類構成威脅。

不過,美國機械人工程師兼藝術家雷本(Alexander Reben)去年6月則以名為「第一法則」的機械人,挑戰「機械人不可傷害人類」的經典法則。「第一法則」機械人能夠刺傷放在工作平台上的手指,但程式設計令它不一定每次都刺下去,令放下手指的人類難以預期會否受傷。

雷本向英國廣播公司表示,這種設計突顯AI的風險「可能現已存在」,隨時對人類造成傷害或惹起道德爭議。對於部分科學家主張,替AI設下防止叛變的「安全掣」,雷本反問:「如果機械人變得如此聰明,它為何不可能自行解除安全掣?」

國際間要求採取行動、消除AI威脅的呼聲日盛,例如Google、微軟等科技企業代表聯同多名科學家,去年發動千人聯署,呼籲聯合國行動制止AI被用作致命武器。聯合國已通過今年內正式商討相關議題。人權觀察軍備分部總監古斯(Stephen Goose)強調,必須立即行動,制止AI武器為人類帶來災難。

(BBC / Seeker)

機械人3定律

電影《智能叛變》(I, Robots)原著小說創作者、美籍俄裔科幻小說家艾西莫夫(Isaac Asimov,1920-1992)曾為其作品的機械人設定行為準則,被稱為「機械人3定律」。

第一法則﹕機械人不得傷害人類,或因袖手旁觀使人類受傷害

第二法則﹕除非違背第一法則,機械人須服從人類命令

第三法則﹕在不違背第一及第二法則下,機械人須保護自己

 

AlphaGo 連勝人類:從圍棋複雜程度淺談人工智能重要性

AlphaGo 連勝人類:從圍棋複雜程度淺談人工智能重要性

2017/5/23 — 20:33

AAA
2016 年 1 月 28 號科研期刊《自然》的封面。

2016 年 1 月 28 號科研期刊《自然》的封面。

AlphaGo 改良測試版本已戰勝地球上幾十位最強人類圍棋高手。人類憑科學、邏輯、數學,創造出能夠在現有棋類中最複雜的圍棋戰勝世界冠軍的人工智能。

2017/5/22 — 18:36

人工智能與一般電腦程式不同之處,在於其並非簡單依循人類工程師定下的規則去執行指令。人工智能使用分析大數據的演算法,稱之為機械學習(machine learning)。機械學習是一個統稱,其分成眾多不同演算法,應用於各種不同問題,詳細分別在此不述。無論何種機械學習演算法,其共通點是電腦會從過往經驗中學習,自動分析出最佳執行策略。

以棋類為例,為什麼必須使用機械學習?原因在於其可能步法數量非常多。我們可見的宇宙中,大約有 10^80 個粒子,即 1 後面跟 80 個零。我們可以問,圍棋最多可能有多少個不同棋局?

圍棋的棋盤是個 19 x 19 的正方形,即有 19 x 19 = 361 格。每格可以有三種狀態:黑子、白子、空位。因此,每一步最多可以有 3^361 種擺法,即大約 1.7 x 10^172 種擺法,亦即 17 後面跟 171 個零。這已經比宇宙中的粒子總數 10^80 更多。然而根據圍棋規則,並非每一格都能任意放黑子或白子,因此實際上最多可能擺法應比 1.7 x 10^172 少一些。電腦科學家 John Tromp 與其他人曾計算出實際可能擺法約為 2 x 10^170。

接下來,我們需要知道一局最長能有多少步。這很簡單,因為明顯地一局最長只能把所有可能擺法全部走完,即 1.7 x 10^172 步。Tromp 曾證明要在一局內把 1.7 x 10^172 步全部走一次是不可能的,但真正最長能有多少步仍未有人能計算出來。所以,1.7 x 10^172 步是數學上的絕對最大值。

因此,我們就知道,圍棋最多可能有 361^(2 x 10^170) 個不同棋局,約等於 10^(5.3 x 10^170),即 1 後面跟 5.3 x 10^170 個零。那麼多,究竟是多少個零啊?總之多到我也不想數。好吧,你硬要我數,我就數給你看。5.3 x 10^170 個零,即 53 後跟 169 個零,即

530,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,

000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,

000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000 個零。

所以,圍棋最多可能有 1 後面跟這麼多個零個不同棋局。不要叫我寫出來,因為宇宙的年齡約為 138 億年,即約 4.35 x 10^17 秒。如果我由宇宙誕生的一刻開始寫,每秒就必需寫 10^152 個零,才能在今天寫完。再者,我肯定不夠墨水寫,因為我每秒必須寫的零的數量比宇宙中的粒子總數 10^80 更多。

當然,這是圍棋不同棋局數量的上限,哪麼下限呢?根據 Tromp 與其他人的計算,下限約為 10^(10^48),即 1 後面跟 10^48 個零,即 1 後面跟 1 後面跟 48 個零個零,即 1 後面跟

1,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000,000 個零。

嘩,少了好多個零啊。可是,這仍比 10^80 多非常多。就算我們以人類平均一局圍棋長度約 400 步來算,也大約有 10^800 個不同棋局。如果每個粒子都懂得下圍棋,宇宙中每個粒子都必須記住 10^720 個不同棋局才能把 10^800 個棋局全部記住。

因此,這就說明機械學習的重要性。正如我們會把發明汽車、輪船、火箭、太空船等等視為人類文明進步,我們應把 AlphaGo 看成人類文明另一大進步。人類發展出能夠自動分析數量過於龐大的可能性的電腦,若能應用於正當、適合的問題上,將是人類文明發展的極重要一步。例如自動駕駛。路面的複雜程度不下於圍棋,未來的自動汽車應能準確預測路面情況,把交通意外數量降至接近零。

中國棋王柯潔與Google的人工智慧AlphaGo,在今天進行第二場對弈,最終柯潔敗下陣來.

 

AlphaGo再勝柯潔 中媒封鎖谷歌字眼

2017-05-26〔記者楊媛婷/台北報導〕由谷歌(Google)團隊研發的AI系統「AlphaGo」昨二度對戰世界排名首位的中國棋王柯潔,輕鬆取勝。柯潔賽後指出,AlphaGo完全改變他對人生的看法,也認識到自己的不足,坦承實力比不上AlphaGo。週六雙方將三度對決;不過中國政府封鎖谷歌,這場在中國舉行的世紀對決卻在中國境內被禁止直播,中國媒體報導時也絕不能出現「谷歌」這個名詞。

  • ▲人機大戰第二回,柯潔抱頭沉思,最後還是輸給人工智慧系統AlphaGo。(法新社)▲人機大戰第二回,柯潔抱頭沉思,最後還是輸給人工智慧系統AlphaGo。(法新社)

應是谷歌和中國關係緊張

雙方廿三日首戰,AlphaGo以一目半獲勝,昨日AlphaGo持黑子先行,三個多小時賽程裡,持續壓制柯潔;雖然柯潔中途試圖反撲,一度將AlphaGo困入泥潭,但招數很快被AlphaGo識破,加上失誤,最後於第一三六手時投子認輸,三輪戰中吞下連二敗局;賽後柯潔並未馬上離席,繼續思考對手布局,也有不少中國棋士上前加入討論。

人在現場的「紅面棋王」周俊勳指出,柯潔在第一輪比賽中選擇與AlphaGo比棋力,昨日的第二輪採取高風險報酬的賭徒式暴力下法,原本期待亂中取勝扳回一城,但仍然不敵進階後的AlphaGo;有「棋聖」之稱的中國棋手聶衛平開玩笑說,柯潔要贏,恐怕只能找出AlphaGo程式的「bug(錯誤、漏洞)」,或是找人拔掉電源。

聶衛平︰或許拔掉電源才能贏

中國民眾無緣觀賞柯潔與AlphaGo的世紀之戰直播。據了解,原本中國所有主流媒體早就準備好明星陣容直播這場人類與AI的世紀對決,北京當局卻在賽前緊急喊停,並規範中國媒體在報導中只能提及「AlphaGo」,不能提到研發團隊谷歌。

不論是新華社或其他新聞網,谷歌都在報導字句中「人間蒸發」,不少中國網友認為可能與谷歌和中國政府關係緊張有關,谷歌提供的多項網路服務仍遭中國禁止。

曾擔任中國《南方週刊》新聞主任、目前流亡至德國的作家長平指出,中國當局不僅不願意宣傳谷歌的AI技術,最重要的是,「不希望人們由此聯想到網路資訊自由與人類進步的關係」。

再度敗給AlphaGo 柯潔:一度以為離勝利很近

2017-05-25  18:19〔即時新聞/綜合報導〕中國棋王柯潔與Google的人工智慧AlphaGo,在今天進行第二場對弈,最終柯潔敗下陣來,賽後柯潔接受媒體訪問,被問到比賽中為何摸著自己胸口?柯潔表示,之前AlphaGo一直都很穩健,但今天發現AlphaGo有個劫一直撐著不補,讓他當時以為自己離勝利很近了,可能是太緊張,導致他後來下了個不好的棋,所以才會摸胸讓心臟跳慢一點,「可能這也是人類最大的一個弱點」。

  • 柯潔在今日與AlphaGo的比賽中敗下陣來。(路透)柯潔在今日與AlphaGo的比賽中敗下陣來。(路透)

《澎湃新聞》報導,柯潔自評今天下的挺好,前半盤很精彩,但後面鬆懈了,「我不喜歡安樂死,今天比賽還是下得挺熱血沸騰的」。

柯潔說,幫AlphaGo擺棋的黃博士(黃士傑)很了不起,坐在他前面就像個機器人一樣,若是中國棋手「古力」來擺棋,可能會有驚訝的動作或表情,但黃博士不會對AlphaGo下的棋感到意外,認為和黃博士對戰,更有種和AI對弈的感覺。

柯潔表示,AlphaGo出現後,讓他對人生的看法有巨大的改變,認為「未來」這件事,可能是他這種凡夫俗子無法預測的,而AlphaGo讓他認識到了自己的不足,坦承實力不如AlphaGo。

柯潔也說,沒想到跟AlphaGo下棋也能如此熱血沸騰,下出了和人類對戰的感覺,希望下一場能下得更精彩。