▲電影《機械姬》是人類對AI的眾多想像之一。（圖／翻攝自IMDb）
文／TAIWAN夢想家
曾經，我們以為人無法飛向天際，如今飛行是習以為常的交通途徑。
科幻電影裡出現的產品與構想，逐漸成為你我現今生活的日常。無數創意激盪，牽動著無限未來可能，這是科技的演進。
人工智慧（Artificial Intelligence, AI）的發展，自1956由約翰•麥卡錫（John McCarthy）提出後，整個AI發展史雖然於70、80年代中後期碰上研究經費短缺與發展瓶頸，歷經兩次「AI的冬天」，自90年代開始，則隨著AI成功地應用在技術產業，以及科幻電影題材的新奇性，新穎事物、產品的發展漸漸轉化你我身處的社會。當專家學者談AI，論的是什麼？當聽到AI，您聯想到的是什麼？是更便利、安全的美好未來保證？取代人類甚至毀滅世界的推手？還是一把雙面刃，端視人們所圖所想而展現之？
若我們嘗試從耳熟能詳的科幻電影概略分類淺談，約可分為五種AI未來發展可能：
1.AI與人類敵對抗衡。全能且有意識的 AI 是演化的強者，那麼強者會因此追求擁有絕對控制、統治、甚至消滅人類嗎？如同《魔鬼終結者》、《駭客任務》等電影情節。
2.AI自然演進產生道德。當AI具備自我意識，產生自利（self-interest）的想法，但他們因具理性，若依哲學家霍布士（Hobbes）的道德起源論證，理性與自利的權衡，機器人將會產生與人類互利共生的共存道德理解。例如《駭客任務》中幫助人類的 AI（先知）。
3.人類為AI訂立道德規範。著述大量科幻小說同時也是生化、歷史學者的艾西莫夫曾於其建構的科幻世界提到人類為AI的設計，訂下三大法則：
一、機器人不得傷害人類，亦不得坐視人類受到傷害；
二、在不違反第一法則下，機器人必須服從人類命令；
三、在不違反第一與第二法則下，機器人必須保護自己。
這樣的法則是否可被具「自我意識」的AI奉為圭臬？100%遵從？可從《機械公敵》以及艾西莫夫偵探機器人小說系列可一窺之。
4.當AI具有意識。獲得沙烏地阿拉伯公民身分的AI機器人蘇菲亞(Sophia)是首位被列為國家公民的機器人，人的定義為何？甚麼樣的行為、回應可以獲得我們常理判斷認可具備「自我意識」？我們要主張且捍衛AI的「人權」嗎？像是《銀翼殺手》、《變人》、《模仿遊戲》、《機械姬》等電影所敘述的。
5.一個有所限制的AI。不傾向打造無所不能的AI，而回歸到以幫助與服務人類的情境，讓AI於特定專業範圍內增廣人的能力、協助克服人的不便，譬如天氣預報AI，但其無法執行烹飪AI所能執行任務。
以AI、機器人未來發展為本的思考，帶來上述機器人倫理學（robot ethics）、AI倫理學的思考，若以「人」的處境出發，在實際社會應用上的挑戰，我們關心的是AI的發展所引發的「權力」、「權利」的議題。真實應用過程中，AI具有「準確預測」以及「決策影響力」兩大特徵。為求預測要準確，對過去消費者的購買偏好、習慣等行為記錄的數據則要越完整越好。將會產生「隱私權」及「自主權」的侵害問題。例如不少歐美超市都會紀錄顧客的消費明細，並找出其消費模式與習慣，進而精準地推銷相關商品。同樣的應用也可在醫療、保險、金融投資、教育上。
然而，「資料蒐集量」與「預測精準度」是成正比的，為了更精確鎖定適當客群，數據就需越詳盡。有時甚至根本無法將可辨識客人身分的資料去連結，否則便無法主動聯繫到客戶。因此，消費者的個人資料、生理與行為記錄就暴露在外洩風險下。即便企業恪遵相關的保存與使用倫理規範，難保駭客不覬覦於販賣這些龐大的資料所帶來的不法利益。 在自主權侵害上，廠商可針對個人或團體消費者的過去行為傾向或心理弱點，來操弄恐懼或創造需求以銷售特定商品。
除了在反恐與犯罪防制上會出現安全與自主性的兩難，像是美國等陪審團制的司法體系，技術擁有者可透過精準預測來操弄判決結果。未來或許要告贏AI公司是難上加難。此外，選民的投票行為也能夠透過蒐集過去資料找到固定模式。「決策影響力」上，AI優點雖是協助或取代人類找出特定處境下找出最佳選擇，提高人類決策的效率、減少認知負擔；但缺點則是會產生究責和價值衝突兩個難題。在究責方面，不論在法律或倫理學都認為決策與責任有關，主張應權責相符，有能力做決策就代表有能力負責任。但是當我們把決策的權力交給機器之後，出現問題時該如何處理究責問題？
也因此，歐盟2016年通過GDPR對於用演算法代替人類決策有嚴格規範。在價值衝突方面，由於機器決策過程常涉及演算法的最佳化設計才能找出最好選擇，但最佳化的定義為何？又由誰來決定？這常與多元社會中不同成員的價值排序有關。Super AI（泛指所有超越人類自身既有認知能力的人造自主調適系統）出現，由於它／他的功能強大，以致於其擁有者（政府、企業）擴張了其對各項事務可操控、運作的能力，握有人民甚難察覺到的權力。例如透過使用者閱覽偏好、主題內容的數據分析，現階段已可對使用者客製化廣告、新聞呈現，同理，則是傳達「精心設計」的訊息影響使用者。同時，在AI主體的智慧學習中，是否因人為設計、學習的材料等因素，在無意中承襲了人類既有的偏見？
Gartner的副總裁及傑出分析師Daryl Plummer曾說：「科技創新的速度太快，已大幅度超越多數企業能跟上的腳步，通常一種創新尚未實際應用，另外兩種創新又接連出現！」
科技部自從將107年定為「AI實踐年」至今，以「小國大戰略」的思維，已在核心硬體設施、演算法技術、智慧應用等領域面向有充分進展。基於以人為本的精神，可預見的未來，伴隨AI不斷發展，其能力及權力的提升若將有可能侵害人民既有權益。為了建立完整的AI創新生態圈，有賴學者及人民思考，當面臨社會文化價值衝突、倫理課題、法律爭議，以及經濟結構波動時須有的回應作為及調適，期能促成台灣不僅在國際AI產業價值鏈中扮演重要關鍵角色，於倫理規範、法規調適上亦成為世界典範。
AI的發展如同海上航行的一艘巨輪，除了追求技術發展的速度（船速），預判將面臨的風險，以及如何洞燭機先的提早掌舵，克服隱藏在海面下的必經困境，有待眾人合力釐清與克服。這也是你我對社會與下一個世代的思辨與責任。
●作者TAIWAN夢想家，由一群掌握AI創新價值及趨勢的跨領域人才組成，希望藉此提升國家競爭力，將台灣打造為AI發展重鎮，進而孕育AI新興產業應用發展。以上言論不代表本網立場。88論壇歡迎更多聲音與討論，來稿請寄editor88@ettoday.net
讀者迴響