AI民主議題手冊

Page 1

目錄 壹、活動目的說明 貳、執行團隊及夥伴介紹 參、議題選擇與問題意識分析 肆、審議式活動設計 2 5 6 13

壹、活動目的說明

有鑑於生成式人工智慧(Generative Artificial Intelligence) 1 蓬勃發展,不僅為人類社會帶來高效率、改變工 作型態,甚至在可預期的未來,將以快速技術創新改變社會既存的 運作方式,而人類社會在享受便利的同時,也開始關注到科技不確 定性下所帶來的挑戰。

因此,本次數位發展部(下稱數位部)邀請到長期致力 於推動參與式民主治理及跨域溝通團隊「政治大學永續創新 民主研究中心」(Centre for Innovative Democracy and Sustainability,下稱CIDS)參與本次活動規劃,並結合政治 大學創新國際學院(International College of Innovation, NCCU,下稱ICI)與創新民主中心(Centre for Innovative Democracy,下稱CID)過去在 AI 領域相關的教學基礎及參與 式活動設計的經驗,協助數位部以情境模擬結合審議式工作坊的形 式,邀請關心 AI發展的領域夥伴與專家學者,透過議題討論、交

流與思辯,一起探詢通往人類社會與 AI共存共融的最佳路徑。

本次活動將以 AI發展對當代社會影響及應用情境進行探討, 透過議題行動劇、審議式工作坊等工具導入協作,促進參與者從自 身經驗延伸思考應用 AI於未來社會的優勢及必要之限制,並以公 民參與及公共治理的角度對齊解方,進一步思考如何更友善地運用

及發展

AI,讓效益最大化並降低可能之風險。

最後,透過兩場次活動討論所收斂出的結論,將作為數位部未 來在擴大公民參與及公共治理政策規劃時參考,例如推動點子松徵 件機制、落實資訊公開及透明治理等面向。

1 為利活動現場討論交流之便利性,本場次活動及手冊中的「生成式人工智慧」皆以AI代稱之。

2

本次預計辦理兩場審議式議題討論活動(分別於北部、南部各

一場),活動相關規劃資訊說明如下:

一. 活動時間及地點

1. 臺北場:112年8月26日( 星期六 ),09:10-17:00;地點: 政大公企中心A201流光展廳(臺北市大安區金華街187號 2樓)。

2. 臺南場:112年9月2日(星期六),09:10-17:00;地點: 資安暨智慧科技研發大樓1樓(臺南市歸仁區歸仁十三路一 段6號1樓)。

二. 洽邀參加對象

本次活動採邀請制,每場次現場參與者約40-45人,預計分6 組進行,每組參與者6-8人(包含關注 AI 議題的民眾、專家學者等; 各組人數以現場實際到場人數保留調整空間),每桌皆配置執行團

隊CID夥伴2位,以利議題討論工作坊順利進行。

三. 活動議程說明

1. 規劃重點:考量到本次討論之議題範疇較廣泛且新穎,因此 採全天(09:10-17:00)上下午各一輪審議討論的方式進行, 預計對齊本次活動主軸,進行比較完整的議題討論。

2. 議題選擇:以執行團隊CID蒐集AI在國際及國內社會重點討 論之議題面向,並整合數位部在polis.tw上以AI為主題與 網友進行意見調查與回收之議題範疇,整理出本次活動預計 討論的議題爭點(說明如後第參章),並進行本次活動之議 題設定。

3

3. 活動設計:本次採類似焦點座談法,以同樣關心議題發展之同 質性社群分組為原則進行討論,上午第一輪將聚焦在AI對社 會層面影響之探討,包含優勢與挑戰;下午第二輪則以推 進 AI共融社會為目標,提出多元之願景行動方案,並以公民參 與及公共治理為目標,提出未來數位部可作為政策參考之方 案,以利將參與者貢獻之討論成果回饋到政策工具上,具體 作為後續政策推動之參考。

參與者簽到及入桌

活動規則與流程說明

(含行動劇、情境說明等輔助設計)

生成式 AI 對社會影響之現況盤點、優勢與挑戰 桌長及成員進行報告

上午場成果小結

活動規則與流程說明

如何透過政策工具促進生成式 AI 與人類社會創 造共融新生活

桌長及成員進行報告

主持人總結活動重點

回饋意見

大合照&會後交流

4
4. 活動議程表如下: 09:10 09:30 10:15 15:10 11:30 15:30 11:50 16:00 12:00 16:20 13:30 16:45 09:45 13:50 報到 開場 第一輪討論 茶敘 小組分享 小組分享 上午場小結 總結 休息 結語 活動說明 再會 活動說明 第二輪討論
貴賓致詞

貳、執行團隊及夥伴介紹

政治大學永續創新民主研究中心是由一群來自公部門、實務

界、學術場域所組成的團隊,致力於研發更有品質的民主參與程序 及社會對話方法。我們想要實踐的「社會對話」,是從「議題」出 發,與社會夥伴進行各種形式的溝通和合作。具體來說,是由與政

策議題相關利益的社會夥伴包含公民行動者、組織團體、專家學 者、政府部門等,進行跨領域或是跨層級的對話,以討論、協商、 諮詢、共同行動等方式來面對當代複雜的問題,建立共識以及促進 民主參與。

本次將以研究中心的量能投入審議式工作坊之規劃與執行,本

團隊成員及兩場次擔任協作桌長(facilitator)的夥伴名單如下:

永續創新民主 研究中心主任

政治大學公共行政學系特聘 教授兼創新國際學院院長

創新民主中心 研究員

公共藝術理論與實務

創新民主中心 助研究員

社會對話設計理論與實務

創新民主中心 協作夥伴

公法專長、律師

創新民主中心 協作夥伴

地方法治實務

創新民主中心 協作夥伴

社會科學實踐種子論壇

創新民主中心 執行長

內政部人權工作小組第7屆 委員

創新民主中心 副研究員

日本文化與法治研究專長

創新民主中心 助研究員

創新民主中心 協作夥伴

創新民主中心 研究員

科技與能源議題分析

創新民主中心 助研究員

創新民主中心 協作夥伴

創新民主中心 協作夥伴

創新民主中心 協作夥伴

創新民主中心 協作夥伴

社會科學方法理論與實務 大學及補習班公法講師、律師 NGO工作者

創新民主中心 協作夥伴

律師 政治大學公共行政學系碩士生

創新民主中心 協作夥伴

5
社會科學研究方法與實務 律師 律師 社會科學實踐種子論壇 杜文苓 林家安 鄭雯敏 葉承鑫 張鎧麟 陳沛妤 許鈺昕 王渝安 賴秉詳 謝蓓宜 胡惟翔 謝孟樺 林俐君 盧佩君 陳千惠 蕭郁潔 翁翊華 呂鴻硯

參、議題選擇與問題意識分析

一. 生成式人工智慧議題背景分析

生成式人工智慧(AI)具備大數據運算、即時產製內容的特 性,依賴機器深度學習技術的廣泛運用,從而發展出具備仿效、創 造的能力。AI 的應用,有機會改變現代社會的勞動結構、產業布

局,甚至是廣泛地應用在日常生活習慣上,對社會運作提供不同程 度機會、衝擊與挑戰,部份電子媒體以「第4次工業革命」譬喻即 將高度擁抱AI的未來世界 2 ,認為許多行業將受到影響,例如工程 師將會在工作上大量運用生成式人工智慧撰寫程式,且人工智慧的 運用能夠提升程式編寫的品質與工作效率等;另一方面,生成式人

工智慧的優勢也大規模被應用在創意創造力產業,透過 AI輔助,

過去需花費大量人工製程的創意生產過程,所需投入時間亦大幅縮 減,在大幅度改善人類工作習慣的同時卻也帶有隱憂,包含過去通 常將人類智慧財產視為值得以法律高度保護的主體,現在若透過生 成式人工智慧結合創意所生成的作品,其效率及表現精準度皆十分 優異,使得過去對智慧財產歸屬的認知,會否因為生成式人工智慧 而改變已掀起討論;再進一步,若從生成式人工智慧的優勢、改變 及挑戰,談論到對社會轉型可能造成的負面影響,包含加速人類社 會既存的偏見,例如標籤化、群族歧視或資本不平等,未來有機會 透過生成式人工智慧生成並加強帶有偏見的論述,倘若此類生成內 容透過傳播系統快速傳散,便是透過科技創新連帶需特別注意的負 向效果,以避免加速歧視思維傳播的效率並強化社會對立,以上皆 是在發展與使用生成式人工智慧必須審慎評估的部分。

新興科技的發展十分快速,尤其是生成式人工智慧已成為國際 各大科技產業競逐的新興舞台,生成式人工智慧的發展為社會揭開

2 AI如何改變工作?首例實戰研究指效率可提升14%。蘋果財經報。https://tw.nextapple. com/finance/20230425/4EFB20F0A800023F0B483E5AD665E639

6

了新秩序的篇章,國際間也針對該議題開始思辯與提出管制方案, 譬如經濟合作暨發展組織OECD便將 AI 界定為「以機器為基底所 設計的系統,可以預測、提供建議或決策,來影響實體或虛擬環境, 達到人類設定的目標。這個系統具備某種程度的自主性,而且是可 以執行類似人類認知功能的機器。」,並提出所謂的《OECD AI原 則》,其中包含五項對國家政策和國際合作的建議。這些建議如下: (1)投資於 AI 的研究和開發;(2) 培育 AI 的數字生態系統;(3) 塑 造有利於 AI 的政策環境;(4) 建立人力資源並為勞動力市場的轉型 做好準備;以及 (5) 進行可信 AI 的國際合作(OECD,2023年: 17) 3 。在 OECD 的研究報告中也指出,生成式人工智慧將篩選大 量數據,可用於幫助政府制定政策決策,它可預測和幫助防止選舉 干預事件,改善公共服務等好處,也認同生成式人工智慧應用於政 府治理,惟提醒生成式人工智慧可能通過延續和放大社會不平等來 削弱民主價值觀,若不予以適當的管制,則可能進一步破壞信任和 社會契約。

回到我國的脈絡,生成式人工智慧對社會影響如國際趨勢般與 民主、社會與政治的交互關係顯而易見,但現況下我國多數的討論 仍聚焦在產業發展居多,例如評估私部門應用 AI 為企業節省成本

或創造收益等,然而在開發與經濟導向之外,進一步思考生成式人 工智慧對民主、社會與政治的影響面向又有哪些,便是對於政府治 理與社會永續發展皆十分重要的提問,觀諸學術研究發展方向,近 期有不少研究開始對生成式人工智慧可能為公部門帶來的諸種倫理 威脅產生疑慮,由於不同階段的科技浪潮將帶來政府不同面向的轉 型,同時也將創造不同的公共服務與價值。另一方面,針對社會個

3 https://www.oecd-forum.org/posts/the-good-the-bad-and-the-algorithmic-what-impactcould-artificial-intelligence-have-on-political-communications-and-democracy

7

體或不同的產業類型,又有哪些較受關注的議題值得深入研究,則 需要有更多的實證資料來佐證,引發更具有政策回應性與社會需求 導向的研究方向。

據此,本研究中心接受數位部的委託,將從人文社會觀點切 入,結合數位部polis.tw民意調查報告,蒐集對於AI議題具有意 識及討論意願的民眾(下稱議題公眾),評估議題公眾對於生成式 人工智慧較具分歧的想法有哪些,並透過審議式討論發展出具有臺 灣脈絡及臺灣社會需求的爭點,以利主責機關未來有機會可以透過 政策工具來解決或改善可能的風險。

二. 數位部polis.tw調查分析

本次 polis.tw 問卷調查共有403名民眾參與投票,共做出 8,591次選擇,平均每一位都投出21次以上的投票選擇,共提出 126種論述(以上數據係統計至8月1日止)。以下為本中心就本 次 polis.tw 民意調查對於生成式人工智慧應用的意見偏好進行歸 納與詮釋分析:

1.

同意比例高者意見分析

大致上可以將民眾具共識面向的陳述內容分為兩大類, 其一是比較正向且樂觀地看待 AI 服務,認為其僅是工具性、 輔助性或協作性質的產品,無需過度擔心,認同可用以提升 人類工作的效率,至於利弊與否需端視人類如何使用,以下 將此類意見暫時歸類為「樂見其成組」;另一種則是認為 AI 恐會改變部分社會現況,比較期待人與人互動的溫暖,並提 出對現行狀態在部分管制界限上的疑慮,以下將此類意見暫 時歸類為「務實應用組」。

8

以下將 歸納為樂見其成組 的相關論述列舉如下表:

人工智能是一個工具,但所提供的信息資料,假真真,共謀真 偽,才是個人專業的表現,共利用的人將會提高工作的效率,類 似於谷歌的崛起,人工智能的崛起,又是另一種思維模式轉變。

AI的應用還算青少年,是機會還是 威脅,還有很大的探索空間,不用 劃地自限,但要預作因應。

以正向態度運用,學 會共創善用。

AI不能取代所有的生活技能,但 AI可以讓生活更加便捷。

善用AI工具可以成為我們源源不斷的 資源,人類有時會因為各種因素而擾亂 思緒。透過AI的幫助,創作者能有更 多的設計可能。

我認為AI是工具也是協作者,跨越AI協助我們面對視野變得更廣,思考模 式也打破框架。 如何迎接未來無力的AI時代,必須先接受它,才能更多勇 氣及所有迎面來的問題。

遲早有一天人工智慧將與人類共存於社會。

以下將 歸納為務實應用組 的相關論述列舉如下表:

AI生成的內容應適當標註參考的資料來源。

公務人員使用AI處理業務內 容時,應進行相關培訓。

在安全防護與審判上,不能全 部依賴AI,人性也必須考慮。

人與AI最大的差異正在於此。

隨著人工智能技術不斷向邊界的速度發 展,人類與機器生成的創作之間的界限日 益模糊,關於知識產權、知識產權和法律 責任的關鍵問題需要被深入探討

目前人工智能的發展狀態,將會令 人驚嘆地改變許多產業生態。

關於AI的規範,要考量到世界各地不同的文化和脈絡, 而不僅僅是特定國家的觀點。

使用人工智能能夠減輕國家公務員的負擔,但需要研究討 論如何處理機密信息時,不會發生信息外洩的疑慮。

9
117 85 78 119 80 106 95
118 54 44 45 104 48 55

2. 較具有共識者意見分析

從本次報告中可以看出分成三組(以上分類情形係統計 至8月1日止),B組可看似為比較中性意見的組別,而C 組是對於 AI 工具較為樂觀看待,則A組可視為比較重視人與

人互動,認為 AI 將部分改變現況的組別。在同意比例高者意 見分析後,可以參考分組成員皆認同也就是具有跨組別共識

的意見有哪些,一方面可與同意比例高者的意見進行核對, 另一方面可作為後續選擇討論議題的重要參考。目前以共識 程度高到低來觀察,仍不脫離上述分析的框架,但可以觀察 到一個現象是樂見其成組與務實應用組的意見多數並無互斥, 且部份是具有跨組共識的論述,以下將具有群體共識的意見 列舉如下表:

隨著人工智能技術不斷向邊界的速 度發展,人類與機器生成的創作 之間的界限日益模糊,關於知識產 權、知識產權和法律責任的關鍵問 題需要被深入探討。

以正向態度運用,學會共創善用。

AI的應用還算青少年,是機會還 是威脅,還有很大的探索空間,不 用劃地自限,但要預作因應。

人工智能是一個工具,但所提供的信息資料,假真真,共謀真偽,才是 個人專業的表現,共利用的人將會提高工作的效率,類似於谷歌的崛 起,人工智能的崛起,又是另一種思維模式轉變。

目前人工智能的發展狀態,將會 令人驚嘆地改變許多產業生態。

AI的東西,其底部判斷標準還 是回歸到人。

在安全防護與審判上,不能全 部依賴AI,人性也必須考慮。 人與AI最大的差異正在於此。

公務人員使用AI處理業務內容時,應進行相關培訓。

AI不能取代所有的生活技能,但AI可以是生活更便捷。

10
44 45 83 54 106 85 80 117 104

3. 意見較分歧面向

針對參與意見調查者對於單一論述提出同意與不同意比 例高度分歧的意見,有機會是現行社會脈絡下特別需要提出 來討論的爭點,也是後續在規劃討論議題分析的重要參考來

源,因此針對意見較分歧的面向列表如下:

對於政府使用AI進行業務處理,是讓人信賴的。

當未來人工智能充滿真實生活時,整個世界從目前的後真相時代進一 步成為無真相時代,完全放棄或無能追求。

新科技的恐懼被過度放大,人類其實並不需要理解背後 是如何運作的,也能夠利用它並完成批次。

過度依賴人工智能可能會導致學生缺乏人 際交流的機會,影響他們的社交能力。

由人類自己創造的東西是人工智能創作的,更有意義。

我認為投稿作品可以在 AI 生成 後再使用 Photoshop 製作。

隨著創作量大、質量高的衍生作品的越來 越低,版權成本將越來越不受約束。

我覺得AI作品應該單獨設立一個獎項。

身為教育者,需要提供更貼近生活、親身感 受式的經驗,而不是AI生成的內容。

11
AI將原始數據破壞壓縮,學習 過程會更難獲得真實數據。
44 47 66 69 39 67 64 60 6 10

依據上述初步分析,從多數人同意的選項中可以識別參 與投票的民眾,對於生成式人工智慧的態度,大概可分為兩 大項,包含樂見其成組與務實應用組的觀點,進一步在跨組 具共識的分類下,仍可見此兩大類的論述並無明顯衝突,多 數意見是跨組別仍認同的論述內容。因此至少可推論以本次 填寫的母體範圍來說,或許「對於生成式人工智慧正面看待, 但部分業務認為需要提出管制方案」這樣的看法,可暫時視 為是本次調查的多數意見。

再進一步針對意見分歧的部分來看,則可進一步排序出 引發使用者困惑或有疑慮的面向有哪些,包含政府治理(應 分有內部應用、監管機制)、資訊識別、資料開放、智慧財 產及教育與人類認知影響等,這些議題面向大概是對於生成 式人工智慧抱持著正面看待,但仍認為部分議題需要進行管 制的爭點,因前述第3點中列表議題,同一群人在選擇上出 現明顯的意見相左,至於背後的成因,則有待進一步透過質 性資料的蒐集釐清。

因此,觀諸國際趨勢、國內議題現況,以及本次polis. tw 的意見搜集,建議本次議題討論工作坊就以 政府治理(聚

焦內部應用)、新興法治(聚焦監管機制)、資訊識別、資 料開放、智慧財產及教育與人類認知影響等 六項議題面向進

行討論題目設計。

12
4. 建議討論議題面向

肆、審議式活動設計

一. 社會對話方案

本中心所提倡的社會對話方法,是從議題分析出發,盤點議題 網絡現況,又有哪些挑戰或是有待解決的問題,進一步到利害關係 人辨識,思考在此議題脈絡下利害關係人有誰?每個角色在此議題 的目標是什麼?再者,可視需求進入到議題擴散階段,透過不同層 次的對話框架設計,客製化符合實務需求的操作方法。同時本中心

所擅長的社會對話設計,是在維持審議思辨的同時,同等強調換位 思考、設身處地的重要性,期待每次的討論不只是停留在論理,更 能夠透過身體感知,將議題關懷帶入日常生活。

本次將依循上述本中心的工作方法,透過對於生成式人工智 慧議題現況的盤點與分析,再搭配polis.tw的意見搜集,辨識出 目前社會公眾在思考生成式人工智慧會設想到的情境。最後,再透 過兩場次審議式工作坊的活動設計與操作,探詢不同議題爭點的成 因,以作為後續政策規劃的參考。以下簡要說明本次活動設計概念 與操作方法:

1. 分桌與議題設定

在開場行動劇展演完畢後,本次討論預計分六桌,分別 是政府治理(內部應用)、新興法治(監管機制)、資訊識別、 資料開放、智慧財產及教育與人類認知影響等,各桌提問流 程,將先定義出各個議題面向的社會影響與爭點,再以探討 在什麼情境下,或是什麼條件下,可提高人類對於生成式人 工智慧應用的親近性與信任度,透過討論辨識出優勢、挑戰 與風險後,最後進一步思考可能的解方。先針對各桌要討論 的爭點說明如下表:

13

如果 AI提供的資訊不正

確,便需要有檢核機制, 或由政府提供正確資料 訓練 AI。

1. 如果透過 AI彙整民眾提問,並透過 AI回應民眾

需求,對公務系統所產生的影響?

2. 如果透過 AI簡化公文流程,並加速公務辦公效 率,對公務系統所產生的影響?

3. 如果透過高階文官鍛鍊 AI,將 AI作為新進公務 員內部培訓機制,對公務系統長期發展所產生的 影響?。

新興法治-監管機制

現行針對 AI的管制方 案,多仰賴基礎管制或 產業內控機制,難以形 成強韌的社會參與網絡, 也使得監管密度難提升。

1. 針對 AI應用,政府理應提出管制方案,但受限 於 AI技術專業多掌握在產業鏈,這對於政府監 管密度的影響?

2. 如果試著串聯中央與地方政府、企業與社群網絡 進行合作與情報共享,建立起假訊息預警系統, 對於政府在監管能力的影響?

資訊識別-公平使用

目前尚未嚴格禁止業者 抓取個人公開數據,並 用於訓練生成式 AI模 型,若資訊識別不易追 溯,易造成虛假訊息傳 遞風險。

1. 如果 AI運算的黑盒子是技術應用不確定性的關 鍵,廣泛地使用 AI生成資料,對社會發展的影 響?

2. 如果要求 AI運算需加註生成資訊的來源,用以 改善 AI生成產品可供索引,對於提升公眾對於 AI資訊識別的影響?

14
政府治理-內部應用
潛在風險 潛在風險 潛在風險 爭點情境 爭點情境 爭點情境

針對不同等級的應用風

險,應確保 AI系統可受 到人類監督、是安全、 透明、可追蹤、非歧視, 且對社會環境友善的。

1. 如果AI具有資料彙整的能力,可自動生成研究 論文或摘要,提升專業工作人員的工作效率,長 期應用對社會發展的影響?

2. AI在資料生成的過程,因為運算的黑盒子並不 透明,在難以親近資料演算過程的情境下,也容 易使人類對 AI產生不信任感,長期應用對社會 發展的影響?

生成式 AI透過學習後具有 高超之創作能力,持續發展 下,可能導致過去專屬於人 類的智慧財產不再具有保護 之價值;反之,需要持續探 討,由非人類創作的作品是 否需要受到保護。

智慧財產的再定義 教育與人類認知影響

1. 在作品創作的前期,如果導入 AI創作,可 否納入著作權主體?

2. 使用創作者在網路上發布的作品,如果曾進 行 AI訓練,是否有違反創作倫理之虞?

3. 一般創作者也會透過觀賞他人的作法以激發 靈感,這樣狀況下需不需要判斷違法性?

AI缺乏人類教師和教育 工作者所能提供的創造 力和獨創性,過度依賴 可能會阻礙學生批判性 思考和解決問題能力的 發展。

1. 如果 AI因為吸收了偏差資料,產生具有偏見或 惡意的資訊,又因社會上大家的使用導致這些負 面的資訊擴散,對教育系統會產生什麼影響?

2. AI應用可能導致學生在學習時過度依賴 AI提供 即時答案和解決方案,長期下來,對於學生認知 可能有哪些影響?

15
資料開放-應用普及
潛在風險 潛在風險 潛在風險 爭點情境 爭點情境 爭點情境

我們寫了一些、說了很多,接下來換你囉! 你認為的 AI 未來世界還有哪些可能?

讓「 AI 未來民主化」從一起討論開始吧!!

Issuu converts static files into: digital portfolios, online yearbooks, online catalogs, digital photo albums and more. Sign up and create your flipbook.