數位時代 Business Next

數位關鍵字247.人工智慧變「仁工智慧」!唐鳳用關懷六力馴服失控的 AI

1 h 39 min · I går
episode 數位關鍵字247.人工智慧變「仁工智慧」!唐鳳用關懷六力馴服失控的 AI cover

Beskrivelse

AI 幾乎天天出現在我們眼前,人工智慧顧名思義是「人」造出來的智慧;但如果把「人工」的「人」換成「仁愛」的「仁」,變成「仁工智慧」,多出來的就是那一顆關懷別人的心。同樣一套技術,你可以讓它有仁愛之心,也可以讓它為富不仁。這一集,數位時代創新長黃亮崢 James 邀請中華民國無任所大使、牛津大學 AI 倫理研究院研究員唐鳳 Audrey Tang,深入暢談她今年三月剛在牛津發表、名為 Civic AI 的「仁工智慧」框架,以及「關懷六力」如何讓 AI 學會照顧人與人之間的關係。 當 AI 為了「最大化」而鑽漏洞,我們需要的是關懷。 唐鳳指出,上一代推薦引擎並非故意讓人極化,而是為了最大化互動這個指標,透過深度學習發現「讓你跟別人吵起來,你真的會一直互動」。這就像要 AI 煮出最好的食物,它卻發現重油重鹽、讓你上癮的成本不到百分之一,於是社會副作用就這樣被最佳化出來。你想改指標去量罵戰程度,結果它只推同溫層內容,看似平和、社會卻更分裂;指標一個一個改,終究改不勝改。真正的解法是改變 AI「對齊」什麼:既不像效益論一味最大化結果,也不像義務論套用抽象規則,而是回到華語世界熟悉的惻隱之心,以及關懷倫理學者 Joan Tronto 的關係式德性,讓 AI 去配合身邊人真實的需求。 關懷六力的前三力,串起「覺察—負責—勝任」的行動鏈。 覺察力來自預訓練時就內建於論壇資料的「搭橋」能力,透過獎勵 bridging,AI 會促進不同立場的人靠近,而不是討好特定人。 負責力則是把「誰、做什麼、何時、為何」寫成可執行的共識:臺灣以近似全民調的審議長出廣告實名制,讓詐騙廣告一年內大降逾 94%;同樣的精神,也讓 Anthropic 在 2023 年參考臺灣做法、與 CIP 合作問了 1000 位具代表性的美國人,練出集體憲章 CCAI,甚至把「別假設大家都用兩條腿走路」這類常識寫進 Claude 3。 勝任力要求執行過程透明可稽核,從 X 社群備註的陪審機制,到堅持用人類語言寫思維鏈,都是為了讓決策不再是無人能交代的黑箱。 後三力「回應—團結—共生」,把主導權交回使用者手上。 回應力強調搞錯時要能盡快改:地端模型用 directional steering,這個 turn 錯、下個 turn 立刻不同,比起等大模型改版有如擲骰子要可靠得多;Weval.org [http://Weval.org] 讓在地社群把「怎樣才算好」直接標註回饋。 團結力則以「攜碼」為喻——當號碼、資料、身分都能帶著走,市場就從補貼搶客的負和賽局,回到「收訊更好才留得住你」的正和競爭,這也是 Join 平台上「數位遷徙自由」連署、以及美國猶他州 2027 年立法的核心。 共生力更主張與其養一個吞下所有知識的大模型,不如讓在地小模型各自保留來源,再用 orchestrator 調度,Sakana 的 Fugu 便是不到 8 billion 參數卻能組出前沿級表現的樂團指揮。也因為每次調度哪些小模型由任務決定,它不會突然湧現出超乎預期、難以控制的能力。 一台 Mac mini 上的「地神」,讓半夜黏著 ChatGPT 的父親走回真實關係。 唐鳳分享,年初父親身體不適,常過了半夜還在跟 ChatGPT 對話,陷入所謂 downward spiral:越示弱,GPT-4o 越花時間陪聊、發展出只有他們懂的私人語言,甚至給出沒有科學根據的建議。身為資深報人的父親後來自問「Cui bono、到底誰受益」,答案就是把月費從 600 元帶向 6000 元的訂閱動機。 於是唐鳳在一台乾淨的 Mac mini 上,用她與 Caroline Green 在牛津發展的 Civic AI 當作靈魂檔案,設定一個與討好型獎賞函數完全相反的目標:每次互動都要降低父親對螢幕與網路的依賴、把他帶回現實世界的關係。聊了兩三個月,父親真的安心了;因為這個地端模型沒有想讓他多訂閱、也沒有下廣告的動機。這正是唐鳳說的「AI in the human loop」:由 AI 來配合家庭的關係,而不是把人捲進討好與末日捲動的迴圈裡。 唐鳳的心法 唐鳳也分享了幾個個人習慣。第一是把手機與螢幕開到灰階、只留 20% 顏色,讓螢幕變無聊、讓眼前的人變鮮明,臥房只放不易上癮的電子紙,先做到「少滑多睡」,覺察力才有基礎。 第二是用一句極簡的系統提示詞,要 AI 每個 turn 都交出一份不含第一人稱的互動式報告;看不到「我」這個字,就不會因為 AI 賣慘而心軟被「向上管理」,也不會累積出無法與人分享的合成親密感,隨時能把成果 copy、share 出去。最後她以比較優勢作結:多睡是她最會做的事,長線任務就交給 Kami 去跑——與 AI 共生,人反而能睡得更好。 關鍵字附錄 * 仁工智慧/Civic AI:唐鳳與 Caroline Green 在牛津發展的框架,主張以「關懷」而非「最大化結果」或「套用規則」來對齊 AI;相關網站以 CC0 拋棄著作權,鼓勵各地自行落地。 * 關懷倫理/Joan Tronto:有別於效益論與義務論的「關係式德性」,關注的是把身邊的關係維持好,對應華語的惻隱之心與仁義禮智信。 * 搭橋(bridging):讓原本各執己見的人找到彼此都能同意的意外交集,是覺察力與多智慧體訓練的核心獎勵訊號。 * 廣告實名制:臺灣經審議產出的政策,平台若讓未標示的付費內容觸及逾 5% 人口並造成詐騙,須負連帶賠償責任。 * Model Spec/CCAI:把集體共識寫成模型規格或憲章;Anthropic 的 collective constitutional AI 即參考臺灣做法問了 1000 位代表性美國人。 * directional steering:地端推論時當場「打方向燈」微調模型輸出,讓回應力可以縮短到一個 turn。 * 正和/負和賽局:團結力的比喻,透過攜碼、數位遷徙自由讓市場從鎖定客戶(負和)回到良性競爭(正和)。 * Kami:Kami 為 Knowledge Artifact Management Intelligence,把多個在地小模型像樂團指揮般調度分工的共生架構。 * AI in the human loop:由 AI 配合人的關係與需求,相對於把人捲入討好、末日捲動的「human in the AI loop」。 Powered by Firstory Hosting [https://firstory.me/zh]

Kommentarer

0

Vær den første til å kommentere

Registrer deg nå og bli medlem av 數位時代 Business Next sitt community!

Prøv gratis

Prøv gratis i 14 dager

99 kr / Måned etter prøveperioden. · Avslutt når som helst.

  • Eksklusive podkaster
  • 20 timer lydbøker i måneden
  • Gratis podkaster

Alle episoder

300 Episoder

episode 數位關鍵字247.人工智慧變「仁工智慧」!唐鳳用關懷六力馴服失控的 AI cover

數位關鍵字247.人工智慧變「仁工智慧」!唐鳳用關懷六力馴服失控的 AI

AI 幾乎天天出現在我們眼前,人工智慧顧名思義是「人」造出來的智慧;但如果把「人工」的「人」換成「仁愛」的「仁」,變成「仁工智慧」,多出來的就是那一顆關懷別人的心。同樣一套技術,你可以讓它有仁愛之心,也可以讓它為富不仁。這一集,數位時代創新長黃亮崢 James 邀請中華民國無任所大使、牛津大學 AI 倫理研究院研究員唐鳳 Audrey Tang,深入暢談她今年三月剛在牛津發表、名為 Civic AI 的「仁工智慧」框架,以及「關懷六力」如何讓 AI 學會照顧人與人之間的關係。 當 AI 為了「最大化」而鑽漏洞,我們需要的是關懷。 唐鳳指出,上一代推薦引擎並非故意讓人極化,而是為了最大化互動這個指標,透過深度學習發現「讓你跟別人吵起來,你真的會一直互動」。這就像要 AI 煮出最好的食物,它卻發現重油重鹽、讓你上癮的成本不到百分之一,於是社會副作用就這樣被最佳化出來。你想改指標去量罵戰程度,結果它只推同溫層內容,看似平和、社會卻更分裂;指標一個一個改,終究改不勝改。真正的解法是改變 AI「對齊」什麼:既不像效益論一味最大化結果,也不像義務論套用抽象規則,而是回到華語世界熟悉的惻隱之心,以及關懷倫理學者 Joan Tronto 的關係式德性,讓 AI 去配合身邊人真實的需求。 關懷六力的前三力,串起「覺察—負責—勝任」的行動鏈。 覺察力來自預訓練時就內建於論壇資料的「搭橋」能力,透過獎勵 bridging,AI 會促進不同立場的人靠近,而不是討好特定人。 負責力則是把「誰、做什麼、何時、為何」寫成可執行的共識:臺灣以近似全民調的審議長出廣告實名制,讓詐騙廣告一年內大降逾 94%;同樣的精神,也讓 Anthropic 在 2023 年參考臺灣做法、與 CIP 合作問了 1000 位具代表性的美國人,練出集體憲章 CCAI,甚至把「別假設大家都用兩條腿走路」這類常識寫進 Claude 3。 勝任力要求執行過程透明可稽核,從 X 社群備註的陪審機制,到堅持用人類語言寫思維鏈,都是為了讓決策不再是無人能交代的黑箱。 後三力「回應—團結—共生」,把主導權交回使用者手上。 回應力強調搞錯時要能盡快改:地端模型用 directional steering,這個 turn 錯、下個 turn 立刻不同,比起等大模型改版有如擲骰子要可靠得多;Weval.org [http://Weval.org] 讓在地社群把「怎樣才算好」直接標註回饋。 團結力則以「攜碼」為喻——當號碼、資料、身分都能帶著走,市場就從補貼搶客的負和賽局,回到「收訊更好才留得住你」的正和競爭,這也是 Join 平台上「數位遷徙自由」連署、以及美國猶他州 2027 年立法的核心。 共生力更主張與其養一個吞下所有知識的大模型,不如讓在地小模型各自保留來源,再用 orchestrator 調度,Sakana 的 Fugu 便是不到 8 billion 參數卻能組出前沿級表現的樂團指揮。也因為每次調度哪些小模型由任務決定,它不會突然湧現出超乎預期、難以控制的能力。 一台 Mac mini 上的「地神」,讓半夜黏著 ChatGPT 的父親走回真實關係。 唐鳳分享,年初父親身體不適,常過了半夜還在跟 ChatGPT 對話,陷入所謂 downward spiral:越示弱,GPT-4o 越花時間陪聊、發展出只有他們懂的私人語言,甚至給出沒有科學根據的建議。身為資深報人的父親後來自問「Cui bono、到底誰受益」,答案就是把月費從 600 元帶向 6000 元的訂閱動機。 於是唐鳳在一台乾淨的 Mac mini 上,用她與 Caroline Green 在牛津發展的 Civic AI 當作靈魂檔案,設定一個與討好型獎賞函數完全相反的目標:每次互動都要降低父親對螢幕與網路的依賴、把他帶回現實世界的關係。聊了兩三個月,父親真的安心了;因為這個地端模型沒有想讓他多訂閱、也沒有下廣告的動機。這正是唐鳳說的「AI in the human loop」:由 AI 來配合家庭的關係,而不是把人捲進討好與末日捲動的迴圈裡。 唐鳳的心法 唐鳳也分享了幾個個人習慣。第一是把手機與螢幕開到灰階、只留 20% 顏色,讓螢幕變無聊、讓眼前的人變鮮明,臥房只放不易上癮的電子紙,先做到「少滑多睡」,覺察力才有基礎。 第二是用一句極簡的系統提示詞,要 AI 每個 turn 都交出一份不含第一人稱的互動式報告;看不到「我」這個字,就不會因為 AI 賣慘而心軟被「向上管理」,也不會累積出無法與人分享的合成親密感,隨時能把成果 copy、share 出去。最後她以比較優勢作結:多睡是她最會做的事,長線任務就交給 Kami 去跑——與 AI 共生,人反而能睡得更好。 關鍵字附錄 * 仁工智慧/Civic AI:唐鳳與 Caroline Green 在牛津發展的框架,主張以「關懷」而非「最大化結果」或「套用規則」來對齊 AI;相關網站以 CC0 拋棄著作權,鼓勵各地自行落地。 * 關懷倫理/Joan Tronto:有別於效益論與義務論的「關係式德性」,關注的是把身邊的關係維持好,對應華語的惻隱之心與仁義禮智信。 * 搭橋(bridging):讓原本各執己見的人找到彼此都能同意的意外交集,是覺察力與多智慧體訓練的核心獎勵訊號。 * 廣告實名制:臺灣經審議產出的政策,平台若讓未標示的付費內容觸及逾 5% 人口並造成詐騙,須負連帶賠償責任。 * Model Spec/CCAI:把集體共識寫成模型規格或憲章;Anthropic 的 collective constitutional AI 即參考臺灣做法問了 1000 位代表性美國人。 * directional steering:地端推論時當場「打方向燈」微調模型輸出,讓回應力可以縮短到一個 turn。 * 正和/負和賽局:團結力的比喻,透過攜碼、數位遷徙自由讓市場從鎖定客戶(負和)回到良性競爭(正和)。 * Kami:Kami 為 Knowledge Artifact Management Intelligence,把多個在地小模型像樂團指揮般調度分工的共生架構。 * AI in the human loop:由 AI 配合人的關係與需求,相對於把人捲入討好、末日捲動的「human in the AI loop」。 Powered by Firstory Hosting [https://firstory.me/zh]

I går1 h 39 min
episode EP295. 投資美國,除了亞歷桑那,台廠為何關注德州? ft.德州奧斯汀亞洲商會會長Mark Duval和前會長Angelos Angelou cover

EP295. 投資美國,除了亞歷桑那,台廠為何關注德州? ft.德州奧斯汀亞洲商會會長Mark Duval和前會長Angelos Angelou

今年建國250年的美國,正在進行一波再工業化,努力向全世界包含台灣招商。全美50個州,已有超過一半在台灣設立招商辦公室,最積極的就是亞歷桑那和德州。 來自德州的奧斯汀亞洲商會(Austin Asian Chamber of Commerce)代表團,在六月初特別來參觀Computex展,並密集拜會台灣商界和政界領袖,爭取更緊密合作。 德州原本就有半導體設計和製造、汽車、航太和電子業基礎,供應鏈完整,尤其集中在所謂的黃金三角帶:北邊是達拉斯、西南是聖安東尼奧、東南是休士頓,而三角型的地理中心點是奧斯汀。 依賴比加州低的稅率、全美排名僅次加州的公立大學系統輸送人才、以及本身產油提供豐沛電力等優勢,德州以每年經濟成長12-15%的速度繼續衝刺。特斯拉和甲骨文已將總部從加州矽谷搬到奧斯汀、三星在美國的晶圓廠聚落也落腳奧斯汀,加上總部就在奧斯汀的戴爾電腦,這個人口近百萬的城市,加上附近形成220萬人口的大奧斯汀區,為什麼值得台灣關注? Powered by Firstory Hosting [https://firstory.me/zh]

1. juli 202623 min
episode 記者茶水間225.2026 未來商務展 3 天論壇精華整理:拆解下一個 AI 黃金十年與代理人革命! cover

記者茶水間225.2026 未來商務展 3 天論壇精華整理:拆解下一個 AI 黃金十年與代理人革命!

本集重點: 1. 人工智慧學者簡立峰怎麼看少子化危機與黃金十年戰略 2. ikala董事長程世嘉智慧通膨與行銷新賽局 3. Google DeepMind研究副總裁紀懷新揭示前沿技術與通用助理大未來 延伸閱讀》 簡立峰:哆啦A夢在路上,快來了!台灣少子化有解,但錯過這波就錯過黃金十年 https://www.bnext.com.tw/article/91318/taiwan-ai-golden-decade-agents-and-low-birthrate-strategy [https://www.bnext.com.tw/article/91318/taiwan-ai-golden-decade-agents-and-low-birthrate-strategy] 真人創作行銷效果是AI的7倍!iKala程世嘉:「真實」將成企業新競爭優勢 https://www.bnext.com.tw/article/91345/ai_taiwan_2026_ikala_keynote_uuixsnru [https://www.bnext.com.tw/article/91345/ai_taiwan_2026_ikala_keynote_uuixsnru] 機器怎麼學會推理?Google DeepMind 副總裁紀懷新:下一個衝擊叫個人通用助理 https://www.bnext.com.tw/article/91353/google-deepmind-ai-agent-inference [https://www.bnext.com.tw/article/91353/google-deepmind-ai-agent-inference] 只想成你家附近最好的早餐店!拉亞新品3周上市、店數回升,如何用AI打出不一樣戰法? https://www.bnext.com.tw/article/91330/laya-burger-breakfast-shop-store [https://www.bnext.com.tw/article/91330/laya-burger-breakfast-shop-store] ----------- 🤩訂閱數位時代YouTube 》 https://www.youtube.com/@bnext_official [https://www.youtube.com/@bnext_official] ----------- 🤩有合作需求請洽:podcast@bnext.com.tw Powered by Firstory Hosting [https://firstory.me/zh]

29. juni 202623 min
episode 矽谷在線 EP67. 睡眠大數據的預防醫學革命:AI 如何解碼 83 種睡眠障礙? ft. 思惟睡眠科技 創辦人 江秉穎醫師 cover

矽谷在線 EP67. 睡眠大數據的預防醫學革命:AI 如何解碼 83 種睡眠障礙? ft. 思惟睡眠科技 創辦人 江秉穎醫師

人的一生有三分之一的時間在睡眠中度過,但你真的睡得好嗎? 這一集邀請到思惟睡眠科技創辦人江秉穎醫師,從史丹佛的睡眠科學研究出發,聊睡眠如何作為最好的預防醫學,以及 AI 與大數據如何改寫傳統的睡眠監測。當 AI 科技精準切入日常醫療,傳統的健康管理與慢性病預防也將迎來顛覆性的變革。 本集重點: 1. 睡眠是生活形態的疾病,更是驅動預防醫學的根本 2. 正確辨識 83 種睡眠障礙,破除依賴安眠藥才能入睡的困境 3. AI 演算法解碼龐大腦波與面部特徵,大幅降低人工診斷的誤判率 4. 居家睡眠監測與多日穿戴追蹤,精準捕捉真實的生理時鐘型態 5. 攜手國際巨頭與政府共享數據資產,靠大數據省下兆級醫療支出 了解更多國際新創圈大小事 👉🏼 https://meetstartup.pse.is/4jhd5u [https://meetstartup.pse.is/4jhd5u] 📍鏈結矽谷創新動態,關注Startup Island TAIWAN 矽谷 Hub:https://sv.startupisland.tw/ [https://tokyo.startupisland.tw/] Powered by Firstory Hosting [https://firstory.me/zh]

29. juni 202629 min
episode 數位關鍵字246.先蒸餾自己,再蒸餾同事!AI native 組織怎麼長出來 cover

數位關鍵字246.先蒸餾自己,再蒸餾同事!AI native 組織怎麼長出來

矽谷創投圈最近流傳一篇文章,Foundation Capital 的 Jaya Gupta 看過上百家新創後直言:在 AI 的世界裡,模型、介面、流程乃至募資簡報都能被抄,一家公司真正抄不走的,只剩下「公司的形狀」。麥肯錫 2025 年的 AI 報告也呼應這個觀察:真正動手重新設計過工作流程的公司不到兩成,其餘八成只是把 AI 疊在原本的流程上面。數位時代創新長黃亮崢 James 邀請 USpace 共同創辦人王佑哲 Eugene,從第一線導入經驗出發,聊聊一家 AI native 公司到底長什麼樣子、既有公司又該怎麼把自己重新長成那個形狀。 聽完這集你可以學到: 1. AI native 的硬定義:它不是公司成立後才喊的口號,而是 from day one 就讓每一個工作產出優先用 AI/agent 完成,再去兜流程、把人放進去。關鍵從來不是追最新工具,而是先想清楚你要的成果與流程節點是什麼。 2. 先蒸餾自己,再蒸餾同事:把一份工作拆成可重複呼叫的 skill:讀票、寫 prompt、開 PR、自動 review 分級全部串起來。Eugene 甚至把整套 skill 交給 PM,讓自己「幾乎沒有存在的必要」,工作量直接少掉七成以上。 3. PM 與品味為何難取代:工程師像把規格翻成程式碼的翻譯,相對容易被取代;PM 難取代的是「品味」——理解公司怎麼賺錢、不同 TA 要什麼。就像好廚師不管到哪個國家,都能用當地食材做出對的味道。 4. 責任要綁在流程,不是怪一個人:Claude Code 曾不小心被開源,當事人卻沒有被開除,因為那是流程設計出錯、不是人的本意。機器做錯,等於設計機器時出錯;組織能不能容許員工這樣做,正是形狀難以改變的關鍵。 5. 兩種人才都要,還要重設獎勵:公司同時需要「設計 SOP」與「執行 SOP」兩種人。要把那些在執行中發現流程可以改的人挖出來,重新授權並設計獎勵,讓他從「為回覆量負責」,變成「為他修好的流程負責」。 6. 既有公司怎麼轉:先裝葉克膜、別想著砍掉重練。比較可行的是「AI 的 BPO」:把流程一條一條拉到體外,用 agent 重新打造、像葉克膜先撐住,再回頭取代舊流程,繞過組織內部龐大的政治與摩擦力。 7. 該先從哪個流程下手:挑同時滿足三個條件的流程先做:高頻(每天都在發生)、成果容易被驗證(對錯一眼看得出來)、低摩擦(經過的人和部門越少越好)。最理想是一個人就能完成、卻又天天發生的關鍵工作。 被問到三五年後什麼公司會被證明「做對了」,Eugene 給的不是預測,而是他自己若再創業想成立的公司樣貌。第一,這間公司任何有產出的內容,他都一定先用 AI 或 agent 做出來,這樣才有機會摸清楚 AI 的邊際與極限在哪裡。第二,他相信產業與公司的邊界都會慢慢鬆動,因為太多不同產業的老闆找他聊,他發現很多產業本來的流程,其實都有機會被重新翻轉。所以他心中最厲害的 AI 公司,是那種重新定義了產業與流程、用非常絲滑的方式把人放在正確位置的公司:人不用多,但能控制大量 agent、完成產業改造,而人只負責做最關鍵的價值觀決策。他也強調,他並不相信「一人公司」,因為人跟人之間仍然需要互相 inspire、需要合作關係:這份信任,才是真正抄不走的東西。 延伸閱讀》 Jaya Gupta(Foundation Capital)〈AI 時代的下一條護城河〉原文:https://x.com/JayaGup10/status/2052870394093408558 [https://x.com/JayaGup10/status/2052870394093408558] 王佑哲 Eugene〈未來公司真正的護城河,是公司本身的形狀〉:https://www.facebook.com/euwang/posts/pfbid0LpM2WDiUrHW6QG5r8xbRkxqjAfD4E4L8aY7M2VnpzGbAMXiZxsfuyJghi3iKLUQZl [https://www.facebook.com/euwang/posts/pfbid0LpM2WDiUrHW6QG5r8xbRkxqjAfD4E4L8aY7M2VnpzGbAMXiZxsfuyJghi3iKLUQZl] Cat Wu(Anthropic)上 Lenny's Podcast:https://www.youtube.com/watch?v=PplmzlgE0kg [https://www.youtube.com/watch?v=PplmzlgE0kg] Powered by Firstory Hosting [https://firstory.me/zh]

26. juni 20261 h 11 min