諾穆拉Nomuula

科技評論

AI 縮短了技術差距,沒有縮短責任差距

我認為 AI 降低的是「做出來」的門檻,不是「做對、做穩、負得起責任」的門檻。研究顯示用 AI 不一定更快、程式碼常有資安弱點;真正拉開差距的,是誰能為上線後的結果負責。

最近常聽到一種說法:AI 讓每個人都擁有「天才級」的技術能力,不懂程式的人也能在幾週內做出完整的商業系統,技術天賦不再是門檻,決定勝負的變成心態與目的。這個說法有一半是對的。我的看法是:AI 縮短了技術差距,卻沒有縮短責任差距。做得出來的人變多了,但能為上線後的結果負責的人,並沒有因此變多。

有一篇企業部落格文章用 Netflix 動畫電影《一百公尺》來比喻:過去的職場像百米賽跑,天生跑得快的人佔盡優勢;AI 出現之後,每個人都拿到了天才級的跑速,於是重要的不再是起跑時的體能,而是「你為何而跑」。這個比喻很漂亮,也點出了一個真實的變化。以下先說我同意的部分,再說我認為被低估的部分。

我同意的部分:做出來的門檻確實下降了

AI 寫程式工具讓很多過去做不到的事變得可能。產品經理可以自己做出可操作的原型,行銷人員可以寫出自動整理資料的小工具,學生可以在很短時間內做出一個能用的 App。這些例子不是誇張,過去需要設計、前端、後端與資料庫人員反覆溝通數個月的雛形,現在一個人就能先做出來。

這個變化最大的價值,在於縮短了「想法」和「可以拿給人試用的東西」之間的距離。過去很多點子死在排不到工程資源,現在可以先做出來,讓使用者實際操作、給回饋,再決定值不值得投入。

我也同意那篇文章的另一個觀點:當每個人的產出速度都變快,決定成果的會是心態。只想交差的人,把 AI 當成減輕工作量的工具,產品能動就好;會為用戶思考的人,會不斷追問「這個介面有沒有解決用戶的猶豫」「這份數據分析真的幫得上決策嗎」。文章引用的莫拉維克悖論(Moravec's paradox)也說明了原因:對人類很難的邏輯推理與程式碼生成,對機器相對容易;對人類很自然的感知與情境判斷,機器反而很難。理解用戶,正是後者。

數據提醒我們:感覺變快,不等於真的變快

不過,「人人都有天才級產出速度」這個前提,研究結果並沒有那麼樂觀。

非營利研究機構 METR 在 2025 年做了一項隨機對照實驗:找來 16 位長期維護大型開源專案的資深工程師,處理 246 個他們平常就會做的實際任務,每個任務隨機決定能不能使用 AI 工具。結果使用 AI 的任務平均多花了 19% 的時間。更值得注意的是認知落差:工程師事前預期 AI 會讓他們快 24%,做完之後仍然覺得 AI 讓自己快了 20%。研究者也特別說明,這個結果不代表 AI 對多數開發者都沒有幫助,也不代表未來的 AI 不會讓他們變快;它只說明,在熟悉的大型專案裡,感覺和實際可能差很多。

Google 的 DORA 研究團隊在 2024 年的報告中也有類似的發現:團隊採用 AI 的程度越高,軟體交付的表現反而略為下降。報告估計,AI 採用程度每增加 25%,交付速度約下降 1.5%,交付穩定性約下降 7.2%。研究團隊自己也說,這個結果和他們的預期相反。

資安是另一個問題。資安公司 Veracode 在 2025 年的報告中,用 80 個程式設計任務測試超過 100 個大型語言模型,發現 AI 產生的程式碼雖然大多能正常運作,卻有 45% 的情況引入了資安弱點;而且模型寫出語法正確程式碼的能力雖然進步,資安表現並沒有跟著改善。

這三份資料的情境各不相同,也都有各自的限制,不能直接推論「AI 沒用」。但它們指向同一件事:做出能動的東西變容易了,做出好維護、穩定、安全的東西,並沒有同樣變容易。

做出來之後,才是真正的工作

原型和上線系統之間,差的不是功能,而是責任。以一個含會員、訂閱、金流與資料串接的商業網站為例,能動只是開始:

面向原型只要做到上線系統必須做到
資安功能可以操作防範常見攻擊、權限控管、密碼與金鑰不外洩
個人資料能存會員資料依《個人資料保護法》做好安全維護,知道資料存在哪裡、誰能看
金流與訂閱能完成一次付款退款、扣款失敗、對帳與發票都要正確
法規不在考慮範圍依產業確認規範,例如投資資訊、醫療或廣告相關法規
穩定與測試自己點過可以用流量增加、資料異常、第三方服務中斷時不會出錯
維護與交接做的人自己看得懂別人接手看得懂,出問題時找得到原因
責任出錯了再修出錯時有人知道影響範圍、通知用戶、負起責任

AI 可以協助完成表格右邊的很多事,但前提是有人知道要問這些問題。一個不懂技術的人用 AI 做出完整系統,最大的風險不是做不出來,而是不知道自己漏了什麼。這就是我說的責任差距:它不會在展示時出現,而會在上線後、在出事時才被看見。

一個人用 AI 做完整套系統,先問這五個問題

我不反對一個人用 AI 做出完整系統,但我會建議在上線前,至少回答這五個問題:

  • 用戶的資料存在哪裡、誰看得到? 回答不出來,就還不能讓真實用戶註冊。
  • 有沒有人看過程式碼,或至少跑過資安掃描? AI 寫的程式碼一樣需要被檢查,尤其是登入、付款與權限相關的部分。
  • 出錯時怎麼知道、怎麼復原? 有沒有紀錄、備份與回復的方法。
  • 這個產業有哪些法規要遵守? 金融、醫療、教育、廣告等產業各有規範,AI 不會主動替你想到。
  • 如果你明天不在,別人接得起來嗎? 一個人做出來的系統,最常見的風險是只有那個人懂。

為用戶思考,也包括替用戶守住風險

回到那篇文章的核心:一流人才的決勝點,是「真正為用戶成功而思考」。我完全同意,只是想補上一句:在 AI 時代,為用戶思考不只是把介面做得貼心、把數據分析做得有用,還包括替用戶守住他們看不見的東西:資料不外洩、服務不中斷、付款不出錯、內容不違法。

用戶不會因為系統是一個人兩週做出來的而給予寬容;他們只在乎東西好不好用、能不能信任。從這個角度看,AI 讓「做出來」變成基本能力,而「做出來之後能不能負責」,才是新的分水嶺。

對個人與團隊的意義

對個人來說,我認為最值得投資的不是更多提示詞技巧,而是判斷力:看得懂 AI 給的結果、知道哪裡可能出錯、願意花時間測試與檢查。會用 AI 的人會越來越多,會檢查 AI 的人才是稀缺的。

對團隊來說,鼓勵同事主動學習 AI 是好事,用自發性來辨識積極的人,也是一種合理的做法。但自發學習之外,團隊仍需要護欄:程式碼審查、資安掃描、上線前的檢查清單,以及清楚的責任歸屬。速度可以交給個人,品質與安全不能只靠個人自覺。

我的判斷在哪些情況下不成立

  • 風險低的內部工具與一次性用途:自己用的資料整理腳本、內部原型、活動用的臨時頁面,做出來就夠,不必套用上線系統的標準。
  • 由有經驗的工程師使用:熟悉系統架構、會審查與測試的人用 AI 加速,責任差距本來就小,主要差別是速度。
  • 工具持續進步:METR 的研究者也說明,結果不代表未來的 AI 不會讓開發者變快;隨著工具內建更多檢查與測試,部分責任差距可能縮小。
  • 有完善的平台與規範可依循:在已經處理好資安、金流與權限的平台上開發,一個人能安全完成的範圍會大很多。

常見問題

不懂程式的人,真的能用 AI 做出完整系統嗎?

做出可以操作的系統是可能的,尤其是原型與內部工具。但要讓真實用戶使用,還需要處理資安、個人資料、金流、法規與維護,這些部分需要有人懂、有人檢查。

用 AI 寫程式一定會比較快嗎?

不一定。METR 的隨機對照實驗發現,資深工程師在熟悉的大型專案中使用 AI 工具,平均反而多花 19% 的時間,而且他們仍覺得自己變快了。效果會因任務、經驗與專案而不同。

AI 產生的程式碼安全嗎?

不能直接假設安全。Veracode 2025 年的報告發現,AI 產生的程式碼有 45% 的情況引入資安弱點,而且資安表現沒有隨著模型進步而改善。上線前仍需要審查與資安掃描。

AI 時代最重要的能力是什麼?

我認為是判斷力與負責的能力:理解用戶真正需要什麼、看得懂 AI 給的結果、知道哪裡可能出錯,並願意為上線後的結果負責。

資料來源

最後查證:2026 年 10 月 4 日。

↑