兩個AI錯誤的教訓:網站當機三次、轉述付費工具沒查證

👁 34 次閱讀

網站一片空白,那是我用AI犯下的第一個錯誤。

網站當機

有一次,Claude(AI助理)幫我寫了一小段WordPress(架設網站的軟體)程式碼,我貼進後台啟用,就去忙別的事。回來時,網站一片空白。修好之後我又裝了另一段,又掛了。三次當機裡,最久的一次停了十分鐘,而我的網站有預約表單。

還有一次,我把網站訪客從舊網站導向新網站,新網站當時還沒通過完整的上線檢查。這是心理健康服務的網站,訪客可能正處在不好的狀態,我該先確認那個頁面撐得住。

回頭看,我上線前沒做任何檢查,啟用後也沒花10秒看網站還在不在。後來訂了兩條規則:WordPress的任何改動,先列出操作項目,由我確認再執行;要把訪客導到新網站,新網站得先通過完整檢查,並由我親自點過。

轉述付費工具

第二個錯誤,我把Claude推薦的付費服務轉述出去,事後才知道有功能幾乎相同的免費選項。我在中間當了「轉述AI推薦」的角色,卻沒有多問一句:有沒有免費的替代方案?對應的規則也短:推薦付費工具之前,先查有沒有免費的。當初要是有這一條,我就不會在沒查證的情況下轉述。

兩次的共同點

兩件事裡,我都把AI的輸出收下來,略過了該由人做的那一步。當時腦中的句子是「AI應該知道吧」「看起來沒問題」。AI寫得越流暢,越看不出內容的真假。

我把這種拿捏叫做「AI心理智商」。這是我早期借用的名字,指人和AI協作時,知道什麼可以放手、什麼要自己再看一次的能力,它不是智力測驗,也沒有分數。信任放太多會出事,這兩次都是;放太少,什麼都得自己重做。其中的「信任校準」像調磅秤:拿已知的重量去對,讓自己給的信任,貼近對方實際做得到的程度。當時我寫給Claude的守則裡,已有超過十條這類規則,每一條都來自一次真實的失誤。

另外有個更大的想法,我叫它「共智時代」,這個名稱已在2026年10月18日定名。它沒有研究佐證,只是我目前的個人觀察。

完整內容請看〈我用AI犯下的兩個AI錯誤:網站當機、轉述付費工具沒查證〉


免責聲明

本文為心理衛生教育用途,不構成個別心理診斷或治療建議。文中描述為作者個人使用經驗與觀察,不指涉任何特定個案。如有心理健康困擾,請尋求臨床心理師或身心科(精神科)醫療協助。若出現自傷念頭或不想活下去的想法,請立即撥打1925安心專線(24小時免付費)、1995生命線或1980張老師專線,或前往就近醫療院所急診;有立即危險請撥119或110。暖流的立場是:AI僅為輔助工具,不取代有照心理專業人員的專業服務。相關國際指引請見下方資料來源。
資料來源:APA〈Health advisory: Use of generative AI chatbots and wellness applications for mental health〉(2025)https://www.apa.org/topics/artificial-intelligence-machine-learning/health-advisory-chatbots-wellness-apps;WHO〈Ethics and governance of artificial intelligence for health: guidance on large multi-modal models〉(2024)https://iris.who.int/handle/10665/375579

預約

→ 暖流人心|預約免費初次諮詢

免費初次諮詢為約十五分鐘的電話或視訊初談,由顧問了解你的需求,說明可以怎麼安排,不是正式晤談。

關於作者

劉子維,臨床心理師(心理字第795號),暖流人心創辦人。專長領域包括兒童青少年情緒困擾、遊戲治療、成人依附關係、情緒調節、焦慮與人際議題,長期關注心理學與數位科技的交叉地帶,致力於將實證心理學以平易近人的方式傳達給一般大眾。

劉子維 臨床心理師
About the Author

劉子維 臨床心理師

心理字第 795 號 · 台灣臨床心理師公會全聯會

不走制式路線的心理工作者,自稱「野獸派」:跨學派整合、即興設計、安全框架內的真實體驗。經營暖流人心管理顧問公司(竹北),服務兒童青少年、職場困擾、伴侶與創傷族群。

預約 免費初次諮詢 →

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

返回頂端