ChatGPT 應用案例

在後 ChatGPT 時代「獨立思考」至關重要

2023年5月12日

🧵 如果你想收到最即時的內容更新,可以在 FacebookInstagram 上追蹤我們

ChatGPT 一直以來都有幻想問題 (hallucination),所謂的幻想問題,就是它會一本正經地說瞎話,用看似無誤的語氣,回覆錯誤的內容。即使在最新的 GPT-4,這個問題已經減緩許多,但仍是存在的。舉例來說

ChatGPT 煞有其事地說錯內容
ChatGPT 煞有其事地說錯內容

相信大家都知道,臺灣有八八風災、八七水災,但是並沒有七七風災這件事。假如你去查 1998 年 7 月 2 日,台灣也不存在特別的歷史事件;而台灣歷史上雖然有凱撒琳颱風,但是發生在 1994 年而不是 1998 年。但是 ChatGPT 的回答卻像煞有其事。這就是所謂的幻想 (hallucination),ChatGPT 以假亂真似地回答。這種幻想問題不僅存在於歷史事件,也存在於其他這類的回答。

2017 年哈佛大學的開學典禮中,校長 Drew Faust 在致詞中引述已故哈佛教授 Jeremy Knowles 說的話,他說高等教育最重要的目標,是要確保學生畢業後能分辨「有人在胡說八道」(graduates can recognize when “someone is talking rot.”)。這句話在後 ChatGPT 時代又顯得更為精闢,因為 ChatGPT 的回覆都是非常肯定與專業,即使內容有誤,也很容易讓人相信是正確的。假如你沒有獨立思考,很可能會被 ChatGPT 誤導。

以下提供一個簡單的思考架構,讓你可以時時帶著批判思考,面對 ChatGPT 給的回覆。這個思考架構是由兩個問題組成,如下:

  • 真的是這樣嗎?
  • 為什麼?

透過這個簡單的架構,當你面對任何網路資訊 (或是 ChatGPT 的回答),都能更有效辨別。舉例來說,先前新聞報導 Disney+ 在 2023 年第二季的訂閱用戶減少了四百萬人。在網路論壇上,很多人看到這標題就直接留言說不意外,因為最近 Disney+ 上面的節目品質下降、最新一季的《曼達洛人》很難看。但是訂閱用戶下降的原因,真的是在於節目品質下降嗎?

事實上訂閱人數下降的主要原因,根本不是網友們的臆測。真正的原因是 Disney+ 在印度地區的板球轉播權競標輸掉,所以變得沒辦法持續轉播印度最熱門的板球比賽,讓大量的印度用戶退訂。其實用戶數下降的數據要找到並不難,假如你有先問「真的是這樣嗎」,然後進一步去查證,就可以避免被網友的胡亂猜測給影響。

對於他人的成功法則抱有獨立思考

其實不只是 ChatGPT 的回答,面對任何帶有權威性角色的回答,有獨立思考都會對自己有所幫助。先前 OpenAI 執行長 Sam Altman 的一則推文,在推文中他提到 ChatGPT 沒有內建的分享功能、在使用前要先註冊,甚至沒有能做病毒式成長的迴圈,這幾點讓他嚴重質疑他過去幾年給新創公司的建議。

Sam Altman 的反思
Sam Altman 的反思

這則貼文讓我們特別有感。假如不知道 Sam Altman 背景的人,這邊先快速科普一下。雖然多數人是在 ChatGPT 爆紅後才知道 Sam Altman,但事實上在開創 OpenAI 之前,他早已是矽谷新創圈最具份量的人之一。原因無他,在 OpenAI 之前,他是矽谷最強新創孵化器 Y Combinator 的總裁,是 Airbnb、Stripe、Reddit 等多家知名公司背後的推手。在 2014 年時,他在史丹佛大學開設《How to Start a Startup》,幾乎成了想經營新創公司的人必上的課。

因此在過去許多人會把 Sam Altman 對經營新創公司的觀點,視為成功的法則一般。事實上,過去許多新創公司能有爆炸式的成長,也多虧了在推文中提到的那些方法。只是偏偏歷史上最快達到 1 億位使用者的 ChatGPT,完全沒有用上開頭提到的那些方法。這也是為什麼 Sam Altman 說自己嚴重質疑過去幾年來給新創公司的建議。

在看到這則推文時,讓人再次意識到獨立思考的重要。獨立思考意味著,我們不該對於別人提出的觀點,直接照單全收。雖然 Sam Altman 說質疑自己過去提的建議,但這不代表他過去教新創公司的這些經營原則就是錯的;也不代表 ChatGPT 的做法就是新的成功法則。達到成功的方式有很多種,別人成功的方法不一定適用於你所面對的情境。

因此,在我們聽到別人的成功故事時,在接受前或許可以先停下來想一想「真的是這樣嗎? 為什麼? 他提的觀點在我面對的情境下仍然適用嗎?」。以這幾天看到很多報導引述 Sam Altman 說「遠端工作是錯的,該結束了」時,我們不認為應該直接就接受這觀點,而是要去看背後的脈絡,他這一番話真的適用所有公司與團隊嗎? 可能未必,畢竟大有全遠端但仍經營良好的團隊。

回過頭說,雖然 ChatGPT 很成功,但做 ChatGPT 的產品原則、OpenAI 的經營原則,可能並不適用於你。總之,雖然可能比較累,但還是推薦大家,時時刻刻抱持獨立思考吧!

✉️ 如果你有任何軟體工程師轉職、求職、職涯、面試的問題,歡迎填寫表單 預約諮詢服務