How to Stop AI from Killing Your Critical Thinking | Advait Sarkar | TED
Chatbots might help you get work done faster — but at what cost? When we outsource our reasoning to artificial intelligence, we reduce ourselves to "middle managers for our own thoughts," says AI and design researcher Advait Sarkar. He examines the cognitive trade-offs of using AI at work and introduces a different kind of tool: one that encourages critical thinking, nudges reflection and actually helps you get smarter. (Recorded at TEDAI Vie
Watch on YouTube →
Contributed by 刘嘉琪Transcript
- 00:00譯者: Wenjer Leuschel 審譯者: Shelley Tsang 曾雯海
- 00:04我今天在這裡來談談自己思考。
- 00:08我必須承認， 我確實使用了AI 來輔助思考。
- 00:11（笑聲）
- 00:12這之中的諷刺意味我當然懂。
- 00:15但我使用 AI 的方式並非將其作為助
- 00:19手來幫我更快地準備演講稿，
- 00:21而是將其作為思考的工具。
- 00:25在演講結束時，
- 00:26我會解釋我的意思，
- 00:29闡述其重要性，
- 00:30並讓大家了解它的運作方式。
- 00:33但首先，我必須描述一下場景。
- 00:36讓我們來看看 21 世紀知識工作者的一天。
- 00:40我來到辦公室，打開信箱， 發現裡面塞滿了郵件。
- 00:45哦。
- 00:47我們來總結一下。
- 00:49好吧， 我不知道該如何回覆這封郵件，
- 00:52那就讓 AI 幫我寫個回覆。
- 00:56接下來，我必須寫一份報告。
- 00:59但我遇到了空白頁的難題。
- 01:02我知道，我能添加一些參考資料， 然後讓 AI 產生一份草稿。
- 01:05嗯，看起來不錯。
- 01:07順便說一句，以前的寫作瓶頸 是指盯著一張白紙發呆。
- 01:11現在則是盯著 AI 幫我填好的頁面，
- 01:13琢磨著我是否認同它。
- 01:15我成了機器人意見的專業驗證員。
- 01:19（笑聲）
- 01:22我得分析一些數據。
- 01:23也許 AI 可以為我分析這些數據。
- 01:27大概對吧。
- 01:29好了，我還得做個簡報。
- 01:32你們懂的演習。
- 01:34好的。
- 01:35哦，我還得做個原型。
- 01:38好的，讓我先隨便寫點程式碼。
- 01:40好了，一切看起來都不錯，開始吧。
- 01:44這不是對未來的展望。
- 01:47這是一幅完全合理的，
- 01:49儘管略為誇張的，但卻是 對當今知識工作世界的描繪。
- 01:54歡迎來到外包理性時代。
- 01:57在這個時代，知識工作者不 再與他們技藝的素材互動。
- 02:01我們變成了知識的遊客。
- 02:03在自己的工作中，我們 只是著參觀各種想法。
- 02:06我們並不真正融入其中。
- 02:09我們與工作的關係
- 02:12完全由 AI 中介。
- 02:16有些人可能會說，這讓人感到疏離。
- 02:17我們以前也聽過類似的說法。
- 02:20這種說法有什麼問題呢？
- 02:23首先，它與現實只有一步之遙，
- 02:26這一點很重要。
- 02:27但這又是另一個話題了。
- 02:29我今天想重點討論的是，
- 02:32以這種方式使用 AI
- 02:34會對人類思維產生深遠的影響。
- 02:39以創造力為例；
- 02:40從個人層面來看，
- 02:41我們可能認為 AI 可以提升創造力，
- 02:44讓我們快速獲得新想法。
- 02:47但大量研究表明，從集體層面來看，
- 02:51使用 AI 助理的知識工作者
- 02:53產生的想法範圍比人工 協作的團隊要小得多。
- 02:58我們創造了一種群體思維。
- 03:01只不過這種群體思維非常乏味， 總是提出同樣的五個想法。
- 03:06以批判性思考為例；
- 03:08我們調查了知識工作者 使用 AI 的情況。
- 03:12他們表示，在使用 AI 時，
- 03:15他們投入批判性思考 的精力比人工協作時少。
- 03:21而且，當他們對 AI 更有 信心而對自己缺乏信心時，
- 03:24這種影響會更加顯著。
- 03:27以記憶力為例。
- 03:30當人們依賴 AI 代替寫作時，
- 03:33他們記住的內容會更少。
- 03:35而當他們閱讀 AI 產生的摘要時，
- 03:38他們的記憶力不如閱讀原文，
- 03:40這並不令人意外。
- 03:42最後，我們來考慮元認知，
- 03:44也就是思考自身思考過程的能力。
- 03:48與 AI 合作必須對 任務目標、任務分解、
- 03:55AI 的適用性以及評估輸出結果的 能力進行大量的後設認知推理。
- 03:59這些能力原本是在 直接處理材料過程中自然而然形成的，
- 04:04但當在必須藉助 AI 處理這種材料時，問題就出現了。
- 04:09簡言之，我們成了自己思維的「中階管理者」。
- 04:13那麼，結果如何？
- 04:15我們的想法越來越少了，
- 04:17我們對想法的批判性思考也越來越少了。
- 04:19我們對想法的記憶力也下降了，
- 04:21我們的思考也變得更加困難了。
- 04:24總而言之，我們可以看出， AI 輔助的工作流程
- 04:27對人類思維會產生深遠的影響。
- 04:30這種影響甚至延伸到 看似瑣碎的日常任務，
- 04:34因為這些日常鍛鍊我們創造力、
- 04:37批判性思維和記憶力的機會，
- 04:39對於保護我們的認知能力
- 04:42至關重要，
- 04:44並使我們能夠在遇到極其 複雜的任務時游刃有餘。
- 04:48研究表明，研究表明， 當我們不使用大腦時，
- 04:52大腦在處理與大腦 相關的事務時就會退化。
- 04:54諾貝爾獎委員會，請暫時不要鼓掌。
- 04:59這就是進步的代價嗎？
- 05:04我們已經解決了必須思考的問題。
- 05:07但不幸的是，思考 本身並不是一個問題。
- 05:09（笑聲）
- 05:11這就像我們發明了一種運動療法，
- 05:14然後又納悶為什麼自己總是氣喘吁吁，
- 05:17你知道嗎？
- 05:19其實並不必如此。
- 05:24除了 AI 作為助理之外，
- 05:26我認為，AI 不應僅止作為 助手，而應該成為思考的工具；
- 05:29AI 應該挑戰，而不是服從。
- 05:32我相信，此刻我們正 處於一個關鍵的轉折點，
- 05:35生成式 AI 即將 徹底改變工作世界，
- 05:39我們必須立即行動，
- 05:40塑造並推動這項變革，使之 朝著以人為本的價值觀發展。
- 05:44在這兩條截然不同的道路中，
- 05:47我們必須選擇人跡罕至的那一條。
- 05:50思考工具不僅能完成工作，
- 05:52還能幫助我們更能理解工作本身；
- 05:56不僅能更快完成工作，
- 05:58還能幫助我們更好地完成工作；
- 06:01除了讓我們找到正確的答案之外，
- 06:03這種思考工具可幫助 我們提出正確的問題；
- 06:07除了實現已知流程的自動化，
- 06:09它還能幫助我們探索未知領域。
- 06:12這究竟是什麼樣的呢？
- 06:14接下來我要向大家展示的是一個原型，
- 06:16它是由我和我的同事在微軟劍橋
- 06:18研究院的「思考工具」團隊所開發的。
- 06:22請注意，這只是一個正在運行的研究原型，
- 06:26並非產品，
- 06:27這也只是我們的團隊正在 進行的一系列探索性研究之一。
- 06:31以研究不同的 AI 工作
- 06:33模式如何增強人類思維。
- 06:35那麽，讓我們來看一個虛構的例子。
- 06:39克菈菈和她的同事經營一家
- 06:43瓶裝飲料公司。
- 06:46他們剛剛開會討論了一份新的行業報告，
- 06:49這份報告似乎對消費者對永續
- 06:52包裝的偏好有一些非常重要的發現。
- 06:55克菈菈的同事要求她撰寫一份提案，
- 06:58闡述公司該如何應對。
- 07:01因此，她必須認真研讀 這份報告，並理解其中的
- 07:07發現和數據，
- 07:09以及它如何與其業務背景相符。
- 07:13她首先將一些文件導入到工作區；
- 07:19那兒有會議記錄， 可以幫助她回顧討論內容；
- 07:22還有一份來自她公司最近的內部報告；
- 07:26當然啦，
- 07:27還有那份行業報告，她打開了它；
- 07:29她看到了文件的概述
- 07:31以及逐節的摘要。
- 07:34但這些摘要並不僅僅是摘要。
- 07:36我們更願意將它們視為一種「透鏡」。
- 07:38它們是可自訂的文字微縮呈現，
- 07:41可以突出與當前任務最相關的內容。
- 07:45在這種情況下， 克菈菈選擇了消費者視角。
- 07:51她可以選擇一個章節來深入閱讀，
- 07:53在這裡她選擇了第一章。
- 07:55在閱讀過程中，她會記下自己的想法，
- 08:00並高亮顯示文件中的摘錄。
- 08:05同時，
- 08:06她還看到 AI 產生的評論和批評。
- 08:10我們稱這些為「啟發性提示」。
- 08:13這裡有一個啟發性提示， 它提出了一個潛在的機會，
- 08:17克菈菈將其高亮顯示並做了註釋。
- 08:19請注意，這個過程是完全人工閱讀
- 08:24並完全依賴 AI 為你閱讀的混合方式。
- 08:26克菈菈仍然在閱讀，
- 08:32現在，克菈菈正在工作中，
- 08:33她在右側的這個窗格中 手動建立她的論點大綱。
- 08:39這個大綱的結構簡單，
- 08:41讓她能夠從宏觀層面勾勒出論點的脈絡，
- 08:46同時又能保持論點之間的緊密聯繫，
- 08:47並以原始文件為基礎。
- 08:50因此，我們已經可以產生提案草稿，
- 08:54克菈菈也可以在這裡進行一些操作， 例如為大綱添加標題以產生段落。
- 08:59但我想強調的是，
- 09:01雖然這段文字是由 AI 產生的，
- 09:05但克拉拉與這段文字的關係
- 09:07與她簡單地導入一些文件並說 「給我寫份報告」的情況截然不同。
- 09:11因為這段文本深植於一個認知上
- 09:16費力但互動上毫不費力的思考過程。
- 09:20它反映了克菈菈的決定、判斷
- 09:23以及克菈菈她獨特的個人和專業知識。
- 09:30她發現了另一個 啓發性提示，這次是在提綱裡。
- 09:35這次，她覺得雖然 這項啓發性提示有用，
- 09:39但沒必要採納。
- 09:41與典型的 AI 建議不同，
- 09:43啓發性提示並非總是適用，
- 09:46其目的是在激發你對作品的思考。
- 09:49因為如果你對自己的作品
- 09:52理解得足夠透徹，能夠自信地決定
- 09:55不接受某些回饋，
- 09:57那麼回饋機制仍然在預期中發揮作用。
- 10:02但這還沒完。
- 10:03由於生成式 AI， 克菈菈有了與文字互動的全新方式。
- 10:09一個非常簡單的例子是 她可以調整段落的大小
- 10:12即可更改其長度。
- 10:14她還可以快速測試文本的不同版本。
- 10:17例如，在這個段落中，
- 10:19她想知道如果採用更具
- 10:21啟發性還是更務實的語氣會更有效。
- 10:24於是，她選擇了一個可以自訂的特徵，
- 10:30預覽了幾個備選的方案，
- 10:32並選出其中之一。
- 10:35而且，她確實在一些關鍵節點，
- 10:37她會進行寫作。
- 10:39在寫作過程中，她會看到一些啟發性提示，
- 10:44這些提示並非自動補全她的想法，
- 10:47而是提出其他選擇，
- 10:48指出了謬誤，
- 10:50提供了反駁論點，
- 10:51幫助她強化和發展自己的論證。
- 10:56在這個介面中，你找不到一個功能，
- 10:59而那只是一個聊天框。
- 11:01克菈菈無需與任何事物交流就能完成工作，
- 11:04但她的電腦卻以電腦 而非模擬人類的方式，
- 11:09默默地、恰當地為她提供幫助。
- 11:12簡而言之，我們從這樣……
- 11:19變成這樣了。
- 11:20在整個過程中，
- 11:22克菈菈得到了輔助，而且確實，
- 11:24AI 可能加快了她的工作速度。
- 11:27但她也始終在關鍵 節點上保持著直接的參與。
- 11:31她親自閱讀了文件的相關部分，
- 11:34獨立建構了她的論證，
- 11:37最後可以說這份文件是她自己寫的。
- 11:41此外，AI 也提升了她的工作效率。
- 11:44在流程的每個階段，
- 11:47AI 的提示都讓她 保持了後設認知能力，
- 11:49不斷尋找批評意見、 替代方案和橫向思考的方向。
- 11:55我們一直在研究這類工具的效果，
- 11:58而結果令人鼓舞。
- 12:01我們可以證明將批判性思考重新
- 12:04引入 AI 輔助的工作流程中。
- 12:06我們可以扭轉創造力的喪失， 並反過來增強它。
- 12:11我們可以建立強大的記憶工具，
- 12:13使知識工作者能夠以更高的目標性快速
- 12:17閱讀和寫作，並牢記所學內容。
- 12:20事實證明，只要遵循正確的設計原則，
- 12:24我們就能建立出兼具兩者優勢的工具：
- 12:27利用這項技術的驚人速度和靈活性
- 12:31來保護和增強人類的思維。
- 12:33這些都是一些簡單而普遍的原則，
- 12:36例如確保工具能夠維持 使用者的實際參與度，
- 12:41提供有效的回饋機制，
- 12:43並支持後設認知。
- 12:46雖然我們主要研究的 對象是專業知識工作者，
- 12:49但我們相信這些原則可以 推廣到 AI 應用的各個方面，
- 12:53包括我們在日常生活、愛好，
- 12:57甚至在教育中的應用。
- 12:59我再次強調，效率並非「思考工具」的目標，
- 13:03提升思考能力才是。
- 13:05但有時我們可以兩者兼得。
- 13:08我過去認為人類思維沒有免費的午餐。
- 13:12而這比免費午餐好得多。
- 13:14這是一份讓你吃得開心的午餐。
- 13:17（笑聲）
- 13:20最後，我想談談我們 在開發 AI 軟體時所秉持的價值觀。
- 13:25如果 AI 發展到能夠 比人類更勝一籌的程度，
- 13:29那會怎麼樣？
- 13:30我們為什麼如此重視
- 13:31保護和增強人類的思考能力？
- 13:35原因有二：
- 13:36首先，
- 13:38也許總有一些思考方式是人類 獨有的優勢，而我們可能甚至
- 13:41還沒有意識到。
- 13:44其次，也許更重要的是，
- 13:46我們認為良好的思考能力對於
- 13:49人類的自主、賦權和繁榮至關重要。
- 13:54這反映了一個古老的問題。
- 13:57人們曾經問過，如果文字、書籍、 網路能夠替我們記憶，那麼我們自己
- 14:03無法記憶又有什麼關係呢？
- 14:05人們曾經問過，如果地圖能夠替我們導航，
- 14:07那我們自己無法導航又有什麼關係呢？
- 14:10現在我們又問，如果機器能替我們思考，
- 14:13那我們自己無法思考又如何呢？
- 14:16如果機器能夠替我們說話、
- 14:18替我們悲傷、替我們祈禱、替我們做愛，
- 14:23那麼我們自己無法做又怎樣呢？
- 14:26對我而言，答案顯而易見。
- 14:2913 年前我開始研究人機互動時，
- 14:32根本無法想像
- 14:34在我有生之年我們會探討這些問題。
- 14:37但事實的確如此，
- 14:38而且我們必須思考。
- 14:40最後，我想留給大家一個思考的問題：
- 14:45你更想要什麼？
- 14:47一個替你思考的工具，
- 14:49還是一個讓你思考的工具？
- 14:51（掌聲）