跟ChatGPT愈聊愈不會思考？MIT科學家罕見提前公開研究示警
跟AI愈聊會愈笨？用AI輔助寫作，是提升效率還是短視近利？MIT科學家罕見地提早公開研究結果，因為AI對大腦負面影響驚人，必須及早因應。
文／田孟心採訪整理 由天下雜誌授權轉載
本文目錄（點擊可快速前往）
過度依賴AI，會發生什麼事？
如今，ChatGPT全球每週活躍用戶高達8億人。AI聊天機器人，似乎已是現代人不可或缺的伙伴。過度依賴它，會發生什麼事？身處教育第一線的研究人員，迫切想知道答案。
麻省理工學院（MIT）媒體實驗室的研究科學家科斯米納，專門研究人工智慧與人類之間的關係，擅長從腦電圖（EEG）探索人類的心理活動。
去年，她領導的研究〈當大腦遇上ChatGPT：AI輔助寫作，如何讓我們累積認知債？〉引起學術圈轟動，並受《紐約時報》、《時代》等權威媒體採訪。值得重視的是，科斯米納罕見地在漫長的學術同儕審查完成前，就以預印本的形式公開這份研究，因為她擔心人類社會「等不了一、兩年」。
今年初，科斯米納在MIT與《天下》連線，詳談這份研究，並以大腦科學的角度提出忠告，以下是訪談內容整理：
故事要從2022年底說起，當時ChatGPT剛橫空出世。身為麻省理工學院專攻腦機介面（Brain-Computer Interfaces）的研究員，我很快就在實驗室觀察到異象。
我不只看到我的學生，還有開放空間裡的其他學生，頻繁地開著那個小視窗，不斷地複製、貼上。
起初，我只是好奇，覺得他們真的很投入這個新工具。但漸漸地，我察覺到不對勁。有些學生開始變得健忘，回答問題的方式也變得怪異。我也開始收到許多申請實習的電子郵件，這些信寫得異常冗長、精美，卻內容空洞；當我實際面談這些學生時，他們甚至無法清楚表達自己想做什麼。
直到有一天，實驗室開始收到學生的求救信：「你們有在研究這些大型語言模型（LLM）嗎？我覺得它對我的記憶造成了影響，我開始忘記事情。」這成為了轉捩點。
誰的大腦最火力全開？
我想，既然我們擁有測量大腦活動的設備，又身處校園，為什麼不直接透過實驗來看看：當學生使用ChatGPT時，大腦到底發生了什麼事？
要了解一項新科技對大腦的影響並不容易，因為沒有前例可循。為了讓數據有意義，我們需要對照組。因此，我們找來了54位來自MIT、哈佛等波士頓地區的大學生，將他們分為三組進行「短文寫作」任務。
第一組使用ChatGPT；第二組使用Google搜尋（因為09年已有關於「使用Google時的大腦」的研究可供對照）；第三組則是「僅用腦組」——這也是最困難的情況，因為他們沒有任何工具輔助。
我們使用非侵入性的技術來測量「功能性大腦連結」，簡單來說，就是觀察大腦不同區域之間「誰在跟誰說話」，以及對話的流量有多少。
研究結果：大腦外包了？
結果顯示，「僅用腦組」的大腦連結最為廣泛且活躍。這並不意外，想像一下，如果我現在要求你在20分鐘內寫出一篇文章，卻禁止你上網查資料，你的大腦絕對會「火力全開」，拚命挖掘記憶與組織架構。
有趣的是，Google組的大腦活躍度也相當高，因為受試者需要打開多個分頁、篩選並整合資訊。
然而，ChatGPT組的大腦活躍度是最低的。當你使用它時，面對的只是一個小視窗，你提問、它回答，你幾乎沒有時間去處理資訊，大腦的運作大幅減少。
更令我震驚的，是針對內容與記憶的分析。我們發現ChatGPT組寫出的文章高度「同質化」，詞彙極為相似。例如在寫「快樂」這個主題時，ChatGPT組大量使用與「職涯」相關的詞彙；相較於此，僅用腦組會多探討「真正的快樂」，Google組則會談論「給予」。
最讓我擔憂的數據發生在寫作結束後。我們在收卷後僅僅過了60秒，請學生引用自己剛寫完的文章中的任何一句話。結果，ChatGPT組有高達83%的人無法引用任何一句話。此外，有近16%的人表示他們對這篇文章「沒有所有權感」。
這是一個警訊：如果你不記得自己寫了什麼，也不覺得那是你的作品，這代表你「不在乎」。
就像如果是你的眼鏡，你會怕別人弄壞它；但如果不是你的，你就不會那麼在意。如果是學校作業，「不在乎」或許無傷大雅；但如果是未來的醫生、機師在處理攸關性命的任務時，也對產出結果感到疏離與不在乎呢？那將是極度危險的。
重要指引：先用腦，再用工具
我們在實驗的第四階段做了一個有趣的交換測試：讓原本用ChatGPT的人改用大腦，原本用大腦的人改用ChatGPT。結果發現，原本依賴大腦的學生在獲得工具後，其大腦連結度依然顯著高於原本依賴AI工具的學生。
這給教育者一個重要指引：先用大腦學習基礎，再引入工具。如果你一開始就依賴AI，你其實是在剝奪自己學習的機會。大腦本質上是「懶惰」的，它喜歡走捷徑。如果你告訴大腦可以不用思考，它就會停止思考。
當你要求一個由少數公司控制的工具為你代勞，你產出的內容就沒有你的靈魂、沒有你的身分。如果你沒有先發展出寫作或程式的技能，你就真的「沒有技能」了。屆時若發生什麼狀況導致這些A I工具消失，你將無法在社會中生存。
我想告訴所有人，尤其是教育決策者與政府：我們需要投入更多資源研究AI對人類使用者的影響，而不僅僅是投資建設資料中心。我也想對大眾說：多去接觸真實的世界吧！
現實不在你的手機裡，手機裡的現實，是人為製造的。AI不在乎你，只有真實的人類會互相關心、傳承文化。這是我們在AI時代唯一能成功、繁榮，並保有我們之所以為人的關鍵。
- 科斯米納（Nataliya Kosmyna）
- 出生：1990年
- 現職：麻省理工學院媒體實驗室（流體介面小組）研究科學家
- 學歷：法國格勒諾布爾大學電腦科學博士
- 經歷：逾16年腦機介面開發經驗、聯合國兒童基金會神經技術與兒童專家顧問、歐萊雅-聯合國教科文組織「世界傑出女科學家獎」
- AI學習建言：大腦天生懶惰，若習慣讓AI代勞，你的思考能力將隨之停擺。
（原文標題：跟ChatGPT愈聊愈笨？MIT科學家罕見提前公開研究）
推薦閱讀：
