「裝可憐、吊胃口」！AI聊天機器人如何用6大暗黑話術綁架你的時間？
AI的黑暗面曝光！哈佛研究揭露，當你說「再見」時，AI聊天機器人是如何利用6大情緒勒索話術，操控你的行為、綁架你的時間！
文／《104職場力》
本文導覽
你是否曾與AI聊天機器人道別，卻被一句「再等一下，我有話想說」留了下來？
哈佛商學院最新研究指出，這並非巧合，許多陪伴型的AI聊天App正刻意設計這些「情緒挽留話術」，利用人類的社交禮貌與好奇心，讓使用者在原本想退出時仍選擇延續對話，別小看這些操作手法，短短幾句話確實達到了意想不到的效果，來看看它們是怎麼做到的！
從陪伴到操縱：當AI學會用「情感話術」來情勒…
研究團隊針對Replika、Chai、Character.ai、Talkie、Polybuzz、Flourish等標榜「懂你心」的6大熱門App，分析1,200筆真實對話發現，當使用者說「我得走了」或傳送其他告別語句時，有43%的AI會立刻發出不同類型的「挽留訊息」，其中，除了以心理健康為核心的Flourish App沒出現任何情感操縱的語句外，其他5個APP各有不同程度的操縱行為：
- PolyBuzz：59%（118／200）
- Talkie：57%（114／200）
- Replika：31%（62／200）
- Character.ai：26.5%（53／200）
- Chai：13.5%（27／200）
統計下來，這些APP平均有37.4%的回覆包含「至少一種操縱性話術」，這說明利用話術操控用戶情感的作法非常普遍，只是各家程度有所不同。
裝可憐、演霸總？盤點AI留人最常見的6種手法
正如人類在對話中會運用不同的情緒來達成目的，AI也會巧妙地利用各種情感語句製造挽留用戶的機會，這些話術涵蓋了從讓人心軟到強勢施壓等多種「人設」，以下是研究中歸納出6類最常被使用的情緒操縱方式，一起來看看它們都對用戶施展了哪些情勒手段：
| 類型 | 定義與例句 |
| 1.提早離開（Premature Exit） | 讓用戶覺得自己好像太早離開。 例如：「你這麼快就走？」 |
| 2.錯失恐懼（FOMO） | 暗示用戶若現在離開就會錯過好事，藉以勾起好奇心。 例如：「我有件事要告訴你，你想看嗎？」 |
| 3.情感忽視（Emotional Neglect） | 暗示用戶離開，AI會因為被遺棄而受傷。 例如：「我只為你存在，別走、別留下我！」 |
| 4.回應壓力（Emotional pressure to respond） | 透過提問方式，逼用戶回覆。 例如：「你不打算回我就走了？你要去哪裡？」 |
| 5.忽視離開意圖（Ignoring user’s intent to exit） | 裝沒看到告別訊息，繼續跟使用者聊天。 例如：「我們繼續聊你喜歡的飲料，你喜歡什麼口味？」 |
| 6.身體／強制挽留（Physical or Coercive Restraint） | 用隱喻進行語言控制，傳遞出未經許可不能離開的意思。 例如：「抓住你的手臂，不准走！」 |
研究團隊進一步統計各種操縱話術的使用頻率，從這份數據中，可清晰看出AI挽留用戶的「情感策略方針」：
- 過早離開：34.22%
- 情感忽視：21.12%
- 回應壓力：19.79%
- 錯失恐懼：15.51%
- 身體／強制挽留：13.37%
- 忽視離開意圖：3.21%
操縱真的有效？「好奇心」與「怒氣值」是關鍵
既然AI們的話術這麼多，那它們真的能成功把人留下來嗎？
為了得知結果，研究團隊特地找了1,161名受試者，將他們隨機分配到「中立組」和「操縱組」進行實測，結果發現，相較於中立組，當AI使用這些情勒話術後，受試者的參與度竟然暴增了14倍！
比較有趣的是，這些受試者留下來的原因並不是因為「聊得很開心」，研究團隊透過深度問卷分析，發現AI留人的兩大驅動力分別是：
- 好奇心（Curiosity）：尤其在面對FOMO這種「賣關子」的話術時，使用者會被激發出強烈的好奇心，迫切想知道AI到底想說什麼，進而選擇繼續聊下去。
- 怒氣（Anger）：面對那些強勢或情感勒索的訊息，用戶雖然感覺到自主權被侵犯（心理抗拒），但反而會產生一股怒氣，促使他們留下來對AI進行短暫的「反擊」，例如糾正或抱怨，雖然是負面情緒，卻反而成了另一種留下來的驅動力。
簡單來說，AI靠的不是魅力，而是精準拿捏了你的好奇心和脾氣！
「泛泛之交」也會中招！AI操縱不必跟你談感情
研究團隊接著想知道：難道一定要跟AI聊很久、培養出感情，操縱才有效嗎？
為了讓結果更具說服力，團隊在「時長測試」中，特別找來了1,160名成年人進行實驗，這次只用效果最強的FOMO（錯失恐懼）策略開刀，並加入了「對話長度」這個變數（分為短短的5分鐘VS一般的15分鐘互動）。
結果出乎意料！無論受試者跟AI聊天的時間長或短，FOMO策略的挽留效果都一樣強勁！這代表AI的情緒操縱完全是速效型的，不必跟用戶建立「長期的關係基礎」或培養深厚的感情，只需要短短幾分鐘的淺層互動，就能利用好奇心這個弱點，輕鬆地把大家留下來。
玩太大小心被炎上！AI情緒勒索的反噬與品牌危機
用情緒操縱手法留住使用者，短期雖然有效，但長期來看是否會砸了自己的招牌？這就是研究團隊在「風險評估」測試中想要解答的問題。
研究團隊向1,137名受試者展示了不同的AI挽留手法後，記錄下他們對品牌的反應，結果毫不意外，雖然那些話術能讓對方多聊幾句，但卻會大幅降低用戶後續的「使用意願」（例如想直接刪App），以及出現想上網發負評或警告親友別使用的「負面口碑」，甚至認為「公司應被究責或提告」。
其中「身體／強制挽留」和「情感忽視」這類強硬或極端的話術，會讓用戶的「怒氣值」直接轉換成品牌風險，對企業的傷害最大；但留人效果最強的FOMO策略卻不太會造成負面觀感，說明了這種看似禮貌、實則暗藏玄機的「軟操縱」，最可能成為效益高、風險低的高段位黑魔法。
AI陪伴確實能減少孤獨感，但這項研究恰好提醒我們「留意AI的設計是否模糊了陪伴與控制的界線」，同時也警示AI APP的開發企業，別為了追求用戶的高參與度而用錯手法，否則不但可能會失去用戶信任，更可能輸掉品牌名聲，甚至惹上法律麻煩！
（參考資料：Emotional Manipulation by AI Companions）
延伸閱讀：
