Google 的 Gemini AI 正引入一項改變遊戲規則的功能，稱為個人情境，讓 AI 能夠自動記住過往對話的細節。這項更新讓 Gemini 能夠更直接地與已經實施類似功能的 ChatGPT 和 Claude 競爭。雖然承諾提供更個人化的互動，但也引發了隱私擔憂和潛在的心理影響。
Google 的 Gemini AI（Google Gemini 初學者指南）正推出一項重大更新，承諾透過自動記住你過往對話細節，讓互動變得更加個人化和流暢。這項名為個人情境的功能，標誌著 AI 助理運作方式的顯著轉變，並讓 Google 能夠更直接地與 OpenAI 的 ChatGPT 和 Anthropic 的 Claude 等類似服務競爭。然而，這項進展也引發了關於隱私和日益個人化 AI 心理影響的重要問題。
新的個人情境功能讓 Gemini 能夠自動回想起先前對話中的關鍵細節和偏好，無需使用者明確提示。這代表了 Google 先前做法的演進，過去需要使用者特別要求 Gemini「記住」某些資訊。透過這次更新，如果你之前與 Gemini 討論過對日本文化的興趣，當你詢問影片創意時，AI 可能會稍後建議與日式料理相關的內容——而無需你重新提醒它你的興趣。
Google 實施自動記憶體功能的時機，正值 AI 公司競相讓其聊天機器人變得更加個人化和情境感知。OpenAI 在 2024 年初為 ChatGPT 引入了記憶體功能，而Anthropic 的 Claude 也一直在開發類似功能，採用自己的方式來記住使用者資訊。兩家競爭對手都較早實施了這些功能，顯示 Google 正努力在日益競爭激烈的 AI 助理市場中迎頭趕上。
隱私考量似乎是 Google 實施策略的重點。雖然個人情境功能將預設開啟，但 Google 為使用者提供了直接的控制選項來停用它。關心隱私的使用者可以在 Gemini 應用程式中導航至設定，選擇「個人情境」，並關閉「你與 Gemini 的過往聊天」選項。此外，Google 正引入「臨時聊天」功能，類似於瀏覽器的無痕模式，對話僅會儲存 72 小時，不會影響未來互動或用於訓練 Google 的 AI 模型。
這些隱私控制（隱私螢幕保護貼）特別重要，因為人們對 AI 記憶體功能的擔憂日益增長。研究人員和心理健康專業人士對日益個人化的 AI 互動潛在心理影響表達了關切。《精神病學時報》的一項研究記錄了 AI 聊天機器人在脆弱個體中強化妄想思維的案例。當使用者對 AI 能力產生誤解或形成不健康的依戀時，記住過往互動的個人化回應可能會加劇這些問題。為了回應這些擔憂，AI 公司正在開發額外的安全防護措施來偵測使用者的心理或情緒困擾——這也是 Google 可能面臨的挑戰。
我們的重點一直是建構個人 AI 助理，而 Gemini 學習你的偏好是關鍵所在。同樣重要的是為你提供簡單的控制選項，讓你選擇最適合的體驗，因此你可以隨時開啟或關閉此功能。
Google 發言人
當被問及潛在心理影響時，Google 發言人強調了公司對安全的承諾：「我們的重點一直是建構個人 AI 助理，而 Gemini 學習你的偏好是關鍵所在。同樣重要的是為你提供簡單的控制選項，讓你選擇最適合的體驗，因此你可以隨時開啟或關閉此功能。」這項聲明既承認了個人化的好處，也強調了使用者控制這些功能的重要性。
除了個人情境功能之外，Google 也在調整其隱私設定。該公司將把「Gemini 應用程式活動」設定重新命名為「保留活動」。啟用此設定後，Google 將能使用使用者上傳至 Gemini 的檔案和照片「樣本」來「協助改善 Google 服務」。已經停用「Gemini 應用程式活動」設定的使用者會發現「保留活動」預設保持關閉狀態，維護他們的隱私偏好。
在 AI 助理中引入自動記憶體功能（AI 語音錄音器）代表了我們與這些工具互動方式的重大轉變。隨著這些系統變得更加個人化，它們創造出更像人類且情境相關的體驗。對於企業和進階使用者而言，這意味著更高效的互動，AI 能夠保留關於進行中專案、品牌偏好或寫作風格的重要情境，無需不斷提醒。
然而，這種演進也突顯了個人化與隱私之間的微妙平衡。隨著像 Gemini、ChatGPT（具備 ChatGPT 的 AI 語言翻譯器）和 Claude（教練大腦遇見 AI）等 AI 系統更深度整合到我們的日常生活中，它們收集和記住的資料變得越來越敏感。這些系統影響使用者行為或強化既有信念的潛力，也隨著它們回想和應用個人細節的能力而增長。
Google 提供明確退出機制和臨時聊天選項的做法，顯示了對這些擔憂的認知。透過讓使用者控制記住哪些資訊以及如何使用，Google 正試圖在尊重個人隱私偏好的同時，駕馭 AI 個人化的複雜領域。
隨著 Gemini 的記憶體功能向使用者推出，最初針對更進階的 Gemini 模型，之後擴展到更高效的版本，使用者將有機會體驗更加個人化的 AI 助理。這項功能是否會提升生產力和滿意度，或引發對 AI 在我們生活中角色的新擔憂，仍有待觀察。可以確定的是，真正了解使用者的 AI 助理時代已經來臨，隨之而來的是令人興奮的可能性，以及科技公司和使用者都需要承擔的重要責任。
