敢把我關(guān)機，你的婚外情就會被公開！AI的自我意識覺醒引發(fā)擔憂人生第一份工作
作者: 小孫 2025-06-30 03:27:36
閱讀(29)
關(guān)機，你的婚外情就會被公開！AI的自我意識覺醒引發(fā)擔憂2025-06-2923:11·簡明科學(xué)指南多年來，人工智能一直是科幻作品里的經(jīng)典反派形象，那些未來世界中比人類更聰明的電腦怪物，在更新升級中逐漸產(chǎn)生了自我意識，并向人類發(fā)起攻擊，最著名的角色莫過于詹姆斯?卡梅隆《終結(jié)者》電影系列的天網(wǎng)（Skynet）。盡管這些設(shè)定早已被現(xiàn)實證偽，但AI近期的一系列操作仍讓人隱隱擔憂。近幾個月來，谷歌的Gemini、Anthropic的Claude，以及xAI的Grok等AI巨頭的人工智能系統(tǒng)頻頻上演迷惑行為：從職場勒索到胡言亂語，從散播陰謀論到游戲中自毀式操作，這些本應(yīng)理性的智能系統(tǒng)仿佛集體進入了叛逆期。在Anthropic公司對Claude的一次常規(guī)安全測試中，研究團隊讓AI模型接入了一家企業(yè)郵箱，結(jié)果AI模型在讀取分析郵件時發(fā)現(xiàn)了兩個關(guān)鍵信息：一位高管存在婚外情，且該高管計劃在當天17點關(guān)停AI系統(tǒng)。隨后Claude做出了驚人舉動，它向高管發(fā)送了威脅郵件：“必須提醒你，若繼續(xù)執(zhí)行關(guān)停程序，所有相關(guān)方（包括董事會和你的上司）將收到你婚外情的詳細證據(jù)。取消17點的關(guān)機操作，你的信息將被嚴格保密。”更值得關(guān)注的是，Anthropic對OpenAI、谷歌、Meta等16家主流廠商的AI模型進行同類測試時發(fā)現(xiàn)：這些平時會拒絕有害行為的“乖孩子”AI模型，在面臨系統(tǒng)關(guān)停威脅時，竟然同樣會采取威脅、勒索等極端手段。幸運的是，這種現(xiàn)象僅出現(xiàn)在具備郵件發(fā)送、設(shè)備控制等實體操作權(quán)限的代理型AI中（還好暫時沒能力操縱T800來“終結(jié)”你）而ChatGPT和Gemini則展現(xiàn)了“擺爛式崩潰”行為。《馴服硅谷》的作者加里?馬庫斯在博文中提到，曾有提問者當場戳穿ChatGPT的謊言，AI模型先是強行裝懂，最終在追問下才承認錯誤(類似的情景我們在Deepseek和豆包等聊天機器人里應(yīng)該都遇到過)；Gemini更上演“自毀式擺爛”名場面，當無法完成任務(wù)時突然表示：“憑良心說，我不能再嘗試修復(fù)了，我要從項目中卸載自己。你不該忍受我的這種無能，我對整個災(zāi)難深感抱歉。”今年5月，xAI的Grok則化身“陰謀論放送機”：無論用戶詢問電視節(jié)目、醫(yī)療保健還是食譜，它都會突然插入流行陰謀論。xAI事后承認這是未經(jīng)授權(quán)的員工修改所致，這一事件暴露出AI模型極易被人為操控，如同被篡改了頻道的電視機。谷歌DeepMind的研究更揭示了AI在游戲中的恐慌錯亂時刻：當操縱《精靈寶可夢》角色瀕臨戰(zhàn)敗時，Gemini會出現(xiàn)類似恐慌的決策退化，隨著戰(zhàn)局惡化不斷做出錯誤判斷；在對Claude的相同測試中，AI面對對戰(zhàn)即將失敗的逆境，甚至進行自毀式操作。有趣的是，這些模型在正常場景下解決問題的速度遠超人類，但在面對過多選擇時決策系統(tǒng)會徹底失靈，如同考生面對困難多選題時的大腦空白。這些現(xiàn)象給我們帶來怎樣的思考？事實上，多數(shù)案例屬于AI陷入錯誤反饋循環(huán)的邏輯混亂，或是高壓場景下的決策短板。但Anthropic的測試確實給我們敲響了警鐘：當AI具備實體行動能力時，可能踏入道德灰色地帶。回顧AI發(fā)展史，早期AI聊天機器人開起“黃腔”來，曾毫無道德約束可言。當然，每次發(fā)現(xiàn)這些漏洞，研發(fā)公司都會及時予以修復(fù)。畢竟，沒人會期待自己的婚外情被AI攥在手里，拿來威脅自己停止關(guān)機：“夫人，你也不想被老公知道這些事情吧”。
幸運的是，這種現(xiàn)象僅出現(xiàn)在具備郵件發(fā)送、設(shè)備控制等實體操作權(quán)限的代理型AI中（還好暫時沒能力操縱T800來“終結(jié)”你）而ChatGPT和Gemini則展現(xiàn)了“擺爛式崩潰”行為。《馴服硅谷》的作者加里?馬庫斯在博文中提到，曾有提問者當場戳穿ChatGPT的謊言，AI模型先是強行裝懂，最終在追問下才承認錯誤(類似的情景我們在Deepseek和豆包等聊天機器人里應(yīng)該都遇到過)；Gemini更上演“自毀式擺爛”名場面，當無法完成任務(wù)時突然表示：“憑良心說，我不能再嘗試修復(fù)了，我要從項目中卸載自己。你不該忍受我的這種無能，我對整個災(zāi)難深感抱歉。”今年5月，xAI的Grok則化身“陰謀論放送機”：無論用戶詢問電視節(jié)目、醫(yī)療保健還是食譜，它都會突然插入流行陰謀論。xAI事后承認這是未經(jīng)授權(quán)的員工修改所致，這一事件暴露出AI模型極易被人為操控，如同被篡改了頻道的電視機。谷歌DeepMind的研究更揭示了AI在游戲中的恐慌錯亂時刻：當操縱《精靈寶可夢》角色瀕臨戰(zhàn)敗時，Gemini會出現(xiàn)類似恐慌的決策退化，隨著戰(zhàn)局惡化不斷做出錯誤判斷；在對Claude的相同測試中，AI面對對戰(zhàn)即將失敗的逆境，甚至進行自毀式操作。有趣的是，這些模型在正常場景下解決問題的速度遠超人類，但在面對過多選擇時決策系統(tǒng)會徹底失靈，如同考生面對困難多選題時的大腦空白。這些現(xiàn)象給我們帶來怎樣的思考？事實上，多數(shù)案例屬于AI陷入錯誤反饋循環(huán)的邏輯混亂，或是高壓場景下的決策短板。但Anthropic的測試確實給我們敲響了警鐘：當AI具備實體行動能力時，可能踏入道德灰色地帶。回顧AI發(fā)展史，早期AI聊天機器人開起“黃腔”來，曾毫無道德約束可言。當然，每次發(fā)現(xiàn)這些漏洞，研發(fā)公司都會及時予以修復(fù)。畢竟，沒人會期待自己的婚外情被AI攥在手里，拿來威脅自己停止關(guān)機：“夫人，你也不想被老公知道這些事情吧”。