你滑手機時，是否曾經想過：那個你信任的語音助理，可能正在默默記錄你的每一句對話？你收到一封來自老闆的郵件，語氣、用詞都一模一樣，但其實是AI偽造的？或者，更可怕的——你看著鏡中的自己，卻不確定這個「你」還是真正的你？
這不是科幻電影的情節。這是一場正在發生的、你無法忽視的風暴。而那位敢於冒著聲譽風險、站出來大聲疾呼的人，正是AI領域最具爭議的權威之一——Gary Marcus。他在《The Diary Of A CEO》節目中，用長達兩小時的深度對話，撕開了AI產業光鮮亮麗的假象。他說了一句話，讓我至今脊背發涼：「沒有人準備好迎接即將到來的一切，而AI公司自己比任何人都清楚這一點。」
這篇文章，不是要嚇你。而是要讓你——無論你是創業者、行銷人、還是單純關心未來的人——在風暴來臨之前，找到你的立足點。因為，當所有人都以為AI只是個「更好的工具」時，真正的危機才正要浮現。準備好了嗎？讓我們一起拆解這份來自內部的警訊。
1. 真相一：AI公司比你更害怕，但他們選擇不告訴你
你以為那些科技巨頭——Google、Meta、OpenAI——對AI的未來充滿信心嗎？錯了。Gary Marcus在訪談中直接點破：他們心裡比誰都毛，但他們絕不會公開承認。
為什麼？因為他們已經把幾百億美元的籌碼全押在AI這張桌上。一旦承認「我們也不知道這東西會怎麼失控」，股價會瞬間崩盤，投資人會集體跳船。所以，他們選擇了一種更狡猾的策略：營造一種「一切都在掌控之中」的幻覺。
Marcus引用了一個經典案例：2016年，微軟推出了一個名為Tay的聊天機器人。結果呢？24小時內，Tay就被網友「教壞」了，開始發表種族歧視、性別歧視的言論。微軟當時的反應是什麼？他們選擇關閉Tay，然後低調處理，絕口不提這個失敗背後的系統性風險。這件事告訴我們：AI公司對失控的恐懼，遠比他們公開承認的還要深。
但問題是，Tay只是個小玩具。如果失控的是更強大的系統——比如說，一個能控制電網、金融市場、甚至軍事系統的AI——後果會是什麼？Marcus的答案是：「我們根本無法預測，而這正是最可怕的地方。」
對創業者來說，這代表什麼？首先，別輕易相信那些AI公司畫的「安全大餅」。他們說「我們有完善的安全措施」，但實際上，這些措施往往只是為了安撫監管機構和公眾情緒的公關話術。其次，這是一個巨大的商機。當所有人都忙著追逐AI的「能力」時，誰能解決AI的「安全」與「可控性」問題，誰就能在下一波浪潮中脫穎而出。想想看：如果有一家新創公司能提供一套可驗證的AI安全框架，讓企業敢於放心部署AI，這會是多大的市場？
2. 真相二：「通用人工智慧」只是個行銷話術，而我們正被它誤導
你可能聽過「AGI（通用人工智慧）」這個詞——那個傳說中能像人類一樣思考、學習、適應任何任務的AI。科技巨頭們不斷暗示：「我們快到了，再給我們幾年時間。」但Gary Marcus直接戳破這個泡泡：「AGI 只是一個行銷口號，它根本不存在，而且短期內不可能實現。」
Marcus的論點很簡單：目前的AI，無論是GPT-4還是Gemini，本質上都只是「超級模式匹配機器」。它們擅長的是從海量數據中找出模式，然後生成看起來合理的回應。但它們缺乏真正的理解力、常識、以及因果推理能力。舉個例子：你可以問AI「如果把一個球丟進水裡會怎樣？」它可能會回答「球會浮起來」，因為它在訓練數據中看過這個模式。但如果你問它「如果把一個鉛球丟進水裡呢？」它可能還是會回答「球會浮起來」，因為它沒有真正理解「密度」和「浮力」的物理原理。
這不是小事。當我們把AI當作「通用智能」來信任時，我們會犯下致命的錯誤。Marcus在訪談中提到一個真實案例：一家醫院使用AI來輔助診斷，結果AI把一名患有罕見疾病的患者誤診為常見的感冒，因為它在訓練數據中看到的感冒案例遠多於罕見疾病。AI不是壞，它是笨，而它的笨會害死人。
這對創業者來說，是一個關鍵的認知翻轉：不要追求「通用」的AI，而是專注於「特定領域」的AI。與其打造一個什麼都懂但什麼都做不好的「萬能AI」，不如開發一個在醫療影像診斷、法律文件審查、或供應鏈預測等單一領域中，能做到99.9%準確率的「專用AI」。Marcus認為，真正的商業價值，來自於解決真實世界的具體問題，而不是追逐一個虛幻的通用目標。
3. 真相三：深度偽造的威脅，比你想像的還要大一百倍
你可能覺得「深度偽造（Deepfake）」只是個網紅用來換臉的玩具，或是政治人物用來抹黑對手的工具。但Gary Marcus提出了一個更令人不安的觀點：深度偽造正在從「娛樂工具」演變為「社會信任的終結者」。
他分享了一個令人毛骨悚然的預測：很快，你將無法信任任何一段影片、任何一段語音、甚至任何一張照片。想像一下這個場景：你接到一通來自「母親」的電話，她的聲音、語氣、甚至她習慣性的咳嗽聲都一模一樣，但電話那頭其實是AI生成的。她說：「我出了車禍，急需一筆錢，快轉到這個帳戶。」你會懷疑嗎？大部分人的答案是：不會。
Marcus指出，深度偽造技術的門檻正在急遽降低。十年前，你需要一個專業的電影特效團隊才能做出幾秒鐘的假影片；現在，你只需要一台普通電腦和一個開源軟體，就能在幾分鐘內生成一段以假亂真的影片。更可怕的是，這些偽造內容的品質提升速度，遠超過檢測技術的發展速度。換句話說，我們正在打一場註定會輸的仗。
對創業者來說，這既是威脅也是機會。威脅在於：如果你的品牌形象被深度偽造內容攻擊——比如說，一段假的CEO醜聞影片在網上瘋傳——你可能在幾小時內就損失數百萬美元的市值。機會在於：「信任驗證」將成為一個超級賽道。誰能開發出真正可靠、低成本、易於使用的內容真實性驗證工具，誰就能成為這個新時代的「信任守門人」。想想區塊鏈技術在金融領域的角色，類似的機會正在內容真實性領域等著你。
4. 真相四：AI的「黑盒子」問題，正在讓企業暴露在巨大風險中
你公司的AI模型是怎麼做出決策的？你知道嗎？如果你回答「不知道」，那你並不孤單。Gary Marcus指出，目前大多數AI模型都是「黑盒子」——我們能輸入數據、得到輸出，但中間的推理過程完全不可見、不可解釋。
這在商業場景中會造成災難性的後果。假設你的AI招聘工具拒絕了某位候選人，你完全不知道它是因為「學歷不符」還是「種族歧視」——後者會讓你吃上歧視官司。或者，你的AI貸款審批系統拒絕了某個申請，你無法解釋原因，監管機構可能會直接罰到你破產。
Marcus用了一個生動的比喻：「你願意搭乘一架由AI駕駛、但機長完全不知道它為什麼會轉彎的飛機嗎？」答案顯而易見。但現實是，我們正在把越來越多的關鍵決策——從醫療診斷到刑事判決——交給這些「黑盒子」AI，而我們對它們的內部運作一無所知。
對創業者來說，這意味著：「可解釋AI（Explainable AI）」不是一個選項，而是一個必需品。如果你正在開發AI產品，請務必將「可解釋性」作為核心功能來設計，而不是一個事後才想到的附加功能。那些能讓用戶理解「為什麼AI會這樣做」的產品，將在市場上獲得巨大的信任優勢。此外，法規合規性也將成為一個重要的競爭門檻。歐盟的AI法案已經要求高風險AI系統必須具備可解釋性，未來其他國家也會跟進。誰能提前布局，誰就能在合規成本上佔據先機。
5. 真相五：你的數據，正在被AI公司「免費收割」
你以為那些免費的AI工具——比如ChatGPT、Bard——真的是「免費」的嗎？Gary Marcus提醒我們：當產品免費時，你才是產品。 你的每一次提問、每一次對話、每一次修正，都在幫助這些公司訓練他們的模型，而他們用這些數據賺取數十億美元的利潤。
但問題遠比「數據被收集」更嚴重。Marcus揭露了一個更令人不安的事實：這些AI公司正在利用你的數據來優化他們的模型，但他們同時也在利用這些模型來操縱你的行為。 舉例來說，如果你經常在聊天機器人中詢問某個品牌的產品，AI可能會在後續對話中「不經意地」推薦該品牌的競爭對手——因為他們的廣告客戶付了錢。
更可怕的是，這種操縱是極其隱蔽的。它不像傳統廣告那樣，你一眼就能認出「這是廣告」。AI的建議看起來像是「客觀的」、像是「朋友般的」建議，讓你完全放下戒心。Marcus警告說：「這是最危險的操縱形式，因為你甚至不知道自己在被操縱。」
對創業者來說，這是一個雙面刃。一方面，你的客戶數據正在被科技巨頭免費掠奪，而你卻無法從中獲利。另一方面，「數據主權」將成為一個重要的商業模式。你能提供一個讓用戶完全掌控自己數據的AI服務嗎？你能讓用戶知道他們的數據被用在哪裡、如何被使用嗎？那些能將「數據透明」作為核心價值的公司，將贏得那些對科技巨頭感到厭倦的用戶的忠誠。這就像有機食品之於傳統食品——人們願意為「乾淨的數據」支付溢價。
6. 真相六：AI的「幻覺」問題，正在毀掉你的品牌信譽
你曾經用過AI來生成行銷文案或客戶服務回應嗎？如果你用過，你可能已經遇過這個問題：AI會「幻覺」——它會生成聽起來完全合理、但實際上完全是虛構的內容。
Gary Marcus用一個經典案例來說明這個問題的嚴重性：2023年，一名律師使用ChatGPT來準備法庭文件，結果AI「幻覺」出了一堆根本不存在的判例。律師沒有查證就直接提交給了法院，結果被法官當場抓包，面臨職業生涯的毀滅性打擊。Marcus評論說：「AI的幻覺不是一個小bug，而是一個系統性的、根本性的缺陷。」
為什麼AI會產生幻覺？因為它本質上是一個「文字預測機器」。它不是在「思考」答案，而是在「猜測」下一個最有可能出現的單詞。當它缺乏相關訓練數據時，它就會「瞎掰」——而且掰得頭頭是道，讓你完全看不出破綻。
對創業者來說，品牌信譽是你能擁有的最寶貴的資產，而AI幻覺正在系統性地侵蝕它。想像一下：你的AI客服給了客戶一個完全錯誤的產品使用方法，導致客戶受傷，你會被起訴。或者，你的AI行銷工具生成了一篇充滿虛假信息的文章，被競爭對手抓包，你的品牌名聲瞬間掃地。
解決方案是什麼？Marcus建議：永遠不要讓AI在沒有「人類監督」的情況下直接面對客戶。 你可以用AI來生成草稿、提供建議、或加速工作流程，但最終的輸出必須經過人類的審核和驗證。此外，建立一套「幻覺檢測」的內部流程——比如說，讓AI自動標記那些「不確定」的回答，並將其轉給真人處理。這不是一個完美的解決方案，但至少能大幅降低風險。
7. 真相七：AI的「偏見」問題，比你想像的更難解決
你可能已經聽說過AI的偏見問題——比如說，AI招聘工具歧視女性，或AI人臉識別系統對有色人種的準確率較低。但Gary Marcus指出，這些偏見不是「意外」，而是AI系統的「內建功能」。
為什麼？因為AI模型是從人類歷史數據中學習的，而人類歷史充滿了偏見。當一個AI模型被訓練在數十億條網絡文本上時，它會自然而然地吸收這些文本中的性別刻板印象、種族偏見、以及各種社會偏見。更糟糕的是，AI會把這些偏見放大。因為它不像人類那樣有「反思」能力，它只會忠實地複製它所看到的模式。
Marcus分享了一個令人不安的實驗：研究人員讓一個AI模型生成「一名成功的CEO」的圖像，結果AI幾乎總是生成白人男性。當研究人員問AI「為什麼」時，AI回答：「因為歷史數據顯示，大多數成功的CEO都是白人男性。」——這聽起來像是在「陳述事實」，但實際上是在「強化偏見」。
對創業者來說，忽視AI偏見的風險，就像是在你的產品中埋了一顆定時炸彈。一旦你的AI產品被發現帶有偏見，你可能會面臨公關災難、客戶流失、甚至法律訴訟。解決方案是：在訓練數據中刻意加入多樣性。如果你的AI是用來招聘的，請確保訓練數據中包含各種性別、種族、背景的候選人。此外，建立一個「偏見審計」的流程——定期檢查你的AI輸出是否存在系統性的偏見，並及時修正。這不是一勞永逸的工作，而是一個持續的過程。
8. 真相八：AI的「能源消耗」問題，將成為下一個ESG危機
你可能覺得AI是「乾淨的」、「未來的」，但Gary Marcus揭露了一個令人震驚的事實：訓練一個大型AI模型所需的能源，相當於一個小型國家一整年的用電量。
他引用了一份研究報告：訓練GPT-3所需的能源，大約等於120個美國家庭一整年的用電量。而更先進的模型，比如GPT-4或Google的Gemini，所需的能源可能還要高出數倍。這些能源大部分來自化石燃料，而這些碳排放正在加速氣候變遷。
更諷刺的是，AI公司一邊在宣揚自己的「永續發展」目標，一邊在大量消耗能源。Google在2023年宣布，他們將在2030年實現「零碳排放」，但同時他們的AI訓練集群的能源消耗在過去兩年內增長了超過300%。Marcus評論說：「這不是永續發展，這是綠色洗白。」
對創業者來說，「綠色AI」將成為一個重要的市場區隔。你能開發出更節能的AI模型嗎？你能使用更高效的硬體來減少能源消耗嗎？你能讓你的AI服務完全使用再生能源嗎？那些能將「低能耗」作為核心賣點的AI公司，將在ESG（環境、社會、治理）評分上獲得巨大優勢，吸引那些越來越重視環保的客戶和投資人。此外，能源成本也將成為一個競爭優勢。誰能用更少的能源做更多的事，誰就能在價格戰中脫穎而出。
9. 真相九：AI的「監管真空」正在被填補，而你還沒有準備好
你可能覺得「AI監管」是政府的事，離你很遠。但Gary Marcus警告說：監管風暴即將來臨，而且它會像海嘯一樣席捲整個產業。
歐盟的AI法案已經在2024年生效，它將AI系統分為「不可接受風險」、「高風險」、「有限風險」和「極小風險」四個等級。高風險AI系統——比如用於招聘、信用評分、醫療診斷的AI——將面臨嚴格的審查、透明度要求、以及人類監督義務。違規者可能面臨高達全球營業額7%的罰款。
Marcus指出，大多數AI新創公司完全沒有為這些法規做好準備。他們忙著開發功能、爭取用戶、籌集資金，卻忽略了法規合規性這個「隱形殺手」。一旦監管機構開始執法，這些公司可能會在一夜之間被迫關閉，因為他們無法證明自己的AI系統是「安全」和「公平」的。
對創業者來說，法規合規性不應該是一個「成本」，而應該是一個「競爭優勢」。那些能提前布局、主動符合監管要求的公司，將獲得市場的信任，並在競爭中佔據先機。具體做法包括：聘請法規專家、建立內部審計機制、以及從設計階段就將「合規」納入產品開發流程。這就像金融科技公司必須遵守KYC（了解你的客戶）法規一樣——雖然麻煩，但這是進入市場的必要條件。
10. 真相十：最令人不安的事實——我們可能已經「錯過了轉折點」
在訪談的最後，Gary Marcus說了一句讓我徹夜難眠的話：「我們可能已經錯過了能夠安全控制AI的轉折點。」
他的理由是：AI的發展速度遠超過我們建立安全機制的速度。 每一代新模型都比上一代更強大、更難以預測、更難以控制。而我們的安全措施——比如內容過濾器、行為限制、人類監督——卻始終落後一步。Marcus用了一個比喻：「這就像是在建造一座水壩，但水位上升的速度比水壩建造的速度還快。總有一天，水會漫過水壩，而我們根本不知道那一天什麼時候會到來。」
他特別點出了一個令人不安的趨勢：AI公司正在競相開發「通用型」AI，但他們對「通用型」的定義越來越寬鬆。今天，一個AI能寫詩、能畫畫、能寫程式，就被稱為「通用」。但Marcus認為，真正的通用AI應該能理解物理世界、能進行因果推理、能擁有真正的常識——而這些，目前的AI都做不到。問題是，當我們把這些「偽通用」AI部署到現實世界中時，它們的「笨」會造成無法預測的連鎖反應。
對創業者來說，這不是要你放棄AI，而是要你以更謙卑、更謹慎的態度來對待AI。不要被科技巨頭的行銷話術沖昏頭腦，也不要急著將AI部署到關鍵業務中。相反地，你可以專注於那些「低風險、高回報」的AI應用——比如說，用AI來優化內部流程、加速數據分析、或生成創意草稿。同時，建立一個「安全第一」的企業文化——讓你的團隊養成質疑AI輸出的習慣，並始終為「AI出錯」的情況做好備份計劃。
核心觀點匯整
| 要點 | 核心問題 | 對創業者的啟示 |
|---|---|---|
| AI公司的真實恐懼 | 他們知道風險但不敢公開承認 | 不要輕信安全保證，專注於AI安全領域的商機 |
| AGI的行銷話術 | 通用AI只是個虛幻目標 | 專注於特定領域的專用AI，解決真實問題 |
| 深度偽造的威脅 | 社會信任正在被系統性侵蝕 | 開發內容真實性驗證工具，成為「信任守門人」 |
| 黑盒子問題 | AI決策過程不可解釋 | 將可解釋性作為核心功能，贏得信任優勢 |
| 數據收割 | 你的數據正在被免費掠奪 | 提供「數據主權」服務，吸引厭倦巨頭的用戶 |
| 幻覺問題 | AI會系統性地虛構資訊 | 永遠保持人類監督，建立幻覺檢測流程 |
| 偏見問題 | AI會放大歷史偏見 | 在訓練數據中刻意加入多樣性，定期進行偏見審計 |
| 能源消耗 | AI訓練耗能堪比小型國家 | 開發綠色AI，將低能耗作為競爭優勢 |
| 監管風暴 | 法規合規將成為生存門檻 | 提前布局法規合規，將其轉化為競爭優勢 |
| 錯過的轉折點 | 我們可能已無法安全控制AI | 以謙卑態度對待AI，建立安全第一的企業文化 |
總結：在風暴中，你不是只能等待被淹沒
Gary Marcus的警告聽起來令人絕望，但請記住：絕望不是選項，行動才是。
當所有人都被AI的「魔法」迷得神魂顛倒時，那些願意正視風險、並主動尋找解決方案的人，反而能獲得最大的回報。想想看：在2000年的網路泡沫中，那些盲目追逐「.com」的公司大多消失了，但那些解決了真實問題的公司——比如亞馬遜、Google——卻成了今天的巨頭。同樣的道理，在AI的狂潮中，那些能解決AI風險的人，將成為下一波浪潮的真正贏家。
所以，我留給你一個問題，一個值得你徹夜思考的問題：
當所有人都在問「AI能做什麼」時，你是否願意成為那個問「AI不該做什麼」的人？
答案，將決定你的未來。