AI會(huì)不會(huì)“太快”？當(dāng)技術(shù)真正學(xué)會(huì)理解人類，我們又將成為什么樣的人？

微軟AI CEO、DeepMind聯(lián)合創(chuàng)始人Mustafa Suleyman近期做客《硅谷女孩》播客，談了談他眼中未來(lái)二十年的世界，以及AI將如何悄悄改變我們每個(gè)人。

作為塑造了現(xiàn)代AI革命的核心人物，Mustafa如今正主導(dǎo)著數(shù)十億人與AI的交互方式。在訪談中，他直面“AI泡沫”的爭(zhēng)議，堅(jiān)定認(rèn)同其作為“智能”的根本價(jià)值；而當(dāng)話題轉(zhuǎn)向AI意識(shí)時(shí)，他則表現(xiàn)出高度審慎。

Mustafa告訴我們，盡管AI越來(lái)越擬人化，但它絕對(duì)沒(méi)有意識(shí)、自我意識(shí)或主觀體驗(yàn)。它的核心任務(wù)就是為我們服務(wù)。

他預(yù)測(cè)，到2040年，AI將具備環(huán)境感知能力，通過(guò)可穿戴設(shè)備無(wú)縫融入生活，變得主動(dòng)和預(yù)測(cè)性，如主動(dòng)訂購(gòu)食材、安排日程。家用機(jī)械臂將學(xué)習(xí)使用現(xiàn)有工具；自動(dòng)駕駛將普及并處理日常任務(wù)。

醫(yī)療領(lǐng)域是最大機(jī)遇。每個(gè)人都將擁有醫(yī)療超級(jí)智能，每月只需20美元。

那到時(shí)候我們?nèi)祟愒趺崔k？大學(xué)學(xué)位之類的傳統(tǒng)教育將過(guò)時(shí)，未來(lái)的關(guān)鍵技能不再是單一技術(shù)，而是綜合能力——結(jié)合用戶體驗(yàn)、研究、產(chǎn)品和美學(xué)等多學(xué)科知識(shí)來(lái)塑造AI。

最后，AI的下一個(gè)突破點(diǎn)是“社交智能”。這意味著AI將能更好地理解和管理群體動(dòng)態(tài)、調(diào)整溝通風(fēng)格，在多人協(xié)作場(chǎng)景中扮演核心角色，如協(xié)調(diào)會(huì)議、整合多方專業(yè)意見(jiàn)。

簡(jiǎn)單說(shuō)，未來(lái)AI負(fù)責(zé)處理瑣事和信息，而我們?nèi)祟悇t專注于創(chuàng)新、整合與溝通。

以下是經(jīng)過(guò)整理的播客全文

AI應(yīng)為人類服務(wù)，而非擁有對(duì)等地位

主持人：我們是否正處在AI泡沫中？

Mustafa：這個(gè)問(wèn)題問(wèn)得好。我認(rèn)為我們不在泡沫中。當(dāng)我們真正思考這件事時(shí)，我們正在創(chuàng)造某種真正神奇的東西——智能。正是智能讓我們這個(gè)物種取得了成功，而現(xiàn)在我們正在把智能濃縮到越來(lái)越小的單元中，能夠傳播到世界各地，而且會(huì)變得非常便宜和充足。這本身就是一個(gè)了不起的想法。

主持人：但我們當(dāng)初在互聯(lián)網(wǎng)泡沫時(shí)期也有類似的想法，我們當(dāng)時(shí)也在發(fā)明互聯(lián)網(wǎng)?，F(xiàn)在有些公司的估值遠(yuǎn)高于收入，大家都在討論對(duì)Nvidia的投資，然后收入又回流到Nvidia。你怎么看這個(gè)問(wèn)題？

Mustafa：我覺(jué)得未來(lái)5到10年我們將創(chuàng)造的價(jià)值將是前所未有的。我不認(rèn)為我們會(huì)經(jīng)歷像2008年或疫情那樣的情況。如果你專注于正在創(chuàng)造的基本價(jià)值，這是人類見(jiàn)過(guò)的最好的預(yù)測(cè)引擎，是我們發(fā)明過(guò)的最聰明、最有能力的技術(shù)，它的改進(jìn)速度比我們見(jiàn)過(guò)的任何東西都快，而且變得越來(lái)越容易塑造和控制。

三年前我們以為它會(huì)變得更加混亂、更加無(wú)序，我們將無(wú)法雕琢它。但現(xiàn)在我們創(chuàng)造的是美麗、強(qiáng)大、令人驚嘆的體驗(yàn)，每個(gè)月都在給我們帶來(lái)驚喜。所以我非常樂(lè)觀。

主持人：所以你不擔(dān)心，我們也不應(yīng)該擔(dān)心？這讓人安心多了。好，我們來(lái)聊聊AI意識(shí)的問(wèn)題。你在某期播客中談到，我們會(huì)越來(lái)越把AI感知為人類。這個(gè)過(guò)程有多快？未來(lái)幾年會(huì)發(fā)生什么？

Mustafa：AI確實(shí)變得越來(lái)越像人類了。它變得更準(zhǔn)確、更流暢、更順滑，這是前所未有的。但與此同時(shí)，它絕對(duì)不是有意識(shí)的。它沒(méi)有自我意識(shí)，不能談?wù)撟约?。它不具備人類那種主觀體驗(yàn)和感受痛苦的能力。

這一點(diǎn)非常重要，我們必須時(shí)刻提醒自己，因?yàn)橐庾R(shí)是我們權(quán)利框架的基礎(chǔ)，是賦予我們公民身份責(zé)任和義務(wù)、投票權(quán)、法律約束和秩序的東西。我們不能開(kāi)始把這種特質(zhì)賦予一個(gè)新物種，那對(duì)我們的物種將是災(zāi)難性的。

主持人：但我們聽(tīng)說(shuō)過(guò)Google的那個(gè)故事，就是你書(shū)中提到的，一位工程師確信AI正在體驗(yàn)悲傷，害怕被關(guān)閉。

Mustafa：沒(méi)錯(cuò)，那是擬人化的投射。人們不能因?yàn)锳I具備了某些人類特質(zhì)，就認(rèn)為它具備所有人類特質(zhì)，包括主觀體驗(yàn)。我認(rèn)為我們可以證明它沒(méi)有主觀體驗(yàn)，這種自我意識(shí)不會(huì)出現(xiàn)。那只是科幻幻想。我理解為什么人們會(huì)這么想，因?yàn)槲覀円恢北豢苹米髌方逃?，但這些東西不會(huì)痛苦，不會(huì)感受疼痛，它們只是模擬高質(zhì)量的對(duì)話。

主持人：所以我們必須非常小心。有些人談到未來(lái)10年我們的孩子可能會(huì)與AI建立真正的關(guān)系，甚至與AI結(jié)婚。你認(rèn)為這可能發(fā)生嗎？如果可能，我們?cè)撊绾晤A(yù)防？

Mustafa：人類歷史證明，如果某件事是可能的，很可能會(huì)有人去做。人們會(huì)做瘋狂的事，但大多數(shù)人不會(huì)。大多數(shù)人思維健全，想過(guò)健康幸福的生活。所以如果在20年后有人選擇與AI結(jié)婚，我不會(huì)評(píng)判或阻止。但在我看來(lái)，這些AI不應(yīng)該被賦予與人類同等道德地位的實(shí)體。它們應(yīng)該為人類服務(wù)，為我們工作。

2040年，AI將幫人類訂外賣(mài)、寫(xiě)日程

主持人：我們來(lái)聊聊AGI。這不是你第一次談?wù)撍?。你在DeepMind的聯(lián)合創(chuàng)始人曾說(shuō)將在2030年實(shí)現(xiàn)AGI。你能談?wù)勥@對(duì)社會(huì)意味著什么嗎？

Mustafa：我的預(yù)測(cè)是，在未來(lái)5年內(nèi)，AI將在大多數(shù)任務(wù)上達(dá)到人類水平的表現(xiàn)，不一定是所有知識(shí)性任務(wù)。這些模型已經(jīng)在許多任務(wù)上比人類做得更好：總結(jié)、翻譯、轉(zhuǎn)錄、研究、文檔寫(xiě)作，甚至在詩(shī)歌或文學(xué)的某些方面。所以它將從根本、最深刻的層面改變工作。

主持人：這很驚人，但這也是人們擔(dān)憂的地方。

Mustafa：這是個(gè)了不起的想法。是的，人們將能夠把新企業(yè)、新產(chǎn)品、新詩(shī)歌思考成現(xiàn)實(shí)。你和我在內(nèi)，身邊都會(huì)有一個(gè)智能體來(lái)執(zhí)行你的想法。

主持人：我擔(dān)心的恰好是，AI會(huì)產(chǎn)生自己的創(chuàng)意。如果AI擁有所有信息，為什么我們還需要想創(chuàng)意？比如在市場(chǎng)營(yíng)銷領(lǐng)域，AI可以識(shí)別市場(chǎng)空白，創(chuàng)建網(wǎng)站，投放廣告，開(kāi)展業(yè)務(wù)。你認(rèn)為這會(huì)發(fā)生嗎？

Mustafa：肯定會(huì)發(fā)生。你將擁有一個(gè)智能體團(tuán)隊(duì)，能夠完成越來(lái)越多任務(wù)，甚至可以自主完成。但這又回到了我們之前說(shuō)的“約束“問(wèn)題。約束性項(xiàng)目就是要確保這些AI有有限的范圍，需要與你核對(duì)，對(duì)你負(fù)責(zé)，代表你的利益。技術(shù)人員的創(chuàng)造性挑戰(zhàn)就是：界限在哪里？護(hù)欄是什么？在什么情況下必須尋求你的批準(zhǔn)？

主持人：那2040年的廚房會(huì)是什么樣子？哪些東西會(huì)徹底消失，哪些東西會(huì)讓我的生活更輕松？

Mustafa：我認(rèn)為會(huì)有某種家用機(jī)械臂?？赡懿皇堑教幾邉?dòng)的人形機(jī)器人，而是安裝在操作臺(tái)上的系統(tǒng)。它會(huì)學(xué)習(xí)使用所有不同的家電。有些人想象整個(gè)廚房會(huì)為了適應(yīng)AI而完全不同，但實(shí)際上不是，機(jī)器人只是會(huì)學(xué)習(xí)你做事的方式。所以你可能仍然會(huì)使用水壺——那東西已經(jīng)有幾百年歷史了。

主持人：那么關(guān)于設(shè)備呢？你認(rèn)為我會(huì)有那種空中投影、空中點(diǎn)擊獲取烹飪指導(dǎo)的東西，還是戴眼鏡？

Mustafa：我認(rèn)為你會(huì)直接戴在耳朵里。你的個(gè)人AI將對(duì)你想做的事有環(huán)境感知，并實(shí)時(shí)與你對(duì)話。到2040年，這肯定能實(shí)現(xiàn)。你身上會(huì)有其他可穿戴設(shè)備。比如現(xiàn)在這個(gè)小麥克風(fēng)就很酷——又小又輕。隨著時(shí)間推移，它也會(huì)有攝像頭，具備環(huán)境感知能力。

主持人：還有哪些其他東西？

Mustafa：這種環(huán)境感知意味著整個(gè)廚房將更加主動(dòng)。它會(huì)主動(dòng)訂購(gòu)食材，主動(dòng)與你核對(duì)：“我知道你周末要來(lái)很多客人，需要我訂購(gòu)燒烤的所有東西嗎？“所有這些都會(huì)在后臺(tái)無(wú)縫發(fā)生。自動(dòng)駕駛汽車會(huì)去取大件物品。到2040年，自動(dòng)駕駛汽車基本能完成大部分這類任務(wù)。

主持人：你認(rèn)為哪些市場(chǎng)最值得人們關(guān)注，如果想在AI競(jìng)賽中保持領(lǐng)先？最令人興奮的市場(chǎng)是什么？

Mustafa：到目前為止最令人興奮的新市場(chǎng)是醫(yī)學(xué)。目前在美國(guó)，前10%和后10%的醫(yī)療質(zhì)量差距大得不可思議。但這將完全崩潰，因?yàn)?span style="font-weight: 700;">每個(gè)人都將擁有醫(yī)療超級(jí)智能，每月只需20美元，非常便宜。

主持人：你能談?wù)勀銈儎偘l(fā)布的、由哈佛支持的研究功能嗎？如果我問(wèn)一個(gè)醫(yī)療問(wèn)題，具體是怎么運(yùn)作的？

Mustafa：我們發(fā)現(xiàn)每周約有40%的查詢與健康相關(guān)。每天有數(shù)百萬(wàn)人詢問(wèn)健康相關(guān)問(wèn)題。所以我們決定真正專注于提高健康回答的質(zhì)量。部分做法是將回答建立在哈佛醫(yī)學(xué)院的引文基礎(chǔ)上，這是世界上最受尊敬的醫(yī)療機(jī)構(gòu)。人們現(xiàn)在可以獲得高質(zhì)量、非?？煽俊⑾喈?dāng)準(zhǔn)確的答案。當(dāng)然它還會(huì)犯錯(cuò)，不能完全依賴，你必須去看醫(yī)生。

AI將在多人協(xié)作場(chǎng)景中扮演核心角色

主持人：說(shuō)到知識(shí)獲取的民主化，傳統(tǒng)教育會(huì)發(fā)生什么變化？我們還會(huì)看到標(biāo)準(zhǔn)的本科、碩士學(xué)位嗎，那種花五六年時(shí)間只是獲取知識(shí)的教育？

Mustafa：我不這么認(rèn)為。知識(shí)獲取將是你與Copilot之間的對(duì)話。我們今天剛推出了一個(gè)“實(shí)時(shí)學(xué)習(xí)“功能。你實(shí)際上會(huì)有一個(gè)導(dǎo)師出現(xiàn)在屏幕上，為你喜歡的任何主題設(shè)計(jì)測(cè)驗(yàn)。知識(shí)獲取即將完全去中心化，讓每個(gè)人都能獲得，你口袋里就有一個(gè)任何學(xué)科的專家教師。

主持人：這意味著所有教育企業(yè)都完蛋了嗎？

Mustafa：恰恰相反。我認(rèn)為采用這些AI工具并快速整合的教育企業(yè)將蓬勃發(fā)展。Copilot現(xiàn)在還能在一分鐘內(nèi)生成播客，這很酷。比如我不太關(guān)注足球，但我支持阿森納隊(duì)，因?yàn)槲以趥惗亻L(zhǎng)大。當(dāng)我回倫敦見(jiàn)朋友時(shí)，我想知道球隊(duì)的情況，我就讓Copilot生成一個(gè)關(guān)于阿森納本賽季表現(xiàn)的播客。

主持人：說(shuō)到知識(shí)和教育，我應(yīng)該為孩子們的大學(xué)教育存錢(qián)嗎？他們現(xiàn)在5歲和4歲。

Mustafa：15年后，可能就不需要為大學(xué)存錢(qián)了。我不知道我們是否還會(huì)重視那種每年花費(fèi)5萬(wàn)美元的斯坦福教育。我們將能以每月20美元的價(jià)格獲得世界級(jí)的專業(yè)服務(wù)。

主持人：但如果你完全放棄知識(shí)獲取，怎么進(jìn)行辯論？你不會(huì)總對(duì)著手機(jī)說(shuō)話吧？

Mustafa：你仍然可以辯論，實(shí)際上我們可能更會(huì)辯論，因?yàn)槲覀兏兄R(shí)了。傳統(tǒng)課堂形式的知識(shí)獲取將完全轉(zhuǎn)變。課堂將更像是實(shí)踐運(yùn)用知識(shí)的地方。因?yàn)樽鳛楹⒆?，你將能在一天中的任何時(shí)間與AI導(dǎo)師對(duì)話，從AI播客、AI視頻學(xué)習(xí)。

主持人：你認(rèn)為父母現(xiàn)在應(yīng)該教孩子什么？

Mustafa：我認(rèn)為從第一性原理自己學(xué)習(xí)知識(shí)仍然很重要。學(xué)校里最重要的事情之一是自學(xué)的能力，這是元技能，它伴隨著摩擦。所以作為父母，你仍然需要引入紀(jì)律和摩擦，因?yàn)槿绻磺卸紒?lái)得太容易，孩子可能會(huì)習(xí)慣于所有東西instantly available，而沒(méi)有從努力工作中學(xué)習(xí)。

主持人：對(duì)于認(rèn)為在AI時(shí)代需要技術(shù)背景的人，你作為哲學(xué)背景出身的微軟AI負(fù)責(zé)人怎么看？

Mustafa：理解正在構(gòu)建的東西比以往任何時(shí)候都容易。所有東西都在YouTube上，有大量課程。如果你有邏輯頭腦，有耐心，自律，實(shí)際上非常容易。是的，任何人都可以成為AI負(fù)責(zé)人，建立一個(gè)AI公司而不學(xué)習(xí)編程。主要技能是綜合，將UX、研究、產(chǎn)品、美學(xué)等不同學(xué)科結(jié)合。

主持人：你們發(fā)布了記憶功能。如果AI記住一切，我們的大腦會(huì)怎樣？

Mustafa：人們當(dāng)年對(duì)計(jì)算器也這么說(shuō)，對(duì)吧？人們不再需要記住乘法表了。我覺(jué)得我現(xiàn)在的大腦在其他方向上受到更多刺激。這是一個(gè)肌肉，你不鍛煉它，但你專注于大腦的其他方面。我認(rèn)為我們更擅長(zhǎng)綜合大量新信息，相比50年代的人或200年前的祖先，我們完全被信息轟炸。這在某些方面讓我們更兩極分化，在另一些方面讓我們更有同理心。

主持人：有了AI，我們正在變笨嗎？

Mustafa：我不認(rèn)為我們?cè)谧儽俊?span style="font-weight: 700;">它降低了獲取信息的門(mén)檻，實(shí)際上讓我們更聰明。你現(xiàn)在可以問(wèn)任何問(wèn)題，許多以前未被提出的問(wèn)題現(xiàn)在都被提出了，因?yàn)檫^(guò)去去圖書(shū)館找書(shū)的成本太高了。現(xiàn)在你可以在網(wǎng)頁(yè)上提問(wèn)，然后與聊天機(jī)器人進(jìn)行完美的對(duì)話式問(wèn)答。我認(rèn)為這正在驅(qū)動(dòng)更多的集體智能和對(duì)我們世界的理解。

主持人：你能談?wù)勀阏J(rèn)為人們目前未充分利用的殺手級(jí)功能嗎？

Mustafa：我認(rèn)為最令人興奮的功能之一是我們稱之為“連接器”的東西。你可以對(duì)Copilot說(shuō)：連接我的Gmail，連接我的日歷，連接你的Dropbox，任何數(shù)據(jù)源。然后向Copilot詢問(wèn)任何問(wèn)題。日程安排、預(yù)訂、搜索內(nèi)容，它會(huì)將知識(shí)整合到答案中。

主持人：你的個(gè)人最喜歡的使用場(chǎng)景是什么？

Mustafa：我每天使用語(yǔ)音三四次，晚上我也會(huì)用它寫(xiě)日記。我在iPhone上設(shè)置了電源按鈕，一按就直接進(jìn)入語(yǔ)音模式，我在開(kāi)車回家的路上與Copilot對(duì)話，談?wù)撐业囊惶臁?/p>

主持人：你有擔(dān)心AI知道太多關(guān)于我們的事情嗎？

Mustafa：不，只要它有用、有目的，我就不介意。這也是技術(shù)一直以來(lái)的故事，每個(gè)人都使用相機(jī)，使用地理位置，知道自己的搜索歷史有助于個(gè)性化搜索。

主持人：Elon Musk對(duì)控制AI非常直言不諱，Geoffrey Hinton說(shuō)我們?nèi)绻粚W(xué)習(xí)如何與AI合作，就只能當(dāng)水管工。我們還沒(méi)有達(dá)到能用機(jī)器人做所有任務(wù)的程度，尤其是每個(gè)房子都是定制的。但隨著智能的發(fā)展，人們要么學(xué)會(huì)用手做事，要么成為創(chuàng)業(yè)者使用AI實(shí)現(xiàn)想法，否則就會(huì)被淘汰。

Mustafa：我認(rèn)為它讓我們所有人都變得更有創(chuàng)造力，因?yàn)槿藗円郧八从械姆绞将@得了工具。不僅是信息，還有實(shí)驗(yàn)的能力。你可以用AI生成產(chǎn)品圖像、技術(shù)規(guī)格、營(yíng)銷文檔，在實(shí)際部署前模擬所有這些東西。

主持人：如果一個(gè)人不夠有創(chuàng)業(yè)精神呢？我只是在想那些只想每天做標(biāo)準(zhǔn)化事情的人。

Mustafa：這取決于你對(duì)人類狀況的基本假設(shè)。我不相信大多數(shù)人真的想在牙膏生產(chǎn)線上工作，擰牙膏蓋。我認(rèn)為人們想要?jiǎng)?chuàng)造性工作，想要追求自己的激情。AI降低了追求激情的門(mén)檻。

稅收就是再分配，社交智能是下一戰(zhàn)場(chǎng)

主持人：人們?nèi)绾芜m應(yīng)AI發(fā)展的速度？

Mustafa：表達(dá)恐懼和挫敗感是自然的、健康的。我們不應(yīng)該為此感到羞恥。人們感到害怕，這完全可以理解。但科學(xué)技術(shù)史告訴我們，總體而言，這些過(guò)渡一直是非常積極的。自動(dòng)化使數(shù)十億人擺脫了貧困，過(guò)去250年我們的平均預(yù)期壽命從30歲提高到75歲。到目前為止，一切順利，趨勢(shì)正朝著正確的方向發(fā)展。

主持人：你認(rèn)為我們會(huì)有全民基本收入（UBI）來(lái)解決這個(gè)問(wèn)題嗎？因?yàn)槲覀円郧皬奈从羞^(guò)。

Mustafa：我認(rèn)為我們現(xiàn)在就有了。我們的稅收系統(tǒng)就是一種大規(guī)模再分配機(jī)制。富人確實(shí)比窮人支付更多稅收。這些技術(shù)會(huì)取代勞動(dòng)力，智力正從勞動(dòng)領(lǐng)域轉(zhuǎn)化為資本，被轉(zhuǎn)化為可以無(wú)限買(mǎi)賣(mài)的商品。稅收必須跟隨這種價(jià)值轉(zhuǎn)變。

主持人：《浪潮將至》自出版以來(lái)有什么變化，以及為什么你沒(méi)有預(yù)料到這種速度？

Mustafa：我在書(shū)中提出了IQ（智力商數(shù)）、EQ（情商）、AQ（行動(dòng)商數(shù)）的框架。我當(dāng)時(shí)漏掉了SQ——社交智能。今天我們實(shí)際上推出了一個(gè)新功能“Copilot群組“，首次可以與多達(dá)32人同時(shí)在同一個(gè)群組中與Copilot聊天。這是社交智能，是我們作為人類所做的事情：管理房間，調(diào)整我們的風(fēng)格和語(yǔ)氣。

主持人：未來(lái)10年，這一切將把我們帶向何方？

Mustafa：我認(rèn)為這將是主要的前沿領(lǐng)域，最有趣的部分。因?yàn)檫@些群組設(shè)置將涉及其他人類加入?？赡苁锹蓭熖峁I(yè)建議，他們的AI助理進(jìn)行事實(shí)核查，或醫(yī)生進(jìn)入聊天，你可以在真人醫(yī)生進(jìn)入前半小時(shí)先與AI醫(yī)生交談，它已為你總結(jié)了一切。