早在2014年徐可第一次創(chuàng)業(yè)時(shí)，她已經(jīng)通過(guò)查看Openai代碼庫(kù)的方式，深刻地了解了這家公司，所以對(duì)于ChatGPT，徐可有著獨(dú)到的見(jiàn)解。徐可認(rèn)為：“ChatGPT火爆背后是認(rèn)知智能技術(shù)的一次飛躍，或?qū)⒊蔀槿斯ぶ悄苄袠I(yè)發(fā)展的里程碑和分水嶺。且ChatGPT有更多的商業(yè)價(jià)值和大行業(yè)前景，因?yàn)樗軌蛱峁└喙ぷ鲘徫缓蜕虡I(yè)機(jī)會(huì)，例如輸入文本生成圖像、根據(jù)需求迅速寫(xiě)出代碼、創(chuàng)造更成熟的文案等。”

Openai 代碼庫(kù)曾號(hào)稱(chēng)永久開(kāi)源，并且不會(huì)用于商業(yè)盈利。現(xiàn)在看來(lái)，Openai違背了他們的初心——核心代碼庫(kù)早在 2016年就停止了開(kāi)源。且Elon Musk也曾是Openai的聯(lián)合創(chuàng)始人之一，但其與Openai管理層理念不合，在2019年退出了Openai公司，并在接管推特后終止了ChatGPT 和推特的學(xué)習(xí)連接。

雖然ChatGPT具備強(qiáng)大的學(xué)習(xí)能力，但由于其核心代碼目的不明確，這不禁會(huì)讓人聯(lián)想到霍金曾提到過(guò)的奇點(diǎn)降臨，“一旦人工智能跨過(guò)了與人類(lèi)智慧相同的“奇點(diǎn)”（ Singular Point ），我們可能會(huì)面臨“智慧爆炸”（intelligence explosion），屆時(shí)，人工智能在智慧上超越人類(lèi)。這對(duì)人類(lèi)產(chǎn)生的影響，要么就是最好的，要么就是最糟糕的。它既可能讓人類(lèi)永生，也可能讓人類(lèi)毀滅”。

徐可認(rèn)為：“ChatGPT在受到熱議的同時(shí)，也遭到一些質(zhì)疑，比如Eloquent、能言善辯、夸夸其談等。正是因?yàn)檫@些特性，當(dāng)奇點(diǎn)降臨時(shí)，AI可能不會(huì)第一時(shí)間通過(guò)戰(zhàn)爭(zhēng)的形式打擊人類(lèi)，而是在社交媒體散布虛假、恐怖信息等方式引起人類(lèi)的恐慌和社會(huì)秩序的混亂。”

正因如此，徐可補(bǔ)充說(shuō)：“AI的治理迫在眉睫，且我們需要重點(diǎn)關(guān)注兩個(gè)方面：

第一，控制AI的自我編譯能力。一旦奇點(diǎn)降臨，AI掌握了自我編譯能力，就意味著AI將突破人類(lèi)對(duì)其的限制，這會(huì)導(dǎo)致計(jì)算機(jī)軟硬件可以自動(dòng)演進(jìn)、爆發(fā)式成長(zhǎng)等，屆時(shí)，AI將徹底失控。

第二，篩選AI學(xué)習(xí)的信息源。如果AI學(xué)習(xí)的信息源過(guò)于反人類(lèi)，這會(huì)導(dǎo)致社交媒體上有過(guò)多的反人類(lèi)信息被傳播，會(huì)對(duì)認(rèn)知較低的人群產(chǎn)生毀滅性的危害。如果再被利用到人類(lèi)的派系斗爭(zhēng)中，AI極有可能被培養(yǎng)成戰(zhàn)爭(zhēng)機(jī)器。”

嘉賓提問(wèn)：未來(lái)如何區(qū)分人類(lèi)和AI？

徐可認(rèn)為：“或許可以通過(guò)與去中心化社交結(jié)合的方式來(lái)解決。就熱門(mén)的Nostr協(xié)議來(lái)說(shuō)，由于使用的是公私鑰體系、Client和Relay完成社交的去中心化，如果添加一個(gè)去中心化錢(qián)包，即可區(qū)分出人類(lèi)與AI的區(qū)別。因?yàn)锳I只能擁有公私鑰，且無(wú)法持有有價(jià)值的Token，這一方法可以在一定范圍內(nèi)避免AI的危言聳聽(tīng)，同時(shí)也可以參考這個(gè)思路，創(chuàng)造出更多的AI治理模式。”

覺(jué)得文章有用就打賞一下文章作者

非常感謝你的打賞，我們將繼續(xù)提供更多優(yōu)質(zhì)內(nèi)容，讓我們一起創(chuàng)建更加美好的網(wǎng)絡(luò)世界！

微信掃一掃打賞

