内参

“全面人工智能的發展可能會預示著人類的終結…… 它將獨立發展，並以越來越快的速度重新設計自己。而受制於緩慢的生物進化的人類無法競爭，將被取代。”—— 霍金（此中文由 ChatGPT 國內鏡像翻譯）。

某種意義上來說，人類的存在是毫無意義的，所以爭論人類會不會被取代也沒有任何意義，這只是決定了我們是早一點還是晚一點從地球上消失罷了。但我們還是發展出了文明，文化、科技，並且有了標準，去評價文明的高低，文化的優劣，科技的進步與落後，而人工智能也許將會是壓垮人類的最後一根稻草。不止是由於我們大部分人的存在毫無意義，更是因為我們為了給自己尋找存在意義而產生的各種工作，也會變得毫無意義，人類也許不會徹底被一個叫做人工智能的家伙取代，但是這個家伙一定會讓絕大多數人的存在看起來很好笑。

從現實來看，人類的思想是有限的，人類的科學技術也是有限的，因此人們需要能集中智慧為人類服務的工具，但是當這種工具真的出現以後，人們又開始擔心這種工具會不會取代人類，我說，如果是從人類的工作角度來說，那麼一定會，如果是從生存角度來說，那基本上不可能，然而要說服大眾，不談理論實在是不那麼可行，所以我們需要多談論一番。

人類的無能與有能#

人類這種動物，有一個區別於其他動物的特點。不是他們的智慧，也不是他們的思想，更不是他們會說話，沒有體毛等外部特徵，也不是什么科學技術、文化的先進、複雜性，而在於幾乎所有人，都或多或少用腦子思考過這麼一個問題：人，也就是我們自己是從哪裡來的。

甚至人們還把這個問題擴張到哲學界，宗教界，生物學界，幾乎人類有一大半的學術都在研究自己是從哪裡來的，花費了巨大的時間、精力、財富，但是我們要真的去想這個問題，是不會發現它有任何意義的，有人也許會硬是找補一個意義，比如研究出了這個問題，就能證明哪個國家的人是世界的祖宗，要是證明了中國是世界的祖宗，哎呦，那可更不得了，但我們都扪心自問一下，這個問題研究透了，對我們有什麼好處，能改變當今世界弱肉強食的局面？

人在很多問題上是無能的，最大的問題，就是生死，人可以讓人生，也可以讓人死，但是人阻止不了自身的死亡，因為沒有誰可以復活。我們可以造出強子對撞機，但我們卻無法精確預測地震，我們可以蓋起數百層的高樓大廈，卻免不了偷奸耍滑，投機取巧，偷工減料，我們可以容忍大資本家到美西方投資移民，卻不能容忍惡衣惡食者換個國家換個環境去追求好一點的生活。

人不能在一個普羅大眾都昏昏沉沉的社會裡發聲如驚雷，人也不能徹底擺脫資本家的控制，除非你本身就是資本家，我們要知道人類雖然創造了科學技術，但是人類無法攻克一些惡性疾病，比如癌症，比如某些致命性傳染病，同時也無法根除基於種種原因造成的歧視，種族歧視、民族歧視、地域歧視、性別歧視等等，這是人類的無能之一。

但從另一方面說，我們又確實做了很多事，我們可以上九天攬月，下九洋捉鱉，我們甚至開發出了人形機器人，我們發明了各種大型機器，工業母機，我們發明了多元性別，發明了政治理論，階級鬥爭，發明了文化衝突，發明了 CIA 和 MI6、摩薩德、史塔西、克格勃等等等等，直到今天，我們在諸多前輩的引領下，創造出了傳奇性的東西，所謂的人工智能。

人工智能真的是無所不能，會畫畫，會做視頻，會寫書，知道一切，了解一切，強大到讓人驚奇，也讓人覺得害怕，以至於有人擔心事業，有人擔心被替代，這種擔憂一旦凝聚成了力量，人們就嘗試開始反思，反思這也好，那也好，總之就是一定要給這個新生兒加一個緊箍咒。

合規化監管#

在任何一個國家，都有屬於自己禁忌的文化、政治因素，為此不同的國家對人工智能有不同的合規化要求，非但是要求在操作方面合規，在生成式人工智能產品發布之前一定要遵守當地指定的某些內容不得生成的規定，比如在中國，不但要禁止生成某些帶有需要和諧詞彙的句子，更要禁止生成某些帶有文化禁忌的詞語，比如將某些文化貶低一下的內容，同時，諸如鼓勵血腥、暴力、兒童色情等內容的文字、圖片都是不允許由人工智能生成的，基於此，人工智能的合規性就非常重要，否則我們也許就會像意大利那樣先把 AI 封禁，而不是給它一個發展機會。

恰巧就在最近，不但中國制定了人工智能的規範，歐洲、美國等國家也紛紛出台或即將出台相關規定 —— 而早在 2020 年，歐洲議會就開始對人工智能進行探討，並且在一段時間的籌備後，發布了人工智能法案 ——法案 | 人工智能法案 (artificialintelligenceact.eu)。

這個法案提出了一個監管框架：

• 確保在歐盟市場上使用的 AI 系統是安全的，並尊重現有的基本權利和歐盟價值觀；
• 確保法律明確，以促進對 AI 的投資和創新發展；
• 加強對適用於 AI 系統的基本權利和安全要求現有法律的治理和有效執行；
• 促進合法、安全和值得信賴的 AI 應用的單一市場的發展，並防止市場分裂。

並對人工智能產品的某些行為做出了禁止性規定：

• 將人工智能系統投放市場、投入服務或使用，該系統在一個人的意識之外部署潛意識技術，以導致或可能導致該人或另一個人的身體或心理傷害的方式嚴重扭曲一個人的行為；
• 將人工智能系統投放市場、投入服務或使用，該系統利用特定人群因年齡、身體或精神殘疾而產生的任何脆弱性，以造成或可能造成該人或另一人身體或心理傷害的方式，嚴重扭曲該群體成員的行為；
• 公共當局或代表其將人工智能系統投放市場、投入服務或使用，以根據自然人的社會行為或已知或預測的個人或性格特徵，在一定時間內對其可信度進行評估或分類，其中社會得分導致以下任一項或兩項：
  • (i) 在與數據最初產生或收集的背景無關的社會背景下，對某些自然人或其整個群體的有害或不可避免的待遇；
  • (ii) 對某些自然人或其整個群體的有害或不利待遇，其不合理或與其社會行為或其嚴重性不相稱；

除此之外，歐盟還禁止將人工智能用於執法，除非涉及到搜尋和保護特定受害者，比如兒童，或者應對某些危險犯罪，比如恐怖襲擊。這種規範性的法規出台，很符合歐洲的傳統，但一些人工智能企業的企業主，對於合規化也有一定的要求，這是一般人所不能想象的，就好比我要求別人看住我自己不能走出房間到外面吃飯一樣，有點合理但不常見。

而就在不久前，OpenAI 的山姆・奧特曼就呼籲美國國會通過人工智能系統的安全標準，他承認自己的產品及其他人工智能產品也許能帶來意想不到的後果，當然他也是有點私心，在約束自己的同時，也要約束其競爭對手；某個所謂的知名人工智能領域投資人 Ian Hogarth 在外媒專欄中發表了一篇名為《我們必須放慢通往上帝一般的人工智能的速度》文章，文章說到，如果不給現在的大模型人工智能加一個限制，它就可能會對地球環境、人類生存、公民身心等方面造成威脅。

其實不止是政府，投資人、創立者對於 AI 都有一定的忌憚，以至於大家都呼籲要給這個初出茅廬的毛頭兒來一個令行禁止，都期望人工智能足夠智能，卻又恰好不能發展出被判人類或者威脅人類生存的能力，但大家都知道，不管 AI 如何發展，只要他不生出反心，不敢謀逆，就都是可以接受的，現在這些人的呼籲，都是某種不必要的擔憂。不過正如奧特曼所言，確實人工智能本身產出不了有害信息，但是在受到不懷好意的人訓練之後，也許會產生某些危害信息，如虛假信息、詐騙信息以及創造大規模的失業 —— 他稱這些情況可能會對世界造成 “重大傷害”。

我們知道世界上除了人工智能之外，還有一個東西叫做元宇宙，人類要如何進入元宇宙？無非是通過網絡，在科技發展到更高級一點的階段之後，也許腦機接口會迎來下一個大爆發，通過人工智能技術，直接進入到元宇宙去過虛擬的數字生活，這顯然不是空想，但，當人工智能技術運用在腦機接口上的時候，我們是否需要一個兜底的保障？保證這些東西不會利用與人類超級接近的機會趁機奪取我們的意識？如果通過腦機接口來使用 AI 讓我們大腦能實時獲取互聯網上的各種信息（包括 404），是否也會有法規來幫我們規定一下每天只能用多少小時呢？

對於隱私的注重，在中國以外的地區都很受關注，而人工智能產品要想獲取人工智能的能力，必然是要依靠世界範圍內的分享數據的，也就是所謂的大數據，只是相比於大數據，人工智能更加智能，而不僅僅是被用來當做割韭菜的工具，因此在不久之後，相信我們會見到更多國家出台對人工智能產品合規化的硬性要求。尤其是當未來有可能通過網絡，將我們的意識存儲到人工智能的機器中去的時候，讀腦這種看似很需要時間的技術和嚴重侵犯人權的行為也許只是立等可取的罷。

其實現在人工智能最廣泛的應用領域還是只有這幾項，如繪圖、編程和辦公，而生成式 AI 重要的限制之一就是版權，尤其是在現代社會這個我們都號稱法治的社會，當人工智能的生成產品與某些版權保護的作品有構圖或者畫風相似的時候，我們也許能辯稱這些作品本來就是這些藝術家的作品生成出來的，所以不能算是侵權，可是當我們把這些作品拿去商用，就為面要涉及到版權的問題，尤其是把人工智能繪畫當成是免費設計師的某些領域，比如 T 恤生產商 —— 幾乎絕大多數的 T 恤都是有圖案的，這種圖案如果請人設計，畫個幾萬十幾萬設計個十幾塊的衣服，顯然不划算，所以未來這個方向是大有可為的，哪怕要花錢，AI 生成產品的成本也要比人工低很多，因此這個領域也是最有可能受到監管的。

這是一條之前任何政治家都沒有想到過的道路，即我們除了共產主義之外，還有一個就是虛擬共產主義社會，人類的現實社會是資本主義的，但是在元宇宙裡，我們通過虛擬物品尋找到了一个半真實的世界體驗，而即便是元宇宙也可能存在著犯罪，因此我們只能在這裡也放一個擋路牌，這擋得多了也就有了受制約的，絕對不會造人類反的人工智能，只是大家從沒有想過讓人工智能自己約束自己。

我們設想過多種人工智能產生意識的可能，唯獨沒有設想過當人工智能產生意識的時候會不會和人類一樣，帶出來一些善的因素，因此為了兜底，凡事都要先立個規矩，防君子不妨小人，當然這也不能算是壞事。

硬件限制#

人工智能技術依托的是硬件，因為一個人工智能產品需要極快地響應，我們知道，即便你一直在轉圈，也要讓大家知道你賺錢的過程中在幹些什麼，因此人工智能產品如果需要大規模使用，或者使用離線版本，就必須要有足夠的數據，這對伺服器會有一定的要求，所以企業未來最大的開支將會是購買、維護伺服器和網絡。

但是現在的問題是，雖然有足夠好的軟件技術，但我們的硬件實在是進步太緩慢了，一些 GPU 生產商家甚至年年都要發布擠牙膏式的產品，不但限制了人工智能產品，本質上也是極大限制了人類文明的進步方向。

從人為的角度來說，實施限制是一定的，從技術層面來說，軟件或者數據方面，隨著互聯網信息的不斷生產，只要人工智能可以實時聯網，就都可以解決。問題就是網絡和硬件，在人類沒有足夠的生產力的狀況下，貿然發展人工智能產品，帶來的只能是失望，所以我們今天見到的人工智能產品迭代，往往需要數個月的時間，甚至更久，以至於一直呼籲慢點搞的馬斯克要買也要一萬張一買，這數量太過龐大，如果我們在未來不能講包括 GPU 在內的很多硬件更加濃縮化，人工智能的應用就難以走出房間，只能停留在室內應用以及少數的室外使用。

今時今日我們看到很多電動車商家都說要把一些大語言模型應用到車機系統上，問題還是相同，車機系統的硬件，不會像主機那麼高，如果大語言模型不是聯網的，而是離線產品，它的使用還能保證汽車行駛安全麼？

今天是 5 月 17 日，晚上看到了《北京市促進通用人工智能創新發展的若干措施（2023-2025 年）（徵求意見稿）》，提出了兩個重要信息：

• 加強與頭部公有雲廠商等市場主體合作，實施算力夥伴計劃。
• 整合現有開源中文預訓練數據集和高質量互聯網中文數據並進行合規清洗。

我相信這兩點對於我們今後的相關技術發展會帶來極大的影響，比起一禁了之，顯然高明很多，把中文互聯網內容進行統一，並進行大清洗，這樣，人工智能才是真正具有特色的人工智能。