“完全な人工知能の開発は、人類の終焉を意味するかもしれません…… それは自ら進化し、ますます速いペースで自らを再設計するでしょう。遅い生物学的進化に制約される人間は競争できず、置き去りにされるでしょう。”
“全面的な人工知能の発展は、人類の終わりを示すかもしれません…… それは独立して発展し、ますます速い速度で自らを再設計します。遅い生物進化に制約される人間は競争できず、置き去りにされるでしょう。”—— ホーキング（この中国語は ChatGPT 国内ミラーによって翻訳されました）。
ある意味で、人間の存在は無意味であるため、人間が取って代わられるかどうかを議論することにも意味はありません。これは、私たちが地球上から消えるのが早いか遅いかを決定するだけです。しかし、私たちは文明、文化、科学技術を発展させ、文明の優劣、文化の良し悪し、科学技術の進歩と後退を評価する基準を持つようになりました。そして、人工知能は人類を圧倒する最後の一手になるかもしれません。私たちの大多数の存在が無意味であるだけでなく、自分たちの存在意義を見つけるために行ってきたさまざまな仕事も無意味になるでしょう。人類は「人工知能」と呼ばれる存在に完全に取って代わられることはないかもしれませんが、その存在は大多数の人々の存在を滑稽に見せることになるでしょう。
現実的に見れば、人間の思考は限られていますし、人間の科学技術も限られています。そのため、人々は人類のために知恵を集中させることができる道具を必要としています。しかし、そのような道具が本当に現れたとき、人々はその道具が人間を取って代わるのではないかと心配し始めます。私は言います、人間の仕事の観点から見れば、確実に取って代わるでしょうが、生存の観点から見れば、基本的には不可能です。しかし、大衆を説得するためには、理論を語らずにはいられませんので、私たちは多くの議論をする必要があります。
人類の無能と有能#
人類という動物には、他の動物とは異なる特徴があります。それは彼らの知恵でも思想でもなく、話すことができることでも、体毛がないなどの外部的特徴でもありません。科学技術や文化の先進性、複雑性でもなく、ほとんどすべての人が多かれ少なかれ考えたことがある問題、つまり「人間、つまり私たち自身はどこから来たのか」ということです。
人々はこの問題を哲学界、宗教界、生物学界にまで広げ、ほぼ人類の半分以上の学問が自分たちの起源を研究しています。膨大な時間、エネルギー、財産を費やしていますが、実際にこの問題を考えると、それには何の意味もないことに気づくでしょう。ある人は、例えばこの問題を研究することで、どの国の人々が世界の祖先であるかを証明できると無理に意味を見出そうとするかもしれません。もし中国が世界の祖先であることを証明できれば、それはさらに大変なことですが、私たちは心の中で自問自答するべきです。この問題を徹底的に研究して、私たちに何の利益があるのか、今日の世界の弱肉強食の状況を変えることができるのか？
人間は多くの問題において無能です。最大の問題は生死です。人は生を与えることも死をもたらすこともできますが、自らの死を止めることはできません。なぜなら、誰も復活させることはできないからです。私たちは強子対撞機を作ることができますが、地震を正確に予測することはできません。数百階建ての高層ビルを建てることができますが、手抜きや不正を避けることはできません。大資本家が西洋に投資移民することを容認できますが、悪衣悪食者が別の国でより良い生活を追求することを容認できません。
人は多くの人々がぼんやりとした社会の中で雷のように声を上げることはできず、資本家の支配から完全に脱却することもできません。あなた自身が資本家でない限り。人類は科学技術を創造しましたが、癌や特定の致命的な感染症などの悪性疾患を克服することはできません。また、さまざまな理由から生じる差別、例えば人種差別、民族差別、地域差別、性別差別などを根絶することもできません。これが人類の無能の一つです。
しかし、別の面から見ると、私たちは確かに多くのことを成し遂げました。私たちは九天に月を掴み、九洋でウミガメを捕まえることができます。私たちは人型ロボットを開発し、さまざまな大型機械、工業母機を発明しました。私たちは多様な性別を発明し、政治理論、階級闘争、文化的衝突を発明しました。CIA や MI6、モサド、シュタージ、KGB などを発明しました。そして今日、私たちは多くの先人の指導の下、伝説的なもの、いわゆる人工知能を創造しました。
人工知能は本当に万能で、絵を描き、動画を作り、本を書き、すべてを知り、すべてを理解し、驚くほど強力で、人々を恐れさせるほどです。そのため、ある人はキャリアを心配し、ある人は取って代わられることを心配します。このような不安が力に凝縮されると、人々は反省し始めます。反省することも良いことですが、結局はこの新生児に厳しい規制を加えなければならないということです。
合規化規制#
どの国にも独自の禁忌文化や政治的要因があります。そのため、異なる国々は人工知能に対して異なる合規化要件を持っています。操作面での合規性を求めるだけでなく、生成型人工知能製品を発表する前に、現地で指定された特定の内容を生成してはならない規定を遵守する必要があります。例えば、中国では、特定の和諧語を含む文の生成を禁止するだけでなく、文化的禁忌を含む特定の言葉の生成も禁止されています。また、血腥、暴力、児童ポルノなどを助長する内容のテキストや画像は、人工知能によって生成されることは許可されていません。これに基づき、人工知能の合規性は非常に重要です。そうでなければ、私たちはイタリアのように AI を禁止することになり、発展の機会を与えられないかもしれません。
最近、中国だけでなく、ヨーロッパやアメリカなどの国々も人工知能の規範を制定し始めています —— そして 2020 年には、欧州議会が人工知能についての議論を始め、準備期間を経て人工知能法案を発表しました ——法案 | 人工知能法案 (artificialintelligenceact.eu)。
この法案は、規制の枠組みを提案しています：
- EU 市場で使用される AI システムが安全であり、既存の基本的権利と EU の価値観を尊重することを確保する；
- AI への投資と革新の発展を促進するために、法律を明確にする；
- AI システムに適用される基本的権利と安全要件に関する既存の法律のガバナンスと効果的な実施を強化する；
- 合法的、安全で信頼できる AI アプリケーションの単一市場の発展を促進し、市場の分裂を防ぐ。
また、人工知能製品の特定の行為に対して禁止規定を設けています：
- 人工知能システムを市場に投入、サービスに投入または使用すること。このシステムが一人の意識の外で潜在意識技術を展開し、その人または他の人の身体的または心理的な傷害を引き起こす、または引き起こす可能性のある方法で、その人の行動を重大に歪める；
- 人工知能システムを市場に投入、サービスに投入または使用すること。このシステムが特定の人々の年齢、身体的または精神的障害によって生じる脆弱性を利用し、その人または他の人の身体的または心理的な傷害を引き起こす、または引き起こす可能性のある方法で、その集団のメンバーの行動を重大に歪める；
- 公共当局またはその代表が人工知能システムを市場に投入、サービスに投入または使用し、自然人の社会的行動または既知または予測される個人または性格特性に基づいて、一定の期間内にその信頼性を評価または分類すること。社会的スコアが以下のいずれかまたは両方を引き起こす：
- (i) データが最初に生成または収集された背景とは無関係な社会的背景において、特定の自然人またはその全体の集団に対する有害または避けられない扱い；
- (ii) 特定の自然人またはその全体の集団に対する有害または不利な扱いで、その不合理さや社会的行動またはその深刻さに不釣り合い；
さらに、EU は特定の被害者、例えば子供を保護するために、または特定の危険な犯罪、例えばテロ攻撃に対処する場合を除いて、人工知能を法執行に使用することを禁止しています。このような規範的な法律は、ヨーロッパの伝統に非常に合致していますが、一部の人工知能企業の経営者は、合規性に対しても一定の要求を持っています。これは一般の人々には想像できないことであり、他人に自分が部屋から出て外で食事をすることを見張らせるようなものです。少し合理的ですが、あまり一般的ではありません。
つい最近、OpenAI のサム・アルトマンは、アメリカ合衆国議会に人工知能システムの安全基準を通過させるよう呼びかけました。彼は自らの製品や他の人工知能製品が予期しない結果をもたらす可能性があることを認めました。もちろん、彼には私心もあり、自分を制約する一方で、競争相手も制約しようとしています。あるいは、いわゆる著名な人工知能分野の投資家イアン・ホガースは、外部メディアのコラムで「私たちは神のような人工知能への道を遅くしなければならない」という記事を発表しました。この記事では、現在の大規模モデルの人工知能に制限を加えなければ、それが地球環境、人類の生存、市民の心身などに脅威をもたらす可能性があると述べています。
実際、政府だけでなく、投資家や創業者も AI に対して一定の懸念を抱いており、皆がこの新生児に厳しい規制を求めています。人工知能が十分に賢くなることを期待しつつも、人類を脅かす能力を発展させないことを望んでいます。しかし、皆が知っているように、AI がどのように発展しようとも、反逆の心を持たず、逆らうことを恐れない限り、受け入れられるのです。今これらの人々の呼びかけは、ある種の不必要な懸念です。しかし、アルトマンが言うように、確かに人工知能自体は有害な情報を生み出すことはできませんが、悪意のある人々によって訓練された場合、虚偽情報、詐欺情報、大規模な失業を引き起こす可能性があります —— 彼はこれらの状況が世界に「重大な損害」をもたらす可能性があると述べています。
私たちは、人工知能の他に「メタバース」と呼ばれるものが存在することを知っています。人類はどのようにメタバースに入るのでしょうか？それはネットワークを通じてであり、技術がより高度な段階に達した後、脳と機械のインターフェースが次の大爆発を迎えるかもしれません。人工知能技術を通じて、直接メタバースに入り、仮想のデジタル生活を送ることができるのです。これは明らかに空想ではありません。しかし、人工知能技術が脳と機械のインターフェースに適用されるとき、私たちはその利用に対して何らかの保障が必要でしょうか？これらの技術が人類に非常に近い機会を利用して私たちの意識を奪うことがないことを保証するために？もし脳と機械のインターフェースを通じて AI を使用し、私たちの脳がリアルタイムでインターネット上のさまざまな情報（404 を含む）を取得できるようにする場合、毎日何時間しか使用できないという規制が必要でしょうか？
プライバシーへの配慮は、中国以外の地域で非常に注目されています。人工知能製品が人工知能の能力を得るためには、世界中のデータ共有に依存する必要があります。つまり、いわゆるビッグデータです。ただし、ビッグデータに比べて、人工知能はより知的であり、単に人々を搾取する道具として使われるだけではありません。したがって、近い将来、私たちはより多くの国が人工知能製品の合規性に対して厳しい要求を出すのを見ることになると信じています。特に将来的にネットワークを通じて私たちの意識を人工知能の機械に保存する可能性があるとき、脳を読むという一見時間がかかる技術と人権を深刻に侵害する行為は、すぐに実現可能なものになるかもしれません。
実際、現在の人工知能の最も広範な応用分野は、絵画、プログラミング、オフィス業務の数少ない分野に限られています。そして、生成型 AI の重要な制限の一つは著作権です。特に現代社会、私たちが法治社会と呼ぶ社会において、人工知能が生成した製品が特定の著作権で保護された作品と構図や画風が似ている場合、私たちはこれらの作品が元々これらのアーティストの作品から生成されたものであると主張できるかもしれません。したがって、侵害とは見なされません。しかし、これらの作品を商業利用する場合、著作権の問題が発生します。特に人工知能による絵画が無料のデザイナーとして利用される場合、例えば T シャツの製造業者 —— ほとんどすべての T シャツにはデザインがあります。このデザインを人に依頼すると、数万、十数万のデザインで十数枚の衣服を作ることは明らかに不合理です。したがって、将来的にはこの方向性が大いに期待されます。たとえお金を払う必要があっても、AI 生成製品のコストは人工的に低く抑えられるため、この分野は最も規制される可能性が高いのです。
これは、以前のどの政治家も考えたことのない道です。つまり、私たちが共産主義の他に、仮想共産主義社会を持つことです。人類の現実社会は資本主義ですが、メタバースの中で、私たちは仮想物品を通じて半現実的な世界体験を見つけました。しかし、メタバースにも犯罪が存在する可能性があるため、私たちはここでも制約を設ける必要があります。制約が多すぎると、制約を受けることになります。人類に反する人工知能は決して生まれないでしょう。ただし、誰も人工知能が自らを制約することを考えたことはありません。
私たちは、人工知能が意識を持つ可能性をさまざまに想像しましたが、人工知能が意識を持ったときに人間と同じように善の要素を持ち出すかどうかは想像していませんでした。したがって、保障を設けるために、すべての事柄にはまず規則を立てる必要があります。君子を防ぐために小人を妨げることは、もちろん悪いことではありません。
ハードウェアの制限#
人工知能技術はハードウェアに依存しています。人工知能製品は極めて迅速に応答する必要があります。私たちは知っています。たとえあなたがずっと回っていても、皆にあなたが利益を上げる過程で何をしているのかを知ってもらう必要があります。したがって、人工知能製品が大規模に使用される必要がある場合、またはオフラインバージョンを使用する必要がある場合、十分なデータが必要です。これはサーバーに対して一定の要求を持ちます。したがって、企業の将来の最大の支出は、サーバーとネットワークの購入および維持となるでしょう。
しかし、現在の問題は、十分に優れたソフトウェア技術があるにもかかわらず、ハードウェアの進歩が非常に遅いことです。一部の GPU 製造業者は、毎年歯磨きのような製品を発表しなければならず、これは人工知能製品を制限するだけでなく、人類文明の進歩の方向性を大きく制限しています。
人為的な観点から見ると、制限を実施することは確実です。技術的な観点から見ると、ソフトウェアやデータの面では、インターネット情報の不断の生産に伴い、人工知能がリアルタイムでネットワークに接続できる限り、すべてが解決できます。問題はネットワークとハードウェアです。人類に十分な生産力がない状況で、無謀に人工知能製品を発展させることは、失望をもたらすだけです。したがって、今日見られる人工知能製品のイテレーションは、しばしば数ヶ月、さらにはそれ以上の時間を要します。そのため、常に遅く進めるように呼びかけているマスクが、1 万枚を購入する必要があると言っています。この数量は非常に膨大です。将来的に GPU を含む多くのハードウェアがより濃縮されない限り、人工知能の応用は部屋を出ることが難しく、屋内の応用や少数の屋外使用にとどまるでしょう。
今日、私たちは多くの電動車メーカーが大規模言語モデルを車両システムに適用すると言っているのを見ていますが、問題は同じです。車両システムのハードウェアは、主機のように高くはありません。大規模言語モデルがネットワークに接続されていない場合、オフライン製品であれば、その使用は自動車の運行安全を保証できるのでしょうか？
今日は 5 月 17 日です。夜に「北京市の一般的な人工知能の革新発展を促進するためのいくつかの措置（2023-2025 年）（意見募集草案）」を見ました。2 つの重要な情報が提案されています：
- 主要な公共クラウドプロバイダーなどの市場主体との協力を強化し、計算能力パートナーシッププランを実施する。
- 既存のオープンソースの中国語事前学習データセットと高品質なインターネット中国語データを統合し、合規性を持ってクリーンアップする。
私は、これら 2 点が今後の関連技術の発展に大きな影響を与えると信じています。一律に禁止するよりも、明らかに優れた方法です。中国語のインターネットコンテンツを統一し、大規模にクリーンアップすることで、人工知能は本当に特色のある人工知能となるでしょう。