11月17日に突如発表されたOpenAIのリーダー交代は、実質的に取締役会によるクーデターと呼べるものでした。創業者であるサム・アルトマンCEOは、取締役会メンバーの過半数によって解任され、即日退社しました。
ジョブズにも似た数奇な運命
躍進中の企業において、創業者が自らの会社を追われる……。最初に思い出されるのはAppleを追われたスティーブ・ジョブズです。
サム・アルトマンは38歳。19歳のときにスタートアップ企業を創業し4340万ドルでエグジット。29歳のときにはスタートアップのインキュベーション企業Yコンビネータの代表となり、Airbnb、Dropbox、Stripeなどの企業に投資し育て上げたことで知られます。
30歳、2015年にイーロン・マスクらとOpenAIを設立。AGI開発を目指してAI開発を続けてきました。2014年にGPT-2、2020年にGPT-3を発表。当時はまだ知る人ぞ知るAI企業でした。
ぼくがこのブログでGPTに初めて言及したのは2020年。こんなことを書いています。
自然文を生成するGPT-3に代表されるように、AIが新しい何かを生み出す力は飛躍的に高まっています。魂のようなものがなければ人に訴えかけるものは創造できないという考え方は、急速に古くなっていでしょう。
当時からGPTシリーズは驚くほど高精度で、技術論文の公開が延期されたり悪用が懸念されたりしていました。すぐにGPT-3は日本語が利用可能になっていて、当時話題になっていたStableDiffusionとセットでGPT-3を使ってみた記事を上げたのは2022年秋のことです。
この時点ですでにAIの急速な進歩は予測できたのですが、ごくごく狭いテック領域内での話にとどまっていました。これが一気にブレイクしたのがChatGPTです。22年12月に登場したChatGPTは、対話型になっただけでなく、強化学習を通じてAIに「やっていいこと、悪いこと」を教え込むInstructGPTによって、安全に公開できるものに進化しました。
実は対話かどうかということよりも、InstructGPTの登場がブレイクスルーだったといえるように思います。
さらに2023年3月には、相当に性能がアップしたGPT-4が登場し、世間の盛り上がりも最高潮に達します。各種専門試験で合格点を取ることが示され、一部の知識を問う問題についてはAIのほうが上だという感触も共有され始めました。
ChatGPTを知らない人はいない、GoogleのBardやMetaのLlamaを差し置いて、AIといえばChatGPTという認識が広がる中、OpenAIはさらにGPT-4Turboを発表します。ここまでの間に、画像認識（GPT-4V）や画像生成（DALL-E3）も統合され、トークン数も大幅に拡大しました。128kトークン、文字数にすると10万文字相当といわれ、つまり300ページ相当の本をGPTが読めるようになったのです。
この11月6日のDevDayからわずか半月で、サム解任という衝撃のニュースが出てきたことになります。
サムのAIに対する思想
この騒動はまだまだ流動的で、原因も結果どうなるかも分かっていません。
ただ各所で噂されているのは、これがよくあるビジネス的な対立ではなく、AIに対する考え方の対立なのではないかということです。OpenAIでいう取締役とは下記を指します。
- グレッグ・ブロックマン 退任した社長
- イリヤ・スツケヴァー 共同創業者チーフサイエンティスト
- サム・アルトマン 解任されたCEO
- アダム・ダンジェロ 下Facebook CTO、Quora設立者
- ターシャ・マッコーリー ロボット工学・AI研究者
- ヘレン・トナー AI研究者
CEOを解任したというのは、このうちの4人、つまり退任したグレッグとCEOサム以外の全員が、サム解任に賛成したということです。そこにあるのはカネの問題ではなくAIに対する考え方ではないということです。
どちらかというと、サムはAIがもたらす社会の変化をポジティブなものと捉えています。AIによって利益を得るためでなく、社会を良くするものとして開発を続けています。
新しい技術は常に興奮と恐怖を持って受け止められますし、われわれの技術は今まさにその段階だと思っています。しかし比較的、人々はこの技術を愛してくれています。この技術がどこに向かい、何を目指しているかより深く理解しようとしてくれています。
私は技術が世界を劇的に良く変えると本当に信じています。そして私は幸運なことに自分が必要としている以上の金を手に入れました。だから私は社会に貢献できると思える研究を見つけたときには投資します。研究がうまくいかなくても大丈夫です。研究とはそういうものです。
私たちは普通の企業とは違うんですよ。会社は非営利団体によって運営されています。会社の目標は技術を民主化し広く普及させることです。昔ながらの企業のように利益を最大化することは狙っていません。
サムは強く信じる3つの原則として、次の3つを挙げています。
- テクノロジーによる繁栄
- 経済的公平性
- 個人の自由
経済的公平性については、労働に対する課税よりも資本に対する課税に移行し、さらにセーフティネットとしてユニバーサル・ベーシック・インカムに興味を抱いています。というのも、中央値レベルの人間に匹敵するAI＝AGIが生まれれば、多くの人が失業すると考えられているからです。
それでも「真の経済成長のほとんどは、技術の進歩によってもたらされる」というのがサムの考え方です。
イリヤ・スツケヴァー氏のAIに対する思想
一方で、サム解任を主導したといわれるOpenAIのチーフサイエンティスト、イリヤ氏は、もっとAIの対して悲観的です。ある種、古典的なAI危険思想ともいえるかもしれません。
AIによる利点よりも弊害のほうが大きいというのが、イリヤ氏の根本的な考え方です。
偽ニュースの問題は100万倍悪化するでしょう。
サイバー攻撃ははるかに激しくなります。
完全自動化されたAI兵器が登場するでしょう。
AIは無限に安定した独裁政権を生み出す可能性があると思います。
さらに、AIの危険があるとしてもまだまだ先だと考えているMetaのヤン・ルカン博士とは違い、
Super-human AI is nowhere near the top of the list of existential risks.
— Yann LeCun (@ylecun) 2023年5月30日
In large part because it doesn't exist yet.
Until we have a basic design for even dog-level AI (let alone human level), discussing how to make it safe is premature. https://t.co/ClkZxfofV9
超人間的な AI は、存続リスクのリストの最上位には程遠い。
それは主に、まだ存在していないためです。人間のレベルは言うに及ばず、犬レベルのAIであっても基本設計ができるまでは、それを安全にする方法を議論するのは時期尚早です。
イリヤ氏はAGI誕生はすぐそこまで来ていると考えています。まさに自身が誕生に携わったChatGPTです。
ChatGPT、聞いたことがあるかもしれませんね。
もし聞いたことがなければ、覚悟してください。
これは大雨の前の最初の雨粒と表現されています。
私たちは非常に意識していなければならないと思います。
なぜなら、これは画期的な瞬間だと私も同意しているからです。
ChatGPTはゲームチェンジャーとして讃えられており、多くの点でそうです。その最新の勝利は人間を上回りました。
マイクロソフトリサーチによる最近の研究では、GPT4は初期段階でありながらも未完成の人工一般知能システムであると結論付けられています。
現在のAIの進歩はGPUに代表される演算資源に制約されていますが、これは急速な速度で改良されます。イリヤ氏は数年のうちにAI用コンピュータの速度が10万倍になるだろうと予測しています。そしてそのときにAGIの進歩は急激に速度を増します。レイ・カーツワイルがいうシンギュラリティにも近いでしょう。
私が想像する方法では、それは雪崩のようなものです、AGI開発の雪崩のようなものです。それは、この巨大な止められない力を想像してください。そして、私は、地球の表面全体がソーラーパネルとデータセンターで覆われる可能性がかなり高いと思います。
AIを巡る議論
世間のAIやChatGPTに対する認識は、「どれだけ役に立つか」「どうしたら自分のビジネスを効率化できるか」といった程度に留まっています。しかし、実際にAI開発に携わっている人々は、もう少し先を見ています。AI開発は加速し、想像よりもずっと早いタイミングで手がつけられないレベルまで進化する可能性が高いからです。
OpenAIやDeepMindなどのトップ研究者たちは、2023年5月に「Statement on AI Risk」（AIリスクに関する声明）に署名しました。これは、AIのリスクを「悪意のある利用」「AI競争」「組織のリスク」「不正なAI」に分けて、分析し対策も提案。どのように対応すべきかを提言しています。
AIの能力がどれほど急速に進歩し、大惨事のリスクがどれほど急速に増大するかは不明だが、こうした事態の深刻さの可能性を考えると、人類の未来を守るための積極的なアプローチが必要である。AIが牽引する未来の崖っぷちに立たされている今、私たちが下す今日の選択が、イノベーションの果実を収穫するか、大災害に立ち向かうかの分かれ目になるかもしれない。
こと半導体の進化やAI開発においては、性能は指数関数的に向上します。こういうスピードで進化するということです（画像はインフレ調整後の世界GDP 出所： ourworldindata.org/economic-growth）。特異点を超えると、垂直に近い角度まで進化が加速するのです。
気候変動など線形な問題よりも、すでにAI開発は危険な領域に入っている。AI業界はある程度その認識を共有していますが、その中でも悲観的な人（イリヤ氏）と楽観的な人（サム氏）に分かれるというわけです。
なお先のCAISのサイトには、AIに関するよくある質問と回答が並んでいます。AIに対する自身の考え方を整理するのに、役にたつと思います。
