0:00 アルマンは一世代に一度しかいない 物語の才能の持ち主です。 彼と一緒に働く人々は、 彼が最高のテクノロジーリーダーであると言うか、 嘘つき、人を操る人、 虐待者だと言うかのどちらかだ。 彼らは、エゴとイデオロギーの衝突に満ちた組織として、極めて秘密主義的だった 。 日本は 資源搾取と労働搾取の両方に対して非常に脆弱です 。 AI帝国は、 自らの技術を生産する過程で労働力を搾取します 。 [音楽]
0:53 Open AI。 [音楽] AIの帝国。
1:44 さて、ここで『Empire of AI』の著者、カレン・ハウ氏にご参加いただいています 。 あなたがここに来てくれて嬉しいです。 招待 していただき本当にありがとうございます。 うん。 今日は香港から参加ですね 。 それは正しい。 では、現在は香港に拠点を置いているのですか ? もうアメリカじゃないの？ はい、その通りです。 私は現在香港に住んでいます 。 わかった。 それで、本を出版されたことをお祝いします。 詳細に入る前に、 公開してから 1 か月が経ちましたね。 それで、 あなたの本に対するこれまでの反応はどうでしたか ? そうですね、とても好評でとても感謝しています。OpenAI
2:33 社の内部事情を伝える本に掲載されている記事と、OpenAI の ような企業を新しい形の帝国として理解する必要があるという私の主張の両方に、読者は本当に興奮していると思います 。 議論には賛同しないものの、 報道には感謝している人もいますが、私が期待していた通りの反応だっ たので、本当に感謝しています 。 わかった。 ああ、それは嬉しいですね。 では、日本の出版社とも交渉して、 この本を日本に持ち込もうとしているのですか? はい、実は日本 版が 私たちが契約した最初の海外版だったんです。 なので来年初めに出版される予定です 。 ああ、来年の初めに。 はい、 楽しみにしています。 それで、今日は インタビューを 3 つのセグメントに分けたいと思います。1
3:19 つは AI 帝国の中核と Open AI の変革です。 そこで、 AI レポートや オープン AI の取材に携わるようになったきっかけと、 時間の経過とともに会社が変わったと感じたことを伺います。 これが 1 番目です。2 番目は AI 帝国の隠れたコストです。 それで、 大規模な AI モデルのコストについて書いた内容を詳しく説明していただけますか。 3つ目は、AIガバナンスを求めることです。 ええ、それはあなたが書いたことでもあります。AI の 権力のより広範な集中が 起こっている中で、AI ガバナンスの重要性についてです。 それでは、これについてさらに詳しく見ていきましょう 。
4:04 それは素晴らしいですね。 うん。 最初の部分は AI 帝国の中核です。 えっと、まず最初に お聞きしたいのは、あなたが MIT で機械工学の学位を取得された にもかかわらず、ジャーナリズム、 特に AI 報道の道に進んだということですね。 それで、あなたは オープン AAI を初期の頃から取材してきた記者の一人ですね 。 それで、そのすべてがどのように起こったのかを簡単に説明していただけますか ? うん。 うん。 そこで私は、社会変革のツールとしてテクノロジーをどの ように活用するかを理解することに非常に興味があったため、機械工学を学びました。 当時、私は環境問題にかなり興味があり 、消費者の行動の変化を促す 製品や技術を開発できれば、
4:53 それが 気候危機を緩和する方法の一つになるだろうと考えました 。 しかし、卒業後すぐに シリコンバレーに行き、 持続可能性をミッションとするスタートアップ企業で働きました 。 そして、シリコン バレーのイノベーションモデルは、 必ずしも公共の利益を目的とした技術の構築ではなく、利益を 生み出す技術の構築に重点を置いていることに気づきました 。 そして実際、 公共の利益に反する技術を導入しているように感じるようになっていった。 そして、私は この業界に入ることが 本当に 自分のやりたいことにとって最善のキャリアパスであるかどうかを考えるようになりました。 そして私は すぐに、そうではないので 何か他のことに挑戦してみるべきだという結論に至りました。 こうして私は最終的にジャーナリズムに転向し、もともと
5:42 環境問題を取材していました。気候危機に 取り組もうという考えにまだ焦点を当てていたからです 。 しかし、私の経歴のせいで 、 最初は不本意ながら テクノロジー報道に押し込まれたのです。 しかし その後、それがテクノロジー業界で働く上で私が目にしてきたさまざまな問題をすべて探求するのに本当に素晴らしい方法であることに気づきました 。 そして すぐにAIレポートに特化しました。 私が初めて人工知能について取材し始めたのは、MIT Technology Review でした 。 TechReview は最先端の AI 研究 に重点を置いた出版物であり 、
6:30 商業的に実現可能になった技術については必ずしも取り上げません。 それはまさに、 学術界や企業の研究所から生まれた基礎研究なのです 。 そして、2018 年に OpenAI が私の 注目を集め、 2019 年に取材を始めました。私が基礎 AI 研究ラボを探していたのですが、 OpenAI は 商業化を意図しない基礎 AI 研究ラボとして自らを位置づけていたからです。 ええと、それで まったくの 偶然ですが、私は OpenAI のプロフィールを執筆し、2019 年 8 月 に 3 日間同社に潜入した初のジャーナリストになったんです。 そうですね。 最初に会社を見つけたんですね。 会社は基本的に
7:16 利益を求めていないのですが、あなたは それが 私たちに必要な AI 愛なのか、それともそれが 最初に考えたことなのかと思いましたか? 私は、 営利目的の制約なしに 公共の利益に焦点を当てて AI を開発するという、OpenAI が掲げた使命をうまく達成できるかどうか、もっとよく理解したいと思いました。 それで私が最初にその組織にアプローチして 彼らのプロフィールを尋ねたとき、 OpenAI 内では一連の変化が起こっていて、今は良い時期のようだ、と私は言いました。 ちょうど
8:01 非営利団体の中に営利部門を設けるために組織が再編され、サム・ウォルマン氏が 正式に CEO になったばかりだったので、私は、 組織にはいくつかの変化が起きているようだ が、公益のため にこの技術を構築するという使命を維持することについて、本当に慎重に検討してきたのだ、と言いました 。 ですから、 その点をもっとよく理解して、それをどのように行っ ているのかを詳しく知りたいのです。なぜなら、これが 公益のためのイノベーションのモデルであるならば、 私たちはそれを強調し、 世界中の他の場所でも再現したいと考えますし、彼らは そのアイデアを気に入り、それが 私を 組織内に招き入れた理由の一つでもあるからです。 ええと、私は 好奇心とオープンな心を持って、
8:48 資金調達の必要性と公共の利益のためのテクノロジー構築の必要性との間の微妙なバランスをとる方法を見つけた組織を本当に見つけたのかもしれない、という思いで来ました 。 うーん、しかし残念なことに、 3日間の潜入調査の後、 社内勤務時間外でも 他の従業員に広範囲にわたるインタビューを行った結果、 オープンアイは実際には 他のシリコンバレーの企業と本質的に同じだということが分かりました 。 うん。 私たちは当初、 大胆な使命と 研究の透明性を確保するという使命を掲げて非営利団体としてスタートしましたが、 社内でどのような変化が起こったと思いますか? 何かが変化しつつあることを示す最初の変化は、
9:38 透明性に対する約束を撤回したことだった。 当初、彼らは すべての研究をオープンソース化すると述べていました が、2019年の初めに モデルを非公開にすることを決定しました。その モデルはチャット GBT の 2 世代前の GBT2 でした。 当時、モデルを 非公開にする理由について公に述べた主張には納得がいくものが なく、 この特定の非公開 研究の処理方法が原因で、科学界から目を向けることに対して多くの反発がありました。そのため、最終的に 決定を覆し、 モデルを公開しましたが、これは 彼らが もはやそれほど透明性が高くないことを示す重要なシグナルでした。その後、 私がこの会社に入社すると、 実際には 彼らはそれほど透明性が高くないだけでなく、
10:24 組織として非常に秘密主義であり、 取り組んでいることを 常に一般に公開し、 この AI 開発の旅に一般の人々を連れて行くと明言していたにもかかわらず、人々に何に取り組んでいるかを知られたくないことがわかりました 。 ええ、そして私がインタビューを重ねていくうちに 、人々は私に、 確かにこれは 彼らがこれまで働いた中で最も秘密主義の組織の一つであると認めました 。 そして、その移行は 基本的にサム・アルマンが入社した直後に起こりました 。 わかった。 そして、あなたが MIT テクノロジーレビューであなたのプロフィールを公開した後の AI について報告した後 、彼らは 3 年間あなたと話をしなくなったん
11:12 ですよね? それで、 なぜそんなことが起こったと思いますか? はい。 彼らは私のプロフィールに非常に不満でした。なぜなら、 私がそのプロフィールで焦点を当てたのは、 OpenAI が国民や政策立案者の間で 多くの好意を集めるために行っていると公言していたことと、 実際に 密室で起こっていたこととの間に乖離があることだったからです。 そして 私が当時主張したのは、この 接続と切断が、 AI が世界や社会に導入される方法に影響を与える可能性があるということでした 。 そして彼らは、私が
11:58 その断絶を強調したという事実を気に入らなかったのです。 彼らは、 私にアクセス権を与えれば、 私が 彼らの会社の物語をより多く取り入れた記事を書くだろうと考えました。 そして最終的に、彼らは 会社としての全歴史にわたって取り組んできた戦略として、ジャーナリストが書いた内容が気に入らない場合はいつでも、 そのジャーナリストが 組織にアクセスし続けることを禁止することにしました。 そこで彼らは 代わりに他のジャーナリストと協力することにした。 うん。 わかった。 あなたの本ではアルトマンについて多く書かれていますが、 アルトマンについてどのように説明しますか?
12:44 アルマンは、一世代に一度しかいない 物語を語る才能の持ち主です。 彼は、 投資家が 将来に投資したくなるような説得力のあるストーリーを語るのがとても上手です。 その将来を支えるために資金を投入し、才能ある 人材を集めて彼と共にその将来を築くことに尽力してもらうのです 。 これが、彼を 優れた資金調達の才能と リクルーター、本当に優秀な リクルーターにしているのです。 しかし、アルウィンのキャリアを通じて変わらない真実は、彼が 非常に賛否両論のある人物だということです。 彼と一緒に働く人たちは、彼は この世代の最も偉大な技術リーダー、
13:29 つまりこの世代のスティーブ・ジョブズだと言うか、 嘘つき、 操作者、虐待者だと言うかのどちらかです。 そして、 私が 彼に対する人々の見解を報道する中で本質的に気づいたのは、 人々の見解は 彼らの価値観や将来に対するビジョンによって 大きく左右されるということです。 サム・アルマンのビジョンに共感する人々は、 彼が史上最高のリーダーの一人であると考えています。 なぜなら、彼は信じられないほど説得力があり、 資本を獲得し、才能を獲得して 自分が賛同するビジョンに向かって進むための最高の資産だからです。 しかし、あなたが 全く異なる未来像を抱いている場合、その 人物はあなたの描く未来像の実現に対する最大の脅威の 1 つとなります。
14:16 なぜなら、その人物は、 あなたが築きたいものから資本と人材を奪い、 彼が築きたいものへと向かわせ続けるだけの説得力を持つからです。 そして 彼は真実ともゆるい関係を持っています 。 そこで彼は、自分が望む方向へ向かわせるために人々が聞く必要があると考える 内容に応じて、さまざまな人々にさまざまな物語を語ります 。 そして、これらすべてが 組み合わさって、彼は、 生成 AI 革命の顔としてトップに上り詰めた人物として、特定の基準では非常に成功した人物である と同時に、 キャリア全体を通じて非常に 声高な批判者から追いかけられてきた人物でもあります。 うん。 うん。 それで、
15:03 サム・アルマンと、 OpenAIの共同設立者でもあるイーロン・マスクの間には、激しいライバル関係がありました。 では、 両者の間の緊張関係は、それが OpenAI を 営利企業やそのような 組織に近づける転換点になったということでしょうか? アルトマン氏とマスク氏の対立が OpenAI をより営利企業へと向かわせる転換点だったとは思わないが、 この対立は OpenAI の歴史を通じて、そして特に マスク氏が
15:48 アルトマン氏を訴え、OpenAI が 最終的に非営利企業から営利企業へと完全に転換するのを阻止しようとしている現在においては、重要なプレッシャーとなってきたことは確かである 。 そして、 そのライバル関係の起源は、マスク・アルトマンが マスクをOpenAIに招き、 一緒にOpenAIを共同設立するというアイデアを提案したことにある。 そして マスク氏の話によると、アルマン氏は、 基礎的なAI研究ラボの創設で一緒に何が達成できるか、 営利目的のAI開発に対抗するにはどうすればよいか、そして、非常に若い新興企業に自分の名前と資金を貸すことで、 最終的にマスク氏がプロジェクトに非常に役立つことができるかについて、マスク氏が聞きたい話をすることで、最終的に彼を利用したと感じたという 。 そして、マスク氏が
16:36 プロジェクトにとって有用性を失ったとき、アルトマン氏は 彼を見捨てたという。 これはマスク氏 の話だ。 つまり、本質的に マスク氏は 自分の名前を寄付したと感じているのです。 彼は、そもそも OpenAI という名前を選んだのは自分だと寄付しました 。 彼は 多額の寄付をしたが、何も得られなかった 。 そして最も重要なのは、 非常に重大な技術の制御を失ったことです 。 そして今、彼は 自身の会社XAIで再び経営権を取り戻そうとしている。 しかし、OpenAI は、 XAI と比較して、消費者の採用とブランド認知の両方において依然としてリーダーです。 そして、そこには 長年にわたる確執があるのです。 しかし、マスク氏 とアルマン氏の両者は、実は創業当初から、
17:24 彼らが選んだ AI 開発の特定の道、つまり膨大な量のデータで トレーニングされた大規模 AI モデルを 非常に大規模なスーパーコンピューターでトレーニングするという道を追求したいのであれば、 OpenAI はそれを営利目的に転換する必要があるだろうと認識していました 。 そのため、 OpenAIの初期の頃に公開された電子メールには、 必要な資本を調達するためにOpenAIを営利企業に転換するという点について、アルトマン氏と同様にマスク氏も賛成していたことが示されている。 しかし、最終的に 営利企業を設立しようとしたとき、 誰が CEO になるべきかについて合意に至りませんでした。 そして 最終的に、 OpenAIの他の共同創設者たちを説得して、 マスクではなくCEOに選んでもらったのがアルトマン氏だった。 こうしてマスク氏は会社を 去り、今日に至るまでこのプロセス全体に失望を感じている
18:09 。 うん。 ですから、このような巨大な力を持つ会社では、創業当初から権力闘争が続いてきたのです 。 うん。 そこで私が取材 を通じて気づいたことの一つは、 OpenAI の歴史は エゴとイデオロギーの衝突に満ちているということだ。 そして、 最終的に OpenAI を去った幹部全員を見ると、 彼らは皆まったく同じ ことをしています。つまり、アルトマンのイメージではなく、自分たちのイメージに合ったライバル企業を立ち上げたのです 。 彼らが OpenAI を去る理由は、AI の開発方法について
18:55 根本的な性格上の 不一致と思想の 違いがあるためです。 これには、 イーロン・マスクがXAIを立ち上げるために退社したことも含まれます 。 Dario Amade が Anthropic を設立するために退社 。 安全なスーパーインテリジェンスを開始するために、主任科学者のイリア・スツクバーが出発します 。 そして、 元最高技術責任者のメラ・モラッティが退職し、 Thinking Machines Labを設立しました。 そして もちろん、 そこには最高レベルの幹部だけでなく、退職した各人が、 この別の道に自分たちを連れて行くために、一部の従業員、一部のスタッフを搾取した人たちもいます 。 えーと、結局のところ これが示しているのは、
19:42 AI 業界の多くの上級管理職が、 この テクノロジーを自分たちの 意志と、自分たちが 将来見たいものに対する願望の延長として見ているということです。 したがって、 AI がどのように 開発されるべきか、そして最終的にはどのように 展開されるべきかについて意見が一致しない場合は、最終的には 各自の派閥に分裂し、 独自のリソースを蓄積して独自の帝国を築き、 市場や世界で互いに競争しようとすることになります。 うん。 それで、結局のところ、 帝国はあなたにとって何を意味しますか? 私が この本を『AI 帝国』と名付けた理由は、
20:29 まず第一に、 これらの企業には政治的、経済的影響力が異常に集中しており、帝国とは 世界の権力を独占する政治経済的実体であるという事実を認めていると思うからです。 しかし、 この本では、 AI 帝国と古代の帝国の間に共通点があると指摘している 4 つの特徴もあります 。 1 つ目は、帝国が 自国に属さない資源を主張することです 。 そして、AI 帝国がインターネット 上のデータのスクレイピングと、 アーティスト、作家、クリエイターの知的財産の利用によってこれを実行しているのを私たちは見ています 。 そして彼らは、 「ああ、これらのリソースは 実はずっと私たちのものだった。 パブリックドメインだ。フェアユースだ」と言ってこれを正当化しようとします。
21:15 2 つ目の特徴は、帝国が 大量の労働者を搾取することです。これは、 AI 帝国が自らの技術を生み出す 過程で労働者を搾取する方法を指し ているだけでなく、ケニアやベネズエラの労働者の話も取り上げます。OpenAI やその他の AI 企業は、 最終的に 自社の技術を生み出すために必要な、最も不快な種類の作業を実行するために契約を結んでいますが、これは、 技術自体が労働を 自動化しているという事実を指しています。 そこで、OpenAI は、 いわゆる人工汎用 知能を、 最も経済的価値のある仕事において人間を上回る、高度に自律的なシステムと定義しています 。 つまり、彼らは
22:04 仕事を自動化してなくそうとしていること、そしてそれ 自体が労働者の 権利を侵害し、交渉力を弱め、 将来的にさらなる労働搾取につながることをかなり明確に表明しているのです。 帝国の3つ目の特徴は、 知識生産を独占していることです。 そのため、 過去 10 年間で、AI 業界は AI 研究者に対して 100 万ドルを優に超える報酬パッケージを提供できることがわかりました 。 そのため、ほとんどの AI 研究者は、 大学や独立した研究 機関で働くことから、これらの 企業で働くことに移行しました。 そして、AI 研究への影響は、 ほとんどの気候 科学者が石油・ガス企業から資金提供を受けた場合に想像される影響と同じになるでしょう 。 発表 される研究は気候危機を正確に反映していないと思われるでしょう
22:51 。 そして、それが 本質的に AI 研究で起こったことです 。 これらの企業にとって都合の悪いものは検閲されるため、 この技術がどのように機能し、どのような 制限があるのかを正確に表すことができなくなります 。 そして 4 番目で最後の 特徴は、帝国は常に、 世界には善なる帝国と悪なる帝国があり、悪なる 帝国を撃退できるほど強力になるためには、まず善なる帝国が帝国でなければならないという物語を語ることです。 そして、Openio の歴史を通じて、 彼らは常に誰が邪悪な帝国であるかを特定してきました が、それは都合に応じて変化してきました 。 つまり、 もともと悪の帝国は Google だったのです。 ますます、 邪悪な帝国は中国である。 そして、 もし邪悪な帝国が
23:38 先に技術を手に入れたら、人類は 地獄に落ちるだろうという議論があります。 しかし、もし彼らが 資源、労働力、土地、 エネルギー、水に自由にアクセスできるなら、彼ら、善良な 帝国はこれらの資源を使って 世界を文明化し、 全人類に進歩と近代化をもたらすことができ、 人類は天国に行くチャンスを得るでしょう 。 そしてそれは、 植民地時代のヨーロッパの帝国が使用したレトリックであるだけでなく、 文字通り、 今日の AI 企業が使用する言語とまったく同じです。 ありがとう。 これが、第 2 部の「 AI 帝国の隠れたコスト」につながります。 それで、 あなたが本に書いたように、あなたは AI がどのようになっているか、そして
24:25 AI の隠れたコストがいくらであるかを調査するためにケニアとチリに飛んだんですよね。 それで、 それらの地域を取材したときに最も印象に残ったことは何ですか? 私が衝撃を受けたことの一つ、私が こうした旅行を決意した理由の一つは、 これらのコミュニティの地で生活するまでは帝国の論理を完全に理解することはできないからであり、その 時に初めて これが本当に帝国であることが疑いの余地がなくなるからです。 なぜなら、 私がケニオンの労働者たちと一緒にいたとき、 彼らは、 本質的には
25:12 最終的にチャットBTとなるもののためのコンテンツモデレーションを実行するために契約を結んだ労働者たちであり、 ソーシャルメディア時代のコンテンツモデレーターが 被ったのと同じ結果を被ったからです。 彼らは結局、完全に トラウマを負ってしまった。 彼らの精神状態は 崩壊した。 彼らやその家族、 地域社会に頼っていた人々も、 地域社会の重要な一員を失うことで影響を受けました。 そこで 私が注目したのは、OpenAI の 性的コンテンツ チームに所属していた、私が出会った Moof Kin という男性です。 つまり、彼は インターネット上で最悪の性的コンテンツを大量に読んでいただけ でなく、OpenAI が モデルにインターネット上で最悪の性的コンテンツを想像させる AI 生成コンテンツも読んでいたのです 。 そして、彼は これを性的内容の詳細な階層に分類する必要がありました
25:59 。 無害な性的コンテンツ、 虐待を伴う性的コンテンツである ため重大度が高いと分類されるべきであり 、 未成年者に対する虐待を伴う性的コンテンツが 最も重大度が高い。 そしてその 過程を通じて彼は人間として完全に変化しました 。 彼はもともと外向的だったが、 非常に内向的になり、 自分の殻に閉じこもるようになった。 彼は 妻と、 別の関係から生まれた継娘に、 実際に何が起こっているのかを説明することができませんでした 。仕事で一日中性的なコンテンツを読んでいることを、どう伝えたらいいのかわからなかったからです。 それは 本当の仕事のようには聞こえませんでした。 それは とても恥ずべき仕事のように聞こえました。 ある日、 彼の妻が彼に「夕食に魚を食べたい」と尋ねました 。 そこで彼は出かけて行って 三匹の魚を買いました。 彼に1つ、彼女に1つ、
26:46 継娘に1つ。 そして 彼が家に戻るまでには、彼らの 持ち物、所持品はすべて 梱包されて、彼らは出発していました。 そして彼女は 彼にこうメールした。「あなたが今どんな人間になっているのか、私にはもう理解できません 。私たちはもう戻らないわ 。」 そして、 このテクノロジーの生産が社会 で最も弱い立場の人々に及ぼしている影響について考え始めると、 それに加え、この 壊滅的な影響に対して、彼は時給数ドルしか支払われなかったが 、 社内の OpenAI 研究者たちは 年間数百万ドル以上の報酬を受け取っていた。 そのとき初めて、 帝国の論理に気づき始めるのです。 なぜなら、哲学的に、
27:40 世界の一部の人々を非人間化するこうした扱いを正当化できる根拠は、優れた人間として生まれた人々と劣等な人間として生まれた人々がいるという帝国のイデオロギー的な論理だけであり、 したがって、優れた人間は 世界のそれらの人々を服従させる権利があるというものです。 私は チリにいたとき、まさに同じことを感じました。実際、私が 同行していたチリの 水問題活動家たちは、AI モデルの トレーニングと展開のために企業が建設しているデータ センターに反対していました 。 そして、 私が「帝国」という言葉を口にする前に、チリの活動家たちは自らそう言っていたのです 。 彼らはこう 言いました。「今日の私たちの物語を理解するには、 私たちの 歴史、そして何世紀にもわたって チリの私たちのコミュニティ、労働者
28:28 階級、社会的弱者、先住民 族が、 天然 資源を削り取られてきたという事実を理解しなければなりません。私たちは、決して 私たちの利益にならないもののために、権力者によって繰り返し財産を奪われてきたのです。」 うん。 そして彼らは、それが帝国だと言って、 私より先にそのつながりを作ったのです。 わかった。 しかし、コンテンツの モデレーションやデータの注釈付け業務のアウトソーシングは、 テクノロジー業界では目新しいことではありません。 コンテンツ、特にコンテンツのモデレーションは YouTube や Facebook、その他のソーシャル メディアで行われると思います 。 そして、私は、米国の会社
29:16 からアウトソーシングするようなアジア人がこれに苦労しているという報告をたくさん見てきました 。 しかし、 それらと一般的な 生成 AI モデルの開発との間には大きな違いがあります。 そうですね、私たちが話しているのは、 AI 開発の規模が、以前の ソーシャル メディア時代の企業とは根本的に異なるということです。 ソーシャルメディア時代と生成AI 時代の両方にまたがるメタを見てみると、AIモデルをトレーニングするために蓄積する必要があったデータの量を見てみると、 ソーシャルメディア時代には、広告ターゲティングエンジンを動かすために 約400万アカウント相当のユーザー データを蓄積していました。 そして、生成 AI 時代に移行すると
30:03 、400 万のユーザー アカウントのデータ、または 40 億のユーザー アカウントのデータでは 十分ではないというようになりました。 競争力のある生成 AI モデルをトレーニングするだけでは不十分です。 それで 彼らは文字通り、 買収すべきか、それとも サイモン・アンド・シュスターを買収するだけか、という話し合いを始めました。 他の種類のデータは他の場所で探す必要がありますか? インターネットから情報を集め続けるべきでしょうか ？ そして最終的に彼らが出し た結論は、出版 社を買うのではなく、 ダークウェブからそれらの本をすべてトレントでダウンロードし、 さらに多くのデータをモデルに入力し続けるというものでした 。 これは、 規模がソーシャル メディア時代から 生成 AI 時代へと飛躍したことを理解するための 1 つのデータ ポイントにすぎません。 そしてそれは、
30:54 その需要を満たすために、コンテンツ モデレーションと労働契約労働力の規模が急増したことを意味します 。 データセンターでも規模の拡大が見られます。 つまり、以前の データ センター開発では、電力の面で世界の電力網に実際に負担をかけるような レベルのデータ センター開発については話していませんでした 。 今、私たちはそうしています。 また、最近の マッケンジーのレポートでは、 AIの開発と 展開を強化するためだけに現在行われているデータセンターとスーパーコンピュータの拡張に基づくと、今後5年間で、世界第5位の経済大国であるカリフォルニア州の年間 消費エネルギー量の2～6倍を 世界の電力網に追加する必要があると予測されています 。 そしてそのほとんどは化石燃料になります 。 うん。
31:39 そして、私たちは、 データの消費、データ スクレイピング、契約業務、データセンターの 開発、リソースの抽出、エネルギー 消費において、これまでとは根本的に異なる段階に到達しつつあります。 うん。 ということは、Meta が Scale AI の株式 49% を取得した理由はほぼこれですね? それは 先週、えっと今月に起こったことですか 。 それで、それらの動きについてどう思いましたか ? はい、まさにその通りです。 彼ら、 Meta は、 この 特に大規模な AI 開発 アプローチを追求し続けるためには、競争力を維持するための重要な要素の 1 つが
32:25 労働力であることを認識しました。 私が本で取り上げている企業のひとつであるスケールAIは、 ビジネス指標の観点から、 大規模な労働力を蓄積し、 彼らに非常に少ない賃金を支払うという点で特に成功しています。 そして 最終的に、Meta は、その 労働力だけでなく、契約労働力を通じて 非常に多くのさまざまな AI 企業にサービスを提供することで蓄積された実際のビジネス インテリジェンスにもアクセスしたいと考えています。 これは、 これらの労働者が実際にどれほど重要であるかを改めて強調するからです。 彼らは 実際に、 これらの企業と
33:11 その AI 開発の秘密のソースの多くにアクセスできます。 これらの契約労働者がいなければ 、AI モデルは現在の ようにリモートで動作することは実際にはなかったでしょう 。 そして、これらすべての命令のスケールは それを保持します。 それは並外れた 価値です。 つまり、Meta は 人材だけでなく、 マニュアルや、競合 他社が AI テクノロジーの開発にどのような戦略を採用しているかを調査する能力も獲得したのです。 右。 右。 では、 日本のような国でもこうした搾取が起こる可能性があると思いますか？ 日本では、全土でデータセンターの建設が盛んに行われており、いわゆる デジタル貿易赤字が問題になっています。 ええと、
34:00 私たちは米国のソフトウェアとサービスを多く使用しているため、そう呼ばれています 。 それで、あなたはそれについてどう思いますか? 日本は資源搾取と労働搾取の両方に対して非常に脆弱です。 なぜなら、 OpenAI は 日本での顧客基盤を積極的に拡大しようとしているからです。 その ため、東京は 同社が最初に設立した海外事務所のひとつとなったのです。 そして、彼らが日本人の需要に応えようとするとき 、 ケニアの労働者が 英語話者向けモデルのために行ったようなコンセプトモデレーションモデルのキュレーションを行うために、日本語話者が必要になります。 そのため、
34:46 日本語を話す人口が多い場所は世界に限って限られており 、日本はその主要な場所のひとつです 。 そして彼らは 間違いなく、日本国内の 経済的に脆弱な 地域で労働力を探し、そうした労働者を募集し、英語開発の 他のモデルで使用してきた戦略を再現しようとするでしょう 。 そして、 日本国内に建設されるデータセンターの数も大幅に増やそうとしています。 実際、私は著書のために 日本を拠点とするデータセンター投資家と話をしたのですが、その投資家は、 これらの企業が 大規模
35:32 データセンター建設に求めている電力量は、 これまでに見たことのないものだと言っていました。 これらは、 既存の電力インフラを利用してデータセンターを建設するだけのプロジェクトではありません 。 これらのデータセンターに十分な電力を供給できるよう、さらに発電所を建設する場所を計画しています 。 しかし、 米国ではすでに、このような事態が起きると、つまり、 米国のさまざまな地域、 主に 土地が豊富で土地が安く 電気代が安い地方に、巨大なデータセンターや巨大な新しい発電所が建設されると、電力網 に非常に奇妙な歪みが生じる可能性があるという報告が出ています 。 それは電力
36:18 系統の回復力を弱める可能性があります。 それは、 その特定のコミュニティだけでなく、はるかに広範囲の人々にとって公共料金を高騰させる可能性があります 。 そして、 日本の住民が 今心配しなければならないのは、これらのデータ センターが ほとんどの都市中心部からは見えないような場所に広がり続けると、 水道やエネルギー設備への影響を感じることになるだろうということです 。 もし発電所が化石燃料ベースであれば、空気の質への影響を感じ始めるかもしれませんし、 それは数年だけで はなく長期的な波及効果をもたらすでしょ う。そうですね、それは素晴らしい洞察です。
37:05 長くお時間を取らせたくはありませんが、 最後にAIガバナンスを求める声があります。それは 投資家、特に貧しい人々がOpenAIの ようなAIスタートアップに多額の資金を投入して研究開発を 加速させることだと思います。 主要な投資家の一社は日本のソフトバンクです。 つまり、 これらの投資家が ここでは重要な役割を果たしているのです。 では、 投資家は AI 開発に対してどのような責任を負うと思いますか。 あるいは、 投資家が負ってきた責任とは何でしょうか。 はい。 はい。 投資家たちは、
37:53 AI 開発における現在の無謀な競争を促進する上で大きな責任を負っています 。 それは、 AI時代の投資家の多くが、投資先の 事業や財務の持続可能性に基づいて賭けているのではなく、 バブルが崩壊する前にどこかで現金化して 、少なくとも 投資額を回収できるかもしれないという考えに基づいて賭けているからだ。 そして問題は、 ご存知のとおり、今朝投資家たちと話していたのですが、彼らは バブルが 異常に大きくなり、そのリスクが経済 全体に波及するだろうと言っていました。
38:38 なぜなら、この投資の一部は 大学の基金や 人々の退職基金、 金融市場のあらゆる部分から来ているからです。 そして、BOAが破裂して投資が 回収されなければ、 人々の退職金や老後の貯蓄が 実際に煙と消えてしまうのです。 消えても人々に影響を与えない、ただの無意味なお金ではないのです。 ええと、現在、 多くの投資家が この技術の開発に多額の資金を投入しています が、必ずしも利益が得られていないのが現状です 。その理由の 1 つは、誇大宣伝が多すぎて、人々が損失を被ることを本当に恐れているからです。 そして、 さまざまなファンドが、
39:24 AIに投資していると言うことは、 必ずしもより多くの利益を生み出す方法ではなく、 単に資金をより 早く調達する方法であり、より多くの資本を集めるための非常に優れた方法であることに気づきました。 そして、 投資家にとって、AIの 誇大宣伝に逆らうことはキャリアに大きなリスクを伴います。 つまり、 投資家が、 必ずしも実際に 賢明な財務状況を把握することなく、 実際に計算がうまくいくかどうかも確認せずに、この投資に飛びつく原因となっているさまざまな複合的な要因があるのです 。 そして残念なことに、それが 健全な範囲をはるかに超えてバブルを永続させ続けています。 そして最終的に、より有益でコストの少ない 他の形態の AI 開発に移行したいのであれば
40:15 、何 よりも まず資本を他のアプローチに再分配する必要があります。 したがって、投資家はそこに到達するために、他のアプローチに移行し 、他のアプローチに移行する大胆な行動を取らなければなりません 。 右。 右。 最後の部分は AGI についてです。 誰もが AGI について話しています。 AGI は数年先だと誰もが言っていますが、 本に書かれている 定義は非常に曖昧です。 では、 AGI に備えるにはどうしたらよいのでしょうか、あるいはその ような世界に備えるにはどうすればよいのでしょうか 。
41:01 したがって、私は、 AGI は数年先に実現すると誰もが言っているという考えに反対したいと思います 。 実際にそう言っているのは、AGI が数年後に実現すると皆が信じて大金を儲けることができる人たちだけです 。 先日、ニューヨークタイムズに、 なぜ AGI がすぐに実現しない可能性があるのかを見出しにした記事が掲載されました 。 そして、この分野 で高く評価されている AI 研究者を対象とした調査から次の統計を引用しました 。 そして彼らの 75% は、AGI を開発する ための技術がまだ存在していないか 、そもそも開発できる見込みがないと考えています。 うん。 ですから、 本末転倒せずに、AGI とともに どう生きていくかについて話し合い
41:46 、それが すぐには実現しないことを認識することが本当に重要だと思います。 科学者たちは、実際のところ、それが近いうちに起こるとは考えていない 。 彼らは それが本当に来るのかどうかさえ知らない。 そして、最終的に私たちが焦点を当てるべきは 、 AGI の探求とはまったく関係のない、 よく範囲が 定められた課題をターゲットとするタスク固有の有益なアプリケーションである AI テクノロジーを開発するために、現在、資本やリソースをいかに思慮深く再配分できるかということです。 それは、 MRI スキャンでがんを早期に特定することで医療を改善することであったり、 アミノ酸配列からタンパク質の折り畳み方を正確に予測し、
42:33 2024 年にノーベル化学賞を受賞した DeepMind のアルファ フォールド システムなどの新薬発見を改善することであったり、あるいは、 より多くの再生可能エネルギーをグリッドに統合して、よりクリーンな エネルギーの未来に迅速に移行できるようにしたり、 エネルギー貯蔵容量を向上させる新しい材料の発見を支援したりするタスク固有の AI システムに焦点を当てることであったりします。 ええと、こうしたすべてのタイプの AI テクノロジーこそ、私たちが 時間とエネルギーと焦点を注ぐべき分野であり 、いわゆる万能マシンを構築するという探求から方向転換するべきです 。なぜなら、そのようなマシンはおそらく実現しないからです。 現在、膨大な量のリソースを消費しています。 莫大な量の労働被害を永続させており 、結局のところ、
43:21 この技術を構築しようとしている人々が 言っていたような経済的利益を実際にはもたらしていないのです。 このテクノロジーの実績は、 実際に人々の生産性を向上させるという点では、せいぜい中程度のものでした 。 ええと、私は、 最終的に私たちが 役立つ AI を構築するためにこれらすべてのリソースを消費するのではなく、実際に AI が私たちのために機能する AI テクノロジーを構築するのを支援する機会が私たちにはあると本当に思っています。 つまり、すべてが 生成 AI モデルである必要はない、ということですね? その通り。 生成 AI は、 AI テクノロジー全体の中ではごく一部であり、 これまでのところ
44:08 コストと利益の トレードオフが最も悪いテクノロジーです。 うん。 うん。 たぶん、私はあなたを手放さなければならないでしょう。 それでは、ありがとうございます。 ああ、お話できてよかったです。 本日はご参加いただきありがとうございます。 招待 していただき本当にありがとうございます。 うん。 ありがとう。 [音楽]
