第１２５回目はAI科学者のイリヤ・サツケバーを取り上げた。

「ChatGPTの完全版は公開しない」

2019年、OpenAIの会議室で異例の決定が下された。AIの歴史上初めて、AI研究者たち自身が「これは危険すぎる」と判断した瞬間だった。この決断の中心にいたのが、イリヤ・サツケバー。なぜ彼は、自らが生み出したAI技術に恐れを抱いたのか？

その答えは、5歳の少年時代にまでさかのぼる

👫 もくじ

1. 写真日記：ひつじのケツ
2. 第２回「みんなの討論会」は６月１８日の日本時間２２時から
3. 企画会議ですごいアイデアもらった
4. そんなのAIに置き換え可能でしょ！
5. 影の天才AI科学者 - イリヤ・サツケバー
6. なぜ私は私なのか？（1990年代）
7. トロント大学で師と出会う（2000年代）
8. 革命前夜の無謀な賭け（2011年）
9. 次の単語を予測するだけのモデル（ 2013 - 2016）
10. OpenAI緊急会議「このAIを世に出していいのか？」（2019）
11. なぜシンプルなアイデアが奇跡を起こすのか
12. もし高度なAIが災害警報を行ったら
13. 理解できない知性との共存
14. スケーリングからAGIまで

🐑 写真日記：ひつじのケツ

🍣 第２回「みんなの討論会」は６月１８日の日本時間２２時から

「みんなの討論会（第２回）」を６月１８日（水曜日）日本時間２２時から１時間で行います。

みんなの討論会とはXスペースに１０人のスピーカーさんが集まって討論を行う会。第２回目のテーマはAI。

• テーマ
• • AI時代にクリエイターが生き残る方法は？
• 形式
• • Xスペースでのライブ討論（1時間）
• スピーカー
• • 10名（前回出場者は６名まで）
• 合言葉
• • 「そんなのAIに置き換え可能でしょ！」

前回も思ったんだけど、この討論会に出るとわりとメリットあります。スピーカー登録は誰でも先着順で可能。ぜひー！

🐶 企画会議ですごいアイデアもらった

先日、「みんなの討論会（第２回）をどうすればいいのか？」を考える、企画会議をXスペース上で行った。みなさんからたくさんのいいご意見とアイデアをいただいた。

その場で「それめっちゃいい！」となって、即採用だと思うのがいくつも出た。ありがとうございます！

あの会議の後「もうこれは日付を設定してサッサとやった方がいいな」と思ったのでやることにした。

🍕 そんなのAIに置き換え可能でしょ！

第２回目の合言葉は「そんなのAIに置き換え可能でしょ！」これは討論会で1 vs 9の構図を作ってスピーカーのみなさんに対立していただくため。

使い方

• Aさん「AIにはできない私の声で音声配信するのがクリエイターの生き残る道だと思います」
• 他の参加者「そんなのAIに置き換え可能でしょ！AIめっちゃ音声配信やってますよ」
• Bさん「AIには歴史が作れないので時間をかけて創作活動がんばります」
• 他の参加者「そんなのAIに置き換え可能でしょ！歴史を作るのはAIの得意分野ですよ」
• Cさん「AIには人とのつながりが作れないので。。。」
• 他の参加者「そんなのAIに置き換え可能でしょ！」

というように。この会に参加することはそのまま全員にツッコまれることになる。

情報発信にとってリアクションを得ることは貴重な体験になる。うわべだけで「そうですねー」なんて賛同しているフリよりも、真剣に考えられたツッコみの方が１００倍嬉しいはず。

ツッコまれ好きの方はぜひ参加して楽しんでください。

とにかくAIの発展はすさまじいし、個人クリエイターは全員がこのAIのトレンドの影響を受けるはず。ということで今回のレポートはAI業界の最前線で活躍するAI科学者について。

📚 影の天才AI科学者 - イリヤ・サツケバー

AI革命の中心にいながら、ほとんどメディアに出てこない男がいる。

2012年のImageNet革命。2019年のGPT-2。2022年のChatGPT。これらのプロジェクトにはいつも同じ名前「イリヤ・サツケバー」があった。

OpenAIの共同創設者でチーフサイエンティストでありながら、メディアを避け、インタビューはほとんど受けない。

「理解することが本当の仕事。新しいアイデアは控えめな部分にすぎない」と語る。

イスラエルで生まれ、カナダで学び、アメリカでAI革命を起こした男。現代AI研究の最重要人物。

2024年、彼はOpenAIを離れ、Safe Superintelligence Inc.を創業した。今の彼の関心は「安全な超知能」の実現にある。

AI時代の最も重要で、謎めいた人物の考え方には、これからのAI時代を生き抜くヒントがあった。

🎮 なぜ私は私なのか？（1990年代）

5歳のイリヤが体験した奇妙な感覚。「なぜ私は私なのか？なぜ意識があるのか？『意識がある』と錯覚しているだけなのか？」この違和感が少年を思索の世界へと導いた。

ソビエト連邦崩壊後にイスラエルへ移住した家族の中で、彼は意識の謎に取り憑かれていく。ただ周りは彼の疑問をまったく理解してくれない。

1990年代後期、ティーンエイジャーとなった彼は「もし人工知能を作れたら、意識の謎も解けるかもしれない」と考えた。

🍩 トロント大学で師と出会う（2000年代）

2000年代、トロント大学でジェフリー・ヒントンと出会う。

当時、深層学習は「終わった技術」と見なされていた。しかし、ヒントンは他とはまったく異なるビジョンを持っていた。

人間の脳が深層構造を持つなら、人工ニューラルネットワークも深くできるはず

2010年、10層のニューラルネットワークを訓練することに成功。

イリヤは確信した。もし10層で脳の100ミリ秒分の処理ができるなら、物体認識も可能なはず。

彼は「ビッグデータ＋大規模計算＋深いネットワーク＝汎用的なAI」という方程式が成り立つと考えた。

🐧 革命前夜の無謀な賭け（2011年）

2012年、膨大な画像をコンピュータで正確に分類する世界最大の競技会ImageNetでの出来事。

当時、深層学習は時代遅れとされ、ほぼ全てのコンピュータサイエンス界は懐疑的だった。

しかしイリヤには確信があった。人間の脳は100ミリ秒で物体認識ができる。ニューロンの発火速度から計算すると、10層程度の深さがあれば十分。前年の優勝チームのエラー率は25.8%。毎年、数％ずつ改善されていた。

ImageNet結果発表の瞬間、会場は静まり返った。

SuperVision：エラー率15.3%。

2位から圧倒的な差をつけ、前年から１０％以上も向上させる画期的な勝利だった。

昨日まで深層学習を否定していた研究者たちが、詳細を求めて押し寄せた。それは競技会の勝利以上の意味を持ち、この日がAI研究の転換点だった。

後にイリヤは語る。「昨日まで不可能だと言っていた人々が、今日はできると言い始めた。でも、あれはただの始まりに過ぎなかった」

🎧 次の単語を予測するだけのモデル（ 2013 - 2016）

「次の単語を予測するだけの機械が、なぜ文章の意味を理解できるのか？」

2013年、AI研究者たちも疑っていた。マシーンがただの統計処理で言語の意味を理解できるはずがない、と。

LSTMという記憶機能を持つニューラルネットワーク。最初は５００個の記憶セルしかない小さなモデルだった。それを４０００セルに拡張したとき、予想外の現象が起きた。

ニューラルネットワークが文章の感情を捉え始めた。

映画レビューを読ませるとポジティブな評価とネガティブな評価を捉えた。誰も教えていない。なのにマシーンは「いい映画」と「ダメな映画」の違いを理解していた。

イリヤは気づいた。「小さなモデルは文法を学ぶのに精一杯。でも大きくなると文法をマスターし、その先の意味に目を向け始める」

なぜ次にその単語が来るのか？それを予測するには、文章全体の意味、書き手の意図まで理解する必要がある。一見単純な「次の単語になにが来るかを予測すること」の中には言語理解の本質が隠されていた。

イリヤのこの洞察は、後のGPTシリーズの基盤となった。統計から意味が生まれる。AIが真の「理解」へ踏み出した瞬間だった。

🚨 OpenAI緊急会議「このAIを世に出していいのか？」（2019）

2019年、OpenAIの研究室は異様な緊張に包まれていた。

GPT-2が生成した文章は、誰が見ても人間が書いたものとしか思えなかった。ニュース記事、小説、詩、何でも書ける。研究チームは自らの成果に震撼した。

イリヤ・サツケバーは科学者として大成功。しかし同時に、深い懸念も抱いていた。

フェイクニュース、なりすまし、プロパガンダ、考えられる悪用は無数にあった。選挙介入、詐欺メール、偽の科学論文。GPTなら全て可能だった。

会議室で激論が交わされた結果、前例のない決定が下された。段階的リリース。小さなモデルから始め、社会の反応を見ながら徐々に公開する。AI研究史上初の「自主規制」だった。

後にイリヤは語る。「我々は初めて、力には責任が伴うことを実感した」

それまでAI研究者は技術の進歩だけを追求していた。しかしGPTは新たな問いを突きつけた。科学者は社会にどこまで責任を持つべきか？強力な技術をどう管理すべきか？

6ヶ月かけた段階的公開の結果、危惧された大規模悪用は起きなかった。しかしこの経験は、AI研究が成熟期に入ったことを示していた。

無料コンテンツはここまでです。

以下の有料コンテンツでは世に出ているイリアの数少ないインタビューの中から彼の思想とAI技術をまとめてレポートしました。

有料購読いただくと月に４−５本の有料配信が届きます。１記事２００円ぐらいで、値段以上の価値は提供してます。ぜひ有料購読してみてください。

有料コンテンツの内容

• なぜシンプルなアイデアが奇跡を起こすのか
• もし高度なAIが災害警報を行ったら
• 理解できない知性との共存
• スケーリングからAGIまで