ISBN 9784314011716
LIFE3.0──人工知能時代に人間であるということ
概要
超知能AI出現後の12シナリオを軸に、AI安全性と人類の未来を考察する
想定読者
AIの技術的進歩を労働・法・倫理・宇宙という広い文脈で理解したいエンジニア・研究者・政策立案者・経営者。AI安全性や存在リスクの議論に主体的に参加したい社会人。
こんな人には向いていない
- 機械学習やディープラーニングの実装スキルを身につけることが目的の技術者には、本書はコードを扱わず哲学的・論考的な内容が中心のため直接の実務訓練にならない
- AI倫理の結論を短時間で得たい読者には512頁の分量と問い続ける姿勢が負担になる可能性がある
- AI安全性や存在リスクを専門的に研究している学術者には、各論点の概説的な性格が物足りない場合がある
読了後にできるようになること
- LIFE 1.0/2.0/3.0というフレームワークを用いて、生命の段階と知能拡大の歴史的文脈を説明できる
- 知能・記憶・計算・学習の物理的・計算論的基盤を理解し、超知能AIの能力拡大の可能性と限界を論じられる
- AGI出現後の12のシナリオを比較し、それぞれの成立条件と帰結を整理できる
- 自律型兵器・雇用消失・法的責任など近未来の政策課題について技術と社会の両面から議論できる
- フレンドリーAI(目標の合致)の概念とアシロマAI原則の背景を説明できる
- AIが意識を持ちうるかという哲学的・実証的な問いの主要論点を整理できる
本書のキー概念(章解説)
- プロローグ: オメガチームの物語 — 超知能AIが開発された架空シナリオを追う思考実験。本書全体の問題意識が凝縮されており、読み飛ばさないことを勧める
- 第 1 章 いまもっとも重要な議論へのいざない — LIFE 1.0/2.0/3.0の3段階フレームワークを導入する章。ここで軸を掴むと以降のシナリオ分析が理解しやすくなる
- 第 2 章 物質が知能を持つ — 知能・記憶・計算・学習の物理的・計算論的な定義を論じる。AIの能力範囲を原理的に考えるための土台となる章
- 第 3 章 近未来: ブレイクスルー、バグ、法律、兵器、仕事 — 自律型兵器・雇用消失・法的責任など直近数十年の課題を扱う。政策や社会議論の参照章として実用的
- 第 4 章 知能爆発 — 全体主義・多極的シナリオ・サイボーグやデジタルアップロードなどAGI移行期の可能性を探る
- 第 5 章 余波: 1万年先まで — 自由論者のユートピア・善意の独裁者・征服者・後継者・自滅など12のシナリオを網羅する本書の核心章。全通読後に比較一覧を作ると議論に使いやすい
- 第 6 章 宇宙からの恵み: 今後10億年とさらにその先 — 宇宙への入植・資源の最大化・宇宙のヒエラルキーを論じる。スケールの大きさで本書の思考実験の射程を示す章
- 第 7 章 目標 — 物理学→生物学→心理学→工学→友好的なAI→倫理→究極の目標という順序で、目標の起源と設計を考察する。第5章シナリオの理論的根拠として機能する
- 第 8 章 意識 — 意識の定義・計測・理論・AIの意識の可能性まで扱う。哲学色が最も強い章で、前章までの文脈を踏まえて読むと論点の意味が把握しやすい
- エピローグ: FLIチームの物語 — Future of Life Institute設立からアシロマAI原則策定までの実話。著者の活動の文脈を理解する補足として有益
ハイライト
- 超知能AIが出現したら何が起こるかーーAI開発の指針「アシロマAI原則」の取りまとめに尽力し、AI安全性研究を牽引する著者が、来るべき世界の姿と生命の究極の未来を考察する。(著者がAI安全性の当事者として書いた第一次資料であることを示す本書の立場表明。アシロマAI原則共同策定者の視点が全編を貫く)
編集メモ
Qiita言及記事 0件・累計likes 0。楽天ランキング情報なし。技術系プラットフォームでの定量シグナルが取得できないためsupplementary判定。書誌情報としてNY Times Bestseller・オバマ大統領2018年推薦図書・ゲイツTop10技術書・31か国刊行が確認できるが、本スコア算定基準外のシグナル
読む前に押さえておきたいこと
- AIや機械学習の基本概念(ニューラルネットワーク・強化学習・自然言語処理の概論)の知識があると第2章の計算論的考察が読みやすくなる(ただし必須ではなく著者は一般読者向けに解説している)
- 科学的な議論を追う読解力。数式は使わないが論証を丁寧に追う文体であり、科学記事や論説を普段から読む習慣がある読者を前提としている
- AI・技術・社会の交差点に対する基礎的な関心。純粋に実装スキルを得たい読者よりも、文明・人類・未来への問いを持つ読者に向く
学習のコツ
- 第1章の『生命の3段階』フレームワーク(LIFE 1.0/2.0/3.0)を先に定着させてから第3〜5章のシナリオ分析に進むと、各シナリオの前提条件が整理しやすい
- 第5章の12シナリオは全通読した後に、シナリオ名・前提条件・帰結を手書きで一覧化する作業をはさむと記憶に残りやすく、他者との議論でも活用しやすくなる
- 第7・8章(目標と意識)は哲学的論証が多いため、前章まで読み進めた後に改めて第1・2章を見直すと技術的基盤と哲学的帰結の接続が明確になる
- プロローグのオメガチームの物語は思考実験として書かれているが、著者の問題意識の中心が凝縮されており、読了後に再読すると理解が深まる
出版社による内容紹介
超知能AIが出現したら何が起こるかーーAI開発の指針「アシロマAI原則」の取りまとめに尽力し、AI安全性研究を牽引する著者が、来るべき世界の姿と生命の究極の未来を考察する。労働、法律、軍事、倫理から、生命と宇宙、機械の意識まで多岐にわたる問題を論じた全米ベストセラー。31か国で刊行。 「この時代の最も重要な議論に参加したければ、テグマークの示唆に富む本を読めばいい」 ──スティーヴン・ホーキング イーロン・マスク、エリック・ブリニョルフソン、レイ・カーツワイル、ニック・ボストロム、スチュワート・ラッセル、マーティン・リースら推薦！ NY Times Bestseller The Times Books of the Year 2017 Daily Telegraph Books of the Year 2017 バラク・オバマ Favorite Books of 2018 ビル・ゲイツ 10 Favorite Books about Technology ★NHK Eテレで今年放映された番組「超AI入門特別編（全5回）」の、第1回目（6/26）と5回目（7/31）に著者が出演しています。 【目次】 プロローグ オメガチームの物語 最初の数百万ドル/ 危険なゲーム/ 最初の数十億ドル/ 新たなテクノロジー/ 権力掌握/ 統合 第1章 いまもっとも重要な議論へのいざない 複雑さのおおまかな歴史/ 生命の3つの段階/ 論争/ 誤解/ この先の道筋 第2章 物質が知能を持つ 知能とは何か/ 記憶とは何か/ 計算とは何か/ 学習とは何か 第3章 近未来: ブレイクスルー、バグ、法律、兵器、仕事 ブレイクスルー/ バグ VS 堅牢なAI/ 法律/ 兵器/ 仕事と賃金/ 人間レベルの知能 第4章 知能爆発 全体主義/ プロメテウスが世界を支配する/ ゆっくりとした立ち上がりと多極的なシナリオ/ サイボーグとアップロード/ 実際には何が起こるのか 第5章 余波: 1万年先まで 自由論者のユートピア/ 善意の独裁者/ 平等主義者のユートピア/ 門番/ 保護者としての神/ 奴隷としての神/ 征服者/ 後継者/ 動物園の飼育係/ 1984/ 先祖返り/ 自滅 第6章 宇宙からの恵み: 今後10億年とさらにその先 資源を最大限に活用する/ 宇宙への入植によって資源を確保する/ 宇宙のヒエラルキー/ 展望 第7章 目標 物理学: 目標の起源/ 生物学: 目標の進化/ 心理学: 目標の追求とそれに対する反抗/ 工学: 目標を外部に委ねる/ 友好的なAI: 目標を合致させる/ 倫理: 目標を選ぶ/ 究極の目標 第8章 意識 どうでもいい問題なのでは/ 意識とは何か/ 何が問題か/ 意識は科学の範囲を超えているのか/ 意識に関する実験的な手掛かり/ 意識に関するいくつかの理論/ 意識をめぐる論争/ AIの意識は何を感じるか/ 意義 エピローグ FLIチームの物語 FLIの誕生/ プエルトリコでの冒険/ AI安全性研究を主流にする/ アシロマAI原則/ 留意を伴う楽観論
この本がどの学習段階で役立つかは、 関連する ロードマップ から確認できます。