【AI研究者が解説】今、AIはどの程度安全なのか。10年前の予測と現状を専門的視点から比較（2025年9月15日配信版）

1:08 10年前のBostrom氏の予測と、10年後の現状
2:15 整合性問題（アライメント）の中核課題
8:57 「欺瞞・ごまかし」など望ましくない振る舞いの懸念
10:22 モデルが評価を察知して取り繕う可能性
11:26 ガバナンスの必要性
13:21 地政学・供給網リスク／社会的合意形成・危機認識
14:52 AI × 合成生物
15:25 決定的戦略優位と、急激なインテリジェンス・エクスプロージョン
16:56 全脳エミュレーション（WBE）等のルート
17:36 まとめとディスカッション
　
前回はこちら：   • 技術進歩で貨幣の価値がなくなる？AIの生産性が社会制度や人間の欲望を変える未来（20...  
　
★「超知能時代を予見した哲学者が見る未来」シリーズ
①   • 10年前はSF扱いだった予測が現実に？哲学者Nick Bostromが語る、AIの制...  
②   • デジタル生命や「超存在」との共存…超知能時代の理想郷『Deep Utopia』で起こ...  ⁩
③   • 技術進歩で貨幣の価値がなくなる？AIの生産性が社会制度や人間の欲望を変える未来（20...  ⁩
④   • 【AI研究者が解説】今、AIはどの程度安全なのか。10年前の予測と現状を専門的視点か...  
　
◆関連URL
・Nick Bostrom著 - Superintelligence: Paths, Dangers, Strategies
https://amzn.asia/d/6Z47WCz
　
◆対談者情報
　
［遠藤 太一郎］
国立大学法人東京学芸大学 教育AI研究プログラム 教授
株式会社カナメプロジェクト CEO
AI歴25年。18歳からAIプログラミングを始め、米国ミネソタ大学大学院在学中に起業し、AIを用いたサービス提供を開始。AIに関する実装、論文調査、システム設計、ビジネスコンサル、教育等幅広く手がけた後、AIスタートアップのエクサウィザーズに参画し、技術専門役員としてAI部門を統括。上場後、独立し、現在は株式会社カナメプロジェクトCEOとして様々なAI/DAO/データ活用/DX関連のプロジェクトを支援する。国際コーチング連盟ACC／DAO総研 Founder等
https://kaname-prj.co.jp/
　
［湯川 鶴章］
株式会社エクサウィザーズ AI新聞 編集長
米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』（2015年）、『次世代マーケティングプラットフォーム』（2007年）、『ネットは新聞を殺すのか』（2003年）などがある。趣味はヨガと瞑想。妻が美人なのが自慢。
https://community.exawizards.com/aish...
　
［西野 芙美］
The WAVE 編集長
東京・下町生まれ。早稲田大学文化構想学部で史学、文学、哲学などを学び、出版社勤務を経て、株式会社TENGAに広報として入社。同社の国内マーケティング部 部長、マーケティングディレクターを務め、PR戦略や組織戦略策定からメディア出演、イベントMC、コラム連載まで幅広い業務に従事。TENGA社退職後、2025年8月よりThe WAVE 編集長に就任。