本書は雑誌『文學界』において数々の人文的・科学的な著作で有名な山本貴光、吉川浩満氏が聴き手となり実施した大澤真幸氏 (社会学者)、川添愛氏 (言語学者)、三宅 (ゲームAI開発者) への個別インタビューを編集したものである。また、書籍化にあたり、全員が集まって座談会を行った記録を収録した書籍である。座談会のテーマは表題の「私たちはAIを信頼できるか」であり、ますますAIに依存する社会に変化する中で、人間とAIの関係を問い直す企画である。大澤氏は大きな歴史的スケールでAIの社会への介入を捉える。資本主義社会において、人間と社会の価値変化を説く。川添氏はAIが何を学習しているか、認識しているか、AIと人間の関係性を語る。三宅はAIの存在的価値について指摘する。
 
私たちはAIを信頼できるか、という問には、二つの言葉、私たち (人間) とAI (人工知能) が含まれている。しかし、人間とは何か、さらに、AIとは何かを、我々はまだ知らない。人間も変化する、AIは人間よりも速いスピードで変化する。つまり、人間とAIの関係自体が共に変化していく。この人間とAIの関係の進化は「シンギュラリティ」と呼ばれる。そして、その関係性は社会のいたるところに張られることになる。人間とAIの信頼について語ることは、人間同士の信頼とは何かについて問い直すことでもある。社会は信頼関係からできている。法そのものは抑止力や制度としては働いても、人間同士の自由な関係にその場で強制力をもって介入することはできない。法は常に後から人を裁く。ではAIによって社会に法的な力を行使することで、AIは人間の行為に先んじて法を行使する主体となり得るだろうか？実際に、いくつかの国では、AIをそのように法を行使する主体として、あるいは、法を順守させるように促す存在として社会に置かれている。人間と人間の信頼で出来上がっている社会は、AIによって変化しつつある。
 
では、そのようなAIは公正な存在なのだろうか。AIは製作者がいる以上、製作者のバイアスが入るのである。ハードウェアとしてのソフトウェアとしても、そこに製作者の意図が介在する以上、公正であることは保証されない。ではAIが公正であることを保証する方法はあるだろうか？
 
またAIは実際にエッジ側とクラウド側に分かれる。エッジとはユーザの手元にあるパソコンや携帯、クラウド側はどこかの会社にあるサーバー上、という意味である。つまり、エッジ側のAIと対話している、つもりでも、企業にあるサーバーと対話しているということもある。このようにAIが常にオンラインであるとすれば、自分の目の前にいるAIは。必ずしも自分の目の前にいるAIではない。そのような場合に、AIを信頼する、という意味のAIとは何なのだろうか？
 
本書が世に出されていたから、生成AI、言語AIなど急激にAIも変化した。ただ本書が扱っているのは、さらにその先である。より世の中の仕組みそのものにAIが浸透したときの社会の変化を議論している。
 

(紹介文執筆者: 生産技術研究所 特任教授 三宅 陽一郎 / 2023)

本の目次

関連情報

文學界インタビュー:
AI研究者・三宅陽一郎インタビュー「AI研究は世界と知能を再構築する」 (文學界｜note　2022年4月30日)
https://note.com/bungakukai/n/nbae9b10377fc
 
書評:
中村桂子 評　(毎日新聞　2022年10月8日)
https://www.excite.co.jp/news/article/AllReview_00006582/
 
書籍紹介:
「モンスターを見つけると勝手に攻撃し始めたり…」3Dゲームで仲間のAIキャラクターを信頼できない“本当の理由” 『私たちはAIを信頼できるか』より #1　(文春オンライン　2022年9月13日)
https://bunshun.jp/articles/-/57140
 
人間と人工知能の決定的な違いとは？　『スター・ウォーズ』R2D2以前に作られた“3つのロボット”の失敗物語 『私たちはAIを信頼できるか』より #2　(文春オンライン　2022年9月13日)
https://bunshun.jp/articles/-/57141

[動画] #121活動報告　(哲学の劇場｜YouTube　2022年9月2日)
https://www.youtube.com/watch?v=GDeLu4lQs28
 
関連記事:
[連載] 三宅陽一郎　人工知能「超・進化論」 (日経XTREND)
https://xtrend.nikkei.com/authors/18/miyake_youichirou/
 
AIが変えるゲーム開発　生成物責任などガイドライン急務　(日本経済新聞　2023年10月13日)
https://www.nikkei.com/article/DGXZQOUC0677G0W3A900C2000000/
 
ゲームAIが都市 (≒環境) に溶け出すとき：三宅陽一郎×豊田啓介［ダイアローグ編］ (WIRED　2022年9月15日)
https://wired.jp/article/vol46-invisible-seamless-2/
 
ゲームAIが都市 (≒環境) に溶け出すとき：三宅陽一郎×豊田啓介［インタビュー編］ (WIRED　2022年9月14日)
https://wired.jp/article/vol46-invisible-seamless-1/
 
インタビュー:
「賢さ」と「盛り上げ」のせめぎあい。三宅陽一郎が語るゲームAIの歴史 #01　(Lights Will　2024年6月19日)
https://lightswill.com/bs2n/game-ai-miyake/240619-1/
 
エンジニアの役割は「おもしろい体験」をつくる手段の実現 #02　(Lights Will　2024年6月19日)
https://lightswill.com/bs2n/game-ai-miyake/240619-2/
 
人工知能の分野にも存在する「世界観」と人が物語を必要とするワケ――ゲームAI開発者・三宅陽一郎さん　(CreatorZine　2023年9月4日)
https://creatorzine.jp/article/detail/4622
 
「ゲームAIの世界はフロンティアだらけ」スクエニ・三宅陽一郎さんが語る「知能を作り出す面白さ」 (外資就活ドットコム　2023年8月25日)
https://gaishishukatsu.com/archives/210571
 
三宅陽一郎氏が説く、シンギュラリティの向こう側 [全3回]　(logmiTech　2023年6月26日・27日・28日)
https://logmi.jp/tech/articles/328722
 
「海外ゲーム＝荒削り」で有名だったが…20年前まで“敵なし”だった日本のゲーム業界が海外勢に追い抜かされた理由『7つの明るい未来技術』 #1　(文春オンライン　2023年5月20日)
https://bunshun.jp/articles/-/62697
 
「高度なAIが出てきても、人間に取って代わることはない」80点のものを100点にできるのは人間だけ…研究者が語った「AIとの正しい付き合い方」『7つの明るい未来技術』 #2　(文春オンライン　2023年5月20日)
https://bunshun.jp/articles/-/62698
 
対談:
三宅陽一郎×森正弥「分散協調型のゲームAIの進化と、経営におけるAI活用の未来」 (Harvard Business Review　2022年5月17日)
https://dhbr.diamond.jp/articles/-/8540
 
関連動画:
三宅陽一郎×平野啓一郎「AIと人間の境界線―AIとは何か そして人間とは何か」 (楽天大学ラボ｜YouTube　2024年5月31日)
https://www.youtube.com/watch?v=E16Y1vq_SNs
 
【ゲームAI】三宅陽一郎「ゲームクリエーターが見たAI論　知能と知性の狭間で」by LIBERARY (旧名称： リベラルアーツプログラム for Business)　(LIBERARY｜YouTube　2024年3月1日)
https://www.youtube.com/watch?v=ctJtXh1heJw
 
三宅陽一郎氏：大規模ゲームで生成AIは使えない？使える？：情処ラジオ　(情報処理学会｜YouTube　2023年7月21日)
https://www.youtube.com/watch?v=3EzpjNbBaMI

このページを読んだ人は、こんなページも見ています