令和6年度研究倫理セミナーを開催

令和6年度研究倫理セミナー
責任ある研究とイノベーションの浸透と実践
東京大学では、「高い研究倫理を東京大学の精神風土に」という目標のもと、平成26年3月に「研究倫理アクションプラン」を策定しました。このアクションプランの中で、「研究倫理ウィーク」を定め、この期間中に本学の構成員に対して研究倫理への理解を深める様々な企画を実施してきました。今年度は、令和6年9月27日(金)に、『責任ある研究とイノベーションの浸透と実践』と題して、研究倫理セミナーをオンラインで開催し、講演およびパネルディスカッションを行いました。本セミナーについて、その模様の一部をご紹介いたします。
開会挨拶(研究倫理推進室 藤垣 裕子 室長)

皆様、本日はお忙しいところ、本年度の研究倫理セミナーにご参加いただき、まことにありがとうございます。私は、研究倫理担当の理事・副学長・研究倫理推進室の室長の藤垣裕子と申します。本日はどうぞよろしくお願いいたします。
研究倫理に関する問題は、たとえ1件でも発生すれば、学術研究に対する、あるいは本学に対する社会からの信頼を大きく損ないます。そこで、本学では、毎年9月に研究倫理ウイークを定め、かつ全学の研究倫理セミナーを開催しております。研究倫理や研究不正というと、我々はどうしても何々してはいけないという「べからず集」を思い起こしてしまいます。しかし、べからず集を毎年聞かされても前向きな検討にはなりません。
そこで2021年度から、志向倫理や、責任ある研究とイノベーション、RRI(Responsible Research &Innovation)に焦点を当てたセミナーを企画してまいりました。
RRIというのは、自分の研究が社会に埋め込まれたときにどのような影響を及ぼすのか想像する力であります。そのような力があってこそ、研究倫理や研究不正に前向きに取り組むことができます。
本学における研究倫理セミナーの企画やRRI及びELSIの組み込みにおいて苦労するのは、本学が総合大学であるがゆえの研究領域の広さと多様性であります。ご自分の領域にRRIやELSIを組み込むには何ができるのか、本日の具体的事例を聞きながら、皆さんがそれぞれの専門分野、部局への応用可能性を考えていただけましたら幸いでございます。どうぞ皆さん最後まで議論に参加していただき、今後の部局セミナーに生かしていただけたらと思います。どうぞよろしくお願いいたします。
基調講演 「研究現場にRRIとELSIを埋め込むということ」(研究倫理推進室 藤垣 裕子 室長)
それでは、「研究現場にRRIとELSIを埋め込むということ」という題で発表させていただきます。
これまで研究倫理セミナーは、FFP(ねつ造と改ざんと盗用)をしないことの注意喚起がメインでございましたので、どうしても「べからず集」になってしまう傾向がありました。もちろんそれも大事なのですが、より広い視野から研究活動を捉えたとき初めてやってはいけないことがわかる。先ほども申し上げましたように、自分の研究が社会に埋め込まれたときにどのような影響を及ぼすのか想像する力があって初めて、やってはいけないことがわかる。その視野を提供するのがRRIであろうというふうに考えております。
2021年度に藤井総長の定めたUTokyo Compassの目標1-5に、「責任ある研究」という項目がございます。また本学の第4期の中期目標、中期計画8-4にも、「責任ある研究・イノベーションの推進」という項目がございまして、そこの数値目標として、責任ある研究とイノベーション、ELSIを組み込んだ研究倫理セミナーを年40回開催するという目標が定められております。
現実のセミナー件数は、21年度は少なかったんですけれども、昨年度、ようやく開催部局数が36になり、セミナー件数が40件で、目標値を達成したことになります。
文部科学省では、AMEDとJSTと日本学術振興会の3カ所が回り持ちで研究公正シンポジウムというものを毎年やっておりまして、昨年はAMED主催で行われました。このシンポジウムで、東京大学におけるRRIとELSIの取り組みに興味を持った主催者の方から声をかけられまして、パネルディスカッションで、「総合大学におけるRRIとELSIの取り組み」として、東大の取り組みを報告させていただきました。
本日は前半で、改めてRRI及びELSIとは何かという話をいたします。後半で、2021年9月から2024年9月の間に東大でどういうことをしてきたかをまとめてお話ししたいと思います。
スライド6は、1980年代から現在に至るまで、左側に科学と社会の接点でどういうことが起きてきたかをまとめてあります。例えば80年代にはヒトゲノム計画が動きました。90年代には狂牛病の問題が起こり、事前警戒原則に注目が集まりました。2000年代になりますと、遺伝子組み換えの安全性をめぐる議論、あるいはナノテクノロジーの安全性、広域気候変動などが問題視されるようになります。
それに対応しまして、科学技術政策のほうでも、例えばヒトゲノム計画を受けて、90年代にNIH(アメリカ国立衛生研究所)でELSI予算ができ、アメリカを皮切りに各国にELSI予算ができるようになります。1999年には、World Science Conference(ブタペスト会議)が開かれまして、「社会における科学」と「社会の中の科学」についての議論が行われ、その20年後には、ブタペスト宣言から20年たって、これからどこへ向かうのかの議論がなされました。
本日扱うELSIとRRIは、このような流れの中にあります。RRIという概念はヨーロッパを中心に2010年代にできてきたコンセプトでございますが、二つの流れが合流してつくられました。一つはELSIの議論で、もう一つはUpstream-Engagement、上流工程からの参加というものでございます。
まずELSIは先端科学技術のEthical, Legal and Social Implicationなんですが、きっかけは、1988年にヒトゲノムプロジェクトの長だったJames D. Watsonが記者会見をやったときの発言であると言われています。ヒトゲノムを全部読めるようになったらいろいろと倫理的な問題が発生するはずですけれども、それについてどう考えるかと質問されたときに、今後の研究の倫理的・社会的影響についての研究をNIHの予算を用いてやるべきだと彼が主張したのが始まりです。
この発言を受けて、実際に90年に米国でNIHにELSIの予算がつくられます。内容は、全研究開発予算の数%をその研究の倫理的・法的・社会的研究に用いるというものです。2000年には、カナダでELSI予算がつくられました。2002年には、英国、オランダ、ノルウェー、2008年にドイツ、オーストリア、フィンランド、日本では2017年にセコム財団でELSIの研究にファンディングが行われるようになり、2020年からはJSTにもELSI領域ができ、また、2019年から内閣府で行われているムーンショットプログラムでもELSIが議論されるようになりました。
もう一つの流れがUpstream-Engagementといって、科学技術のあり方に対してどのように評価するかというときに市民参加をどう組み込むかの議論の中で、上流工程からの市民参加ということが言われたことが始まりです。
これには結構長い歴史があって、最初は1972年に、米国の議会技術評価局が、科学技術が社会に与える影響を専門家が評価することを始めました。1980年代にこのテクノロジーアセスメントがヨーロッパに輸入されたときに、評価パネルとして、専門家だけではなくて市民を採用するようになります。これがParticipatory Technology Assessmentの始まりです。
具体的には、90年代になると、コンセンサス会議が参加型テクノロジーアセスメントの例として始まるようになります。同時並行して、英国ではBSEのスキャンダルが起こります。2000年代になると、欧州では、遺伝子組み換え食品・作物の論争が始まります。英国ではナノジュリー(Nano Jury)――ナノテクノロジーをめぐる市民陪審員制度なども始まります。
このときに、研究開発を川の流れに例えたならば、その下流、つまり製品になってから議論するのではもう遅い、もっと研究開発の初期の段階で市民参加が必要であろう、ということが議論されました。これが上流からの市民参加の意味です。
ELSIと上流工程からの市民参加の議論を受けて、2011年以降、RRIというコンセプトができました。これは、欧州連合の科学技術政策(Horizon2020)の中で使われています。EUの科学技術政策は7年を一区切りとしたフレームワークプログラムが動いていましたが、第7次まで動いた後Horizonになって、その中にRRIが出てきます。
RRIの定義ですが、研究及びイノベーションプロセスで社会のアクター、具体的には研究者、市民、政策決定者、産業界、NPOなど第三セクターが協働することとなっております。協働することの原語はwork togetherです。
ブリュッセルにある欧州連合の研究総局の建物の壁には、RRIを図示したような、そのキーワードを図示したようなものが張ってあります。また、国際会議で使われた図の中では、RRIというのはいろんな概念のアンブレラタームとして使われていることが表現されていました。例えばテクノロジーアセスメントとか、あとは企業の社会的責任とか応用倫理であるとか、ELSIであるとかAnticipatory governanceとか――これは予測して備えるガバナンスなんですけれども、今、科学技術と社会との間のことを考えるときに重要な論点を包み込むような、アンブレラタームとしてRRIで機能しているということを示すものです。
RRIのエッセンスは三つあります。一つ目がOpen-up questions(議論をたくさんの利害関係者に対して開く)、それからMutual discussion(相互議論を展開する)、それからNew institutionalization(議論をもとに新しい制度化を考える)というものです。
2016年の国際会議で、RRIを日本の2011年の原発事故に応用するとどういうことになるのかというセッションを欧州の研究者と一緒に持ちましたので、そこで議論した内容を紹介します。
Open-up questionsは、安全性基準などを地元住民にも開かれたものにするということになります。Mutual discussionは、互いに異なる重要と思われる論点について相互の討論を行う。福島の経験をもとに各国が学び合うということになります。New institutionalizationは、それらの原発ガバナンスに関する議論をもとに、現在の規制局の在り方をつくりかえていくことになります。これは原子力に関するRRIの応用ですが、それぞれの分野で応用の仕方があるかと思います。
RRIには四つのポイントがあります。まず、「予見的(Anticipation)」という言葉がよく使われます。イノベーションや研究開発がもたらす潜在的影響を予測すること。
それから反射性。「反省性」と訳すこともあるんですけれども、問題を捉えるとき、どのような枠組みで捉えているのか、そのフレーミングを問い直してみること。
それからDiversity & Inclusionというのも入っています。「人工物の権力論」の中でよく言われることですが、技術というものには必ず価値が入り込む。それでは、、そこに一体誰の価値が入り込むのか、いろんな人の価値をきちんと吟味しないといけないという話になります。
それからResponsiveness。意思決定のプロセスで相互批判や疑問に対する呼応ができているか。そういうようなこともRRIの中に含まれます。
今、Anticipateという言葉を使いましたけれども、アメリカ人で、科学者の社会的責任についての本を書いているフォージは、本の中で、「予測」という言葉に「foresee」という単語を使っています。ただ、欧州でRRIを議論するときには、「foresee」ではなくて「anticipate」という言葉を必ず使うんですね。
ロングマンの英英辞典を引いてみますと、foreseeはあくまで将来起こることの予測、to see or form an idea about (what is going to happen in the future) in advanceです。でもanticipateを引きますと、1番めはforeseeと同じですけど、2番めにto guess or imagine in advance (what will happen) and take the necessary action in order to readyということが書かれています。ですから、予測だけでなく備えの意味が入るんですね。ですので、anticipate、予測して備えるという意味がRRIには入っていると考えてよろしいかと思います。
なぜEUでRRI概念が発達したのか。これも欧州の研究者に疑問としてぶつけてみたんですけど、ヨーロッパは異なる文化、異なる価値観を持った国々が狭いところにひしめいている。各国が異なる歴史を持ち、何がよい生活なのかについてのイメージや、科学技術に何を求めるかの考えが異なる。原子力に対する考え方も、フランスとドイツで違ったりとか、そういうことがあるわけですね。遺伝子組み換え作物や食品についての考え方も国によって異なる。
そういうときに、cohabitateするためにはどういうイノベーションが必要なのか、常にみんなで議論して異なる文化や背景を省察して、共存の道を探らなくてはならない。そのような中でRRIという概念が出てきたのだそうです。ですから研究開発プロセスにおけるDiversity & Inclusionというふうに考えることもできます。
またそもそも学問のあり方自体にも、ただ現象を記述するだけではなくて、予測して、備えて、何らかの行動をとる、proactiveな学問のあり方を提案をするようなものでもあります。
スライド17は、2年前に小林傳司先生が基調講演で使ったときのスライドを左側にとってきています。RRIは、発祥こそヨーロッパですが、それ以外にもアメリカのDARPAで同じようなことをやってますよと。米国のNSFでも科学のBroader Impactsで同様のことを言っています、というお話がありました。
スライド17の右側は主にアメリカの研究者が中心になってつくっている『Journal of Responsible Innovation』の表紙ですけれども、科学技術あるいは技術が責任あるものであるためには何をすべきかを、ヨーロッパ・米国中心に考えているということであります。
実際に日本でも国際共同研究をしている研究者の方たちは、相手国がELSIとかRRIに言及するため、どうしてもその定義を知らなければならないということがあるようです。私自身、JSTの共生インタラクションのクレスト領域の会議でお話をしたことがありますが、ロボットやAIの研究をするときに、海外の共同研究者たちがそういう知識を持って日本の技術に対して質問してくるので、知識を持っていないと議論ができなくなるということが示されております。ここまでが概念の説明であります。
本学におけるELSI・RRI
本学における取り組みの話をしたいと思います。
まず3年前の2021年9月の研究倫理セミナーでは、「志向倫理と責任ある研究・イノベーション」の話を行いました。その1年後、2022年9月は、「責任ある研究とイノベーションを考える」という題で、基調講演と4分野での具体例の発表を行いました。
2022年は、阪大の元理事で、今はJSTの社会技術研究開発センターのセンター長である小林傳司先生に、「科学技術とSocial Relevance」の話をしていただき、その後に本学の各先生方の分野別の話題提供をお願いしました。本日司会をしている松田先生からは量子コンピュータのELSIやRRI、それから現在医学系研究科長である南学先生からは、医療研究の最先端でELSIとRRIを考えるというお話をしていただきました。教育学研究科の両角先生から、教育学におけるELSIやRRIの話をしていただきました。そして工学系研究科の和泉先生に、研究プロセスで研究対象の選択に偏りがあるときにどういうふうに考えるかという点に焦点をあて、その場でアンケートに答えていただくような参加型の形で、工学研究におけるELSIを考えるということをやっていただきました。
このようなセミナーを9月に行った後の11月に、各部局にRRI及びELSIの視点を組み込んだセミナーをつくってくださいという依頼をいたしました。依頼をした3カ月後の2023年の2-3月に、RRI・及びELSIの視点を組み込んだセミナーの部局別の取り組み方の発表会を45部局にやっていただきました。部局別発表会では、1部局あたり5分の持ち時間で、どんな試みをしているかを簡単に発表していただきました。
この45部局の中からおもしろいものを選んで、2023年のセミナーで紹介していただきました。
2023年の研究倫理セミナーでは、まず大阪大学のELSI研究所の岸本先生に「ELSI対応なくしてイノベーションなし―ELSIセンターの取り組み」ということで基調講演をしていただき、分野別の話題提供では先ほど述べた部局取組発表会でおもしろかった部局にgood-practiceとして紹介をしていただきました。
まず生産技術研究所の新野先生から、最近は研究資金をとってくるためにもRRIやELSIの知識が必要ですよという話をしていただきました。それから新領域の福永先生は、学生も含めた形で行われているワークショップの例をご紹介くださいました。薬学系の池谷先生からは脳科学の事例をご紹介いただき、東洋文化研究所の馬場先生からは、文系の研究におけるELSI、RRIの非常に重要な点をご紹介いただきました。
このセミナーの後、2024年の2-3月に、RRI及びELSIの視点を組み込んだセミナーの部局取組発表会を再びおこないました。そこでわかったことは、新領域の福永先生を呼んだ部局が複数見られて、先生には少しご負担をかけてしまったことがわかりました。新領域の試みは本学全体に大変多くの貢献していただいたと思っております。
部局取組発表会の内容をまとめると、例えば生命科学だと、遺伝子組み換えのメダカが学外に流通してしまって、学外に流出させた学生がカルタヘナ法違反で厳重注意がされたとか、ゲノム改変したヒトの誕生の研究者に刑事罰が施されたなどの紹介がありました。定量生命科学研究所では、受講者に研究が進展した後の将来についていろんな予測をしてもらったそうです。たとえば老化の研究があまりに進むと、お金を払える人とそうでない人で格差が広がるんじゃないか、記憶研究から改ざん技術が出るんじゃないかという例があがっていました。それから情報科学で、ELSIやRRIを意識することで生まれる新たな領域もあるんですよというお話がありました。
数学は、今は数理科学の研究科長をされている平地先生からの話題提供で、2008年の金融危機のときサルコジ大統領が「数学者も社会的責任を意識せよ」と発言した例が紹介されました。これに対し、ヨーロッパの数学者は反論をした。確率解析から数理ファイナンスと金融工学とファイナンスのプロがいろんな応用をしたんだけれども、数学のプロであれば使ってはいけないところに、仮定を無視して数理の理論を使ったことの功罪について議論していただきました。
空間情報科学センターからは、どういうレベルの個人情報まで許容されるのかの問題提起がありました。空き家のデータとか、地価とか家賃のデータとか、人の流れのデータ等をどこまで使うことが許容されるのかというのは、まさにELSI、RRIの課題なんですが、そういうことが問題になるという話をしてくださいました。
あとは、史料を扱う文学部、法学部、経済学部、東洋文化研究所、図書館、そして史料編纂所から、史料閲覧の境界についての問題提起がありました。関係者、縁故者のみに公開するのか、それとも公文書館で開館時間内に閲覧・許可を得て複写を許すのか、それともデジタル化されて時間制限なく閲覧・検索可にするのか。史料を扱うときには、常にこういったことが問題になるということが提示されました。
それから公共政策からは、経済学の再現性のために元データを保存すると、個人情報保護に抵触する。研究不正を防ぐために進めるデータ保存が、逆にELSI、RRIに抵触してしまう。非常に難しい問題を提示してくださいました。本日このあと川口先生がこの内容を話されます。
というわけで、本日、この後、具体的な事例をご紹介していただきますが、どれも優れた4件の報告でございますので、今日の参加者の皆様が各部局にELSIやRRIを組み込むときの非常によいヒントになると思います。
というわけで、私の発表はこれで終わります。この後、4件の具体例の発表をぜひ楽しんでいただければと思います。どうもありがとうございました。
質疑応答
松田室員 藤垣先生、Upstream-Engagementというところがありましたけれども、科学技術において市民がいかに参加していくかというのは大きいテーマの問題かと思うのですが、このときに、例えば一般市民と科学技術の本質をどのように共有していくかは難しいところかなと感じたのですが、その点いかがでしょうか。
藤垣室長 ありがとうございます。実はELSIとRRIの講義は、EMPという企業の方にむけて東大がおこなっている講義でも行っているのですけれども、そこでも必ずそういう質問が出てきます。
ですので、市民参加の話は、その目的や形態、そして誰が何に参加して、どういう情報が得られて、参加して何をするのか、参加して何がもたらされているのかを、細かく見ていかないといけません。科学技術の真髄をどうやって伝えるかということと非常に深く関係しますので、科学コミュニケーションの話と切り離して考えることができない課題だと考えております。
松田室員 ありがとうございます。
岩田先生 岩田です。今回の発表では体系的に紹介していただいてありがたいと思いました。ELSI、RRI関係の基点というのが80年代アメリカで、RRIがヨーロッパからということで教えていただいたのですけれども、私、80年代は高校生だったので、その当時、例えばどこの大学に行こうか、どこの学部に行こうかとを考えるときに、やっぱりいろいろなものを読まなきゃいけなかったわけですね。
そのときの受けた印象だと、例えば科学者の社会的責任や研究者の社会的責任は80年代の日本では結構言われていた気がします。日本の場合は、原子爆弾もありましたし、それから60年代70年代だと公害もありました。
そういったことがあって、国の中では割と議論がされていた気がするのだけれども、その後、それを生かす形で世界的な標準的な考え方をつくっていく貢献はできてないような気がするんですね。それがむしろ欧米から、今のELSI、RRIみたいな概念が出てきたということは非常に残念な気がするのですけれども、一体それは何が足りなかったのでしょうか。
藤垣室長 非常に本質的な質問だと思います。今、私自身が科学者の社会的責任の日英比較研究と日欧比較研究をしているのですけど、日本はどうしても科学者の責任、社会的責任というと物理学者の声が大きいんですね。どうしてかというと、唯一原爆が落とされた国だからです。
私自身も80年代は高校生から大学生でしたので、まず湯川秀樹とか朝永振一郎、それから『科学者の社会的責任についての覚書』を書いた唐木順三など、どうしても物理学関係の責任論を多く読んだように思います。
でも英国とか欧州の比較研究をすると、生命科学、遺伝子組み換え技術から責任論が活発になったという国もかなりある。そこで物理学者メインの日本の研究科学者の社会的責任論と、生命科学中心の欧米とでギャップができたところがあって、その後の展開も少し違うことがわかってきております。
でも、本来であれば日本から発信してほしかったというのは、岩田先生のご指摘のとおりでございます。
松田室員 参加者の方から一つ質問が挙がっております。「市民参加に対しての今後の日本のRRIの形がどうなるかに関して、先生のご意見はいかがでしょうか」。
藤垣室長 はい。かなりいい質問だと思います。というのは、日本で市民参加というと、どうしても原発反対運動みたいな形のものを思い浮かべてしまうのですけれども、ヨーロッパの市民参加ってもう少し幅があって、例えばナノテクノロジーに関する市民陪審員制度とか、コンセンサス会議であるとか、シナリオ・ワークショップとかフューチャーサーチとか、市民による技術予測、市民フォーサイトとか、幾つかタイプを分類することができるほどいろんな種類のものがあるんですね。
だから日本で市民参加といったときに私たちがイメージするものよりも、相当バラエティーに富んだいろんな工夫がなされているので、それを分野ごとに一番合うのを選んでやっていくのが一番いいやり方なのではないかなと考えております。
松田室員 もう一つ質問です。「2000年のGMO安全性論争に言及されましたけれども、それに関してのいわゆるヨーロッパ側の農作物市場を守るための戦略的行動であった面もあると聞かれていたようで、RRIにそのようなヨーロッパ側の戦略的な面はありそうでしょうか。」
藤垣室長 はい。GMO論争のときは、アメリカのモンサント社が開発した遺伝子組み換え食品をヨーロッパにアメリカが輸出しようとしたときに、その輸入を阻止するためにヨーロッパはかなり戦略的に動いたんですね。それと同じようなことがRRIに全くないとは言えないと思います。
ただ、先ほども申し上げたように、アメリカの研究者を中心に『Responsible Innovation』という雑誌ができていたり、あとはアメリカの科学哲学者が中心になってパブリックエンゲージメントについての本を編集する動きもありますので、ヨーロッパに戦略的な面が全くないとは言えないけれども、決してそれだけではないというふうには考えることができるかと思います。
松田室員 質疑応答は以上とさせていただきます。藤垣先生、本日はまことにありがとうございました。
分野別の話題提供
定量生命科学研究所 須谷 尚史 准教授
私からは、「RRI・ELSIの観点を組み込んだ研究倫理セミナーの実施例」としまして、定量研で行った倫理セミナーの内容について紹介をさせていただきます。
まず本題に入る前に、定量研で研究倫理の向上を目指してどのような取り組みをしているのかについて、少しお話をさせていただきます。
定量研では、研究倫理セミナーの定期開催以外にも幾つかの取り組みをしております。今、本館のリノベーションをしているのですけれども、そこをオープンラボ化したり、あるいは国内外の研究者を招いてアドバイザリーカウンセルによって評価してもらうというようなこと、割と頑張ったこともしていると思うのですが、今回は、研究に使った全データの登録を紹介させていただきます。
どのようなことをしているかというと、定量研では、論文が学術誌に受理されますと、その論文に使った図や原稿、論文に使った全ての生データ、チェックリストを所の研究倫理推進室に提出することを義務づけています。そしてこの提出されたデータを所内で公開し、将来的には一般への公開をすることを進めております。この6年ぐらい、もう既にやっています。
実験系の研究では、生データを保管するということは研究者の義務なのですけれども、論文になった後時間がたっていくと、往々にしてデータがどこかに散逸してしまってなかなか見つからないというようなことが起こるわけです。なので、論文を発表してすぐ、まだ記憶の新しいうちに、全てのデータを1カ所に集めて保管する。保管の主体者は研究者ですけれども、そのバックアップを研究所としても持っておく。そういうふうな行いをしております。
聞くと大変そうに見えるのですけれども、そういう一連のデータのトランスファーや公開などを支援するような独自のシステムを、Googleのシステムを使ってつくっていまして、運用しています。ここまで、定量研の研究倫理に関する取り組みの一つを紹介させていただきましたが、本題のほう、ELSI、それからRRIに関する研究セミナーへの取り組みについて、昨年度の我々が行ったことについてお話をさせていただきます。
昨年度の定量研の部局研究倫理セミナーは、このような内容で行いました(スライド5)。オンラインで動画を視聴してもらって、それからGoogleフォームを使った確認テストを受けてもらうという形式で開催しています。
留学生の方も多いので、日本語だけでなく、英語のスライドを使って英語の字幕を見せる、そういう動画も用意して、どちらかを見てもらうということにしました。
受講対象者は232名いるのですけれども、昨年の場合は100%の受講率ということになりました。
扱った研究セミナーの内容ですけれども、この中にELSI、RRIについてという内容もあり、このことについてこれからお話をしていこうと思います。
具体的なELSI、RRIの内容というのは、藤垣先生のお話の中にもありましたので割愛しますが、大事なことというのは、東大としても責任ある研究を推し進めるという意味で、今、ELSIとかRRIのコンセプトを理解して取り入れていくということが求められているということになります。
やはり大事なことは、科学者、研究者は、ELSIを意識して自分の研究を行っていくことが大事であり、その上で社会と双方向のコミュニケーションを持ってRRIを達成していくことが求められていることになるわけですね。
これはいわゆるトランスサイエンスの領域で、科学的な問いではあるけども、科学だけでは答えられない、そういう社会的・哲学的側面を持っている問題だということを認識する必要がありますよというようなお話をセミナーでしました。
私たちは基礎系の研究をしていますので、こういうお話をすると基礎研究の成果というのは今すぐ応用に結びつくものではない、あるいは社会実装するのは自分たちとは違う人の仕事だと思う。そう考える基礎研究の人がいるかもしれない。けれども、科学技術はますます早く発展するようになっていて、基礎研究であってもその成果が社会に大きな影響を与える可能性がどんどん高くなってきている。なので、社会への無関心は許されなくなってきているという、そういう動向を理解してほしいと思って、このスライドを用意しました。
具体的なELSI、それからRRIに関する話題ということで、2つの事例を紹介しました。
一つ目、ELSIに関する話題です。これはよその大学ですけれども、遺伝子組み換えメダカが研究室で作成されて、学外に持ち出されて、誰かが所持して飼育して販売することがありました。
このこと自体はカルタヘナ法違反ですので摘発が行われ、書類送検なり逮捕なりというのは行われたんですけれども、ではこのメダカを作成して保管していた研究室に何の責任もないのか。これは、恐らくELSIに関する話題になると思います。
このお話は、昨年、薬学部で紹介されたお話を拝借して使っているのですけれども、法的には問題はないけれども、ELSIの観点ではやっぱりこういう光るメダカが流出してしまった研究室にも何らかの責任があるのでないのかと考えられるという話ですね。光るメダカは所有欲をくすぐるメダカですので、厳密な流出防止対策をとる必要があったでしょうし、そもそも本当にこういうメダカをつくる必要があったのか、そこが吟味される必要があるでしょうというような議論が可能かと思います。
RRIに関して。CRISPR-Cas9という、2020年ですかね、ノーベル化学賞を取った新しい技術で、ゲノムの編集が簡単にできるようになったということがあったわけです。この技術を使えばヒトのゲノムを改変できることはみんな考えたのですが、一方で、それはまだ危険性が十分わかっていないから倫理的には問題だ、なのでヒトには適用しないでおこうというのがコンセンサスだったわけですね。
ところが2018年にそのタブーを犯して、中国のとある研究者がゲノム改変をしたヒトを誕生させてしまう事件が起きました、当然、倫理的にふさわしくないと非常な批判を浴びたわけです。中国政府は困ってしまって、最終的には、このHJという研究者は承認証明書の偽造という罪に問われて、刑事罰を受けるというてんまつになりました。
ここまでは普通の話ですが、RRIの枠組みの中で論じられるべきこととしては、いつになったらヒトにゲノム編集技術を適用したような医療をやってよくなるのか、将来、生殖細胞のゲノム改変を行って遺伝病の予防をするということは許容されるだろうか、あるいはそのために必要な条件は何だろうか。病気を治すのが可能となった場合には、ゲノム改変を使って体質を改善するとか能力を高めることは認められるだろうか。技術的には可能となった場合に、それをやっていいのかどうかを論じるというのはRRIの枠組みですよね。そこに研究者はどうやってかかわっていけばいいのだろうか。そういうようなことが問題としてありますよということを、セミナーの中で紹介しました。
このようなセミナーを行って、その後アンケートをとったところ、「このセミナーを聞く前にELSI、RRIについてどの程度知っていましたか」という問いに対しては、86%の人があまりよくわかっていなかったという内容でしたが、セミナー後は77%、8割近い方が「おおよそ理解できた」、あるいは「よく理解できた」という答えをしてくれるところになりました。
そのセミナー後に受講者へ「現在、あなたが携わっている研究分野から生まれる研究成果が、社会に思いもよらない影響を与えるようなシナリオを発想してみてください」という自由記述の問題を出してみました。皆さんいろいろ頑張って書いていただいたので、その中の回答の幾つかを挙げさせていただきました。
例えば、疾患にかかわる重要な変異が研究で明らかになった場合に、その変異の検査によって差別や年収格差が起きるかもしれない。あるいは老化の研究が進んで若返りが可能になったときに、社会的な死生観に影響があるのでないのか。あるいは、死が身近でなくなり、命の尊さへの感情が失われるかもしれない。あるいは、身体が若いけれども、精神状態とのバランスがとれなくなってしまって、最終的にはみんなが自身で死を選ぶというような社会が来てしまうかもしれないという、そういう発想の方もおられました。
そのほか、経済力による寿命の長さの違いの拡大とか、あるいは記憶のメカニズムの解明から個人の記憶の改ざんを可能にするような技術が生まれてしまうようなことが考えられるんじゃないのかとか、いろいろな生命科学に関する発想を書いてくれました。
このクイズというのは、みんなが自分事としてRRIを考えるようなきっかけになればと思って出したのですけれども、ある一定の効果はあったのかなというふうに考えているところです。
今年度も、ELSIとかRRIが皆さんにもっと浸透していくように部局セミナーを開催していきたいと考えているところです。私からの情報提供は以上になります。
情報理工学系研究科 岩田 覚 教授

情報理工学系研究科の岩田と申します。よろしくお願いいたします。
私ども情報理工学系研究科は、実は研究内容が多岐にわたっておりまして、その中であえて共通項というのを探すとすれば、それは計算機が介在することになるかと思います。ただ、計算機といっても単に計算機の中を設計するだとか、そこで使うアルゴリズムを設計するというだけではなくて、何のために計算機を使うのかということを考えると、実は入出力の両面で人との接触面があります。
そうすると、研究対象、あるいは研究の方法として、人に関するものというのはいろいろ出てきまして、人を対象とした実験をするための研究倫理審査申請というのも結構多くて、私は副研究科長として年間大体100件くらいやってるんですけれども、研究科の中にこんなに人を対象とした実験があることは、この仕事をするようになって初めて理解しました。
例えばHuman InterfaceですとかVirtual Reality、自動運転、どれもみんな人がかかわってくるということはご理解いただけると思いますし、もっとバラエティーがございます。
そうしますと、基本的には人に対して危害を加えないとか、不快感を与えない、あるいはそういった人が恐怖を感じたときにすぐやめられる仕組みになっている。あるいは一方で、得られたデータが個人情報をきちんと守るという形で管理できるか。そういった面をいろいろ審査して研究を進めていただくというような仕事をしております。
実際、情報理工学の分野では、情報理工学に限らないことでありますけれども、技術の進歩が速くて、人々の生活に、あるいは社会に直接的な影響を与えるという側面がありますので、こういった研究倫理審査だけではなくて、もうちょっと踏み込んで、いわゆる倫理教育の現場においては、ELSIやRRIにつながっていく話を例として挙げております。
特に大学院の講義で「情報理工学倫理」という授業をしておりますのと同時に、東京大学の子会社、東京大学エクステンションのほうでは、社会人教育、いわゆるリカレント教育をやっておりまして、そこではいわゆるデータサイエンスの基本的な技術、あるいはその演習ということを教育していたりもするんですけれども、その中に「情報倫理」という名前の科目もございます。
こちらは、企業の中でデータを扱うということによって、そのときにどういったことに気を配らなければいけないか、あるいはそこに関して失敗するとどういったリスクが会社にとってあるのかを学べるという点で、非常に人気のある講義になっております。担当者からもいろいろ教わりまして、幾つかの課題、事例を大学院教育のほうにも使わせていただいております。
例えば一つのポイントは、データをどうやって集めるかというところです。有名なのはFacebookとコーネル大学の共同研究があるんですけれども、これは2012年に行われた心理実験で、Facebookを使っている一群のユーザーに常にポジティブなニュースを配信する。別のグループにはネガティブなニュースを配信する。そうすると人々は、結局、受け取ったニュースの傾向に引きずられた投稿をするということが判明した研究がございます。
これは実は結構おもしろいんですね。特に68万人に及ぶ被験者を対象とした大規模な心理実験で、インターネットを使わないとこんな大規模な心理実験ってあり得なかったところで非常にクリアな結果が出て、高く評価されて、『Proceedings of the National Academy of Science』に論文が掲載されました。それが2015年の6月17日です。
そうすると、ユーザーだった人が、それはおもしろいかもしれないけど、意図的な感情操作をされたということに対して、けしからんという反応がありました。ある種のアルゴリズムに従ってニュースが表示されるということは承知されていて、かつユーザーは利用許諾で同意していたけれども、だからといって感情を操作されるということは、やはり不愉快なわけですよね。でもこの件に関しては、最終的にFacebookが同じ年の6月29日には謝罪した。だから2週間以内にはもう謝罪をしているというような事例になっております。
そうやって集めたデータというのを匿名化するわけです。個人情報に配慮して匿名化するけれども、じゃあ本当に匿名化ができているかということに関してはいろいろ問題があります。
例えば日本ですとSuicaの事例がありまして、これは2013年の6月にJR東日本が収集したSuicaの利用履歴を、個人情報を削除した上で販売しました。販売するときに、個人情報の識別というのは仮IDに変えて、個人情報ではないから関係ないと考えたけれども、結構世間の反発は大きくて。
一つの問題点は、そのSuicaの利用前にこんなデータの利用というのは説明されていなかった。それから、実は駅の乗降データがあると本当に個人の識別ができないのかというと、そこはなかなかわからなくて、逆に移動履歴から個人認証をしようというような研究さえあるので。その中で世の中の反応を見て、JR東日本では、オプトアウトという、利用から抜けられる選択肢を提供するという形をとっています。
もう一つ別の事例で、2006年にAOL――アメリカのインターネットサービスが65万人の3カ月にわたる検索履歴を研究目的で公開したところ、仮IDしかつけられてなかったんだけれども、検索データから一部のユーザーが特定されてしまうということがわかって、これは8月4日に公開して、もう8月7日にはデータを取り下げました。だけどもうネット上で広まっているので、手遅れではあるんですよね。
検索データというのは、それ自身が個人情報を含みます。一番簡単な話はいわゆるエゴサーチで、例えば自分の名前を最も頻繁に検索するというのは、実は自分かもしれないわけですよね。そんな感じで、仮名情報に変えたからといって、特定が不可能というわけでは必ずしもないということになります。
Netflix Prizeは、やはり48万人のユーザーの評価を行ったデータを提供したわけです。提供して、いろいろな人がアルゴリズムをつくって、性能がNetflixがやっているものよりも10%以上改善したら賞金を出しますよということをやったけれども、やっぱり匿名化の部分が結構甘くて。
さらに、別の実名で書いているレビューサイトとNetflix Prizeを両方照合すると、どの人かということがわかってしまうことがありまして、これは2009年に裁判になり、2019年にはNetflix Prizeを廃止するという形になっております。
我々がデータサイエンスをベースにつくるアルゴリズム、いわゆる機械学習に基づくAIというのは、ある意味で、データをもとにアルゴリズムをつくるわけなんですけれども、そのときに、データの中に例えばある種の偏見や差別が反映されたものであると、それでつくられたアルゴリズムはいわゆる中立性、公平性を担保できなくなってしまう問題は多く指摘されています。
講義ではこのようなことを課題として紹介し、その上でいろいろ考えていただくことをやっているわけですけれども、今後の倫理教育の中に組み込んでいきたいなと思っている話題も幾つかございますので、紹介したいと思います。
一つはWinny事件です。これは、2002年に金子勇さんという、当時私どもの研究科の特任助手をされていた方がP2P技術を利用したファイル共有ソフトを作成し、それがいろんなところで著作権法に反してダウンロードしてファイルをばらまくということを許してしまう構造になっていたわけです。社会問題にもなり、結局、2004年に逮捕され、著作権法違反ほう助の疑いということで起訴されています。
その結果、2006年には1審で有罪、罰金刑が出たんだけれども、控訴して2009年に高裁で無実、2011年には最高裁で無罪が確定したという形になっています。
逮捕されたとき、私はこちらの研究科に勤めておりまして、世の中のことをあんまり知らなかったので、そもそもWinnyがわからず、学生に聞きました。学生に質問して「これはシロですか、クロですか」と言うと、学生は、「使っている人はクロですね」。「じゃあつくった人は?」と言ったら、「うーん、つくった人はグレーですね」と言われて。
そんなことがあり得るのかと当時わからなかったんだけれども、その後の展開を見てみると、リーズナブルな答えだったのではないかなと思っております。いわゆる法的な観点から言うと、これは筋が悪い起訴だったわけで、ある意味で人権侵害にも当たっていた部分があるんだけれども、ELSI、RRIの観点から言うと、これが必ずしも問題がなかったわけではないことは正しいと。何とか教材にできるといいかなというふうに思っております。
RRI、ELSIというのは、そういうことを予見して、責任を持って考えましょうというんだけど、考えた結果、研究の流れをある程度抑制するというだけじゃなくて、むしろそこで生じた課題を解決するために新しい技術を開発していくという、新しい研究テーマを見つけ出してくる一つのきっかけになると思います。
ですからそこは、RRI、ELSIを深く考えるということが新しい研究活動に結びつくという点でも重要で、かつ、非常にポジティブに使えていくのかなと思います。で、我々のご紹介したデータサイエンスによって毀損されているかもしれないプライバシーをいかに守りながらデータマイニングができるように設計していくか。あるいは計算過程を見せずに、秘匿された情報をサーバーで計算して、受け取って、答えが計算できるようにするとか。
あるいは、量子計算機をつくろうと多くの方が努力されているんですけれども、実はこれが本当につくられちゃうと、いわゆる公開鍵暗号方式に使われているものが破綻してしまうわけです。それは当然、そういう社会的な影響があるということを見越した上で、今度は量子計算機があってもきちんと安全に動くような暗号システムをつくりましょうという、ポスト量子暗号という分野も生まれています。
そのほか、電力消費のなるべく少ないコンピューティングをしましょうだとか、あるいは生成AIでつくられたプログラムの正当性をちゃんと検討するようにしましょうということで、技術の進歩で生じる社会的課題というのは、やはり技術の進歩で解決されることもあるというわけです。また、このときに利用される技術というのは、別の分野から来るかもしれないので、我々としてはできるだけ幅広に学んで、かつ、今の技術によって生じる社会的課題を克服するための研究をやっていきたいなというのが、研究科として一つ考えていることです。以上です。
公共政策大学院 川口 大司 教授
公共政策大学院の川口大司と申します。今日は発表の機会を与えていただいて、ありがとうございます。
私が部局で行ったセミナーは「公共政策分野における研究成果の社会発信」ということでお話をしたんですけれども、冒頭、藤垣理事から、研究成果の再現性確保の話についてもコメントいただきましたので、そちらについても触れたいと思います。
公共政策分野にはいろいろな分野があるんですけれども、私自身は経済学が専門で、実証分析が専門です。この分野でどういうことが問題になっているかと申しますと、多くのデータ分析の分野でそうではないかと思うんですけれども、モデルの特定化や変数の選択の仕方によって、結果の出方が変わってくるということがよく知られています。そういった問題に対応するために、一部のジャーナルの中には、結果の再現可能性を担保することを求めるということをやり始めているところがあります。
一番先鋭的な取り組みは、データとプログラムをジャーナル編集室に提出させて、データエディターが再現に成功した場合にのみ掲載が許されるといったようなことが行われているんですね。
その一方で、これはまさに岩田先生からお話があったことだと思うんですが、政府統計の個票や、政府が保有する業務データ、民間企業の業務データなど、こういったものが研究に幅広く使われるようになってきているんですけれども、技術的に匿名性を確保することが極めて難しいというのが実態です。
これらのデータをどういうふうに提供してもらっているかというと、利用の目的を限定したり、利用者を限定したり、利用環境を限定するというような形で、データ提供者と何らかの形で契約を結ぶことによってデータを提供してもらっている場合が多いです。
そうすると、ジャーナルエディターにデータを提供することは、デフォルトではできないということになるわけです。これにどう対応するかという話なんですけれども、一つ考えられるのは、もうあらかじめこういう再現可能性が求められるということをそれこそ予期して、こういった目的のためには第三者にデータを提供し得るというような条件を、あらかじめ共同契約の中に組み込んでいくといったような工夫ができるのではないかということがございます。
もう一つのトピックは、特に公共政策分野ですと、政策に関する研究をするものですから、研究を行って、ジャーナルなどの媒体に査読を経て出版するだけでなく、その結果をより一般にわかりやすく発信するということも重要な活動になってまいります。
我々の大学院では、東大本部の広報によるプレスリリースも利用させていただいておりますし、自身のブログでも研究成果を発信するということを積極的に行っています。
これを実際にやってみると、やっぱり分野によって慣行が違うなということに気づくことがございます。本部のプレスリリースの方針というのは、基本的に自然科学の慣行に従っていると思うんですね。恐らくピアレビューされた研究成果のみがプレスリリースされるというような形で運用されていって、かつ、研究成果がパブリッシュされるときにはエンバーゴがしっかりと決まっていて、この日時になれば研究成果を公開してもいいですよということがジャーナルから明確に指示される。こういった慣行があることを前提に方針が決まってるのかなと思う部分があります。
一方で、いわゆる文科系、社会科学の分野では、そもそも査読文化がある分野とない分野がございます。経済学は査読文化なんですけれども、それにおいても、経済学の実証分析というのはどうしても特定の地域や時代や制度のもとでとられたデータを使って実証分析をするので、文脈依存の部分がすごくあるわけですね。そうすると、その文脈依存の結果をどれだけ一般化できるのかという議論をする必要がある。
そうすると、幅広く先行研究を渉猟するということが求められるようになって、そういった先行研究の結果との比較において、一般化可能な部分というのを抽出するというようなことが行われます。結果として、論文が長くなって、執筆、査読プロセスの両方に時間がかかるようになります。
そうすると、出版された時点では、もうこのテーマは世間の関心がないというようなことも起こってしまうので、査読出版される前にワーキングペーパーを広く公開するということが行われます。このペーパーをマスコミに公表することのリスクを、私の経験に基づいてお話をさせていただきました。
これは今ではよく知られている話なんですけれども、同じ学年の中で、いわゆる早生まれの、1-3月生まれの方とは若いわけですね。この年齢差は大きくなればそれほど意味があるものではないわけですけれども、例えば小学校1年生の時点では、実質的に1歳の年の差があるということが、早生まれの児童に対してハンディキャップとして働く。
そういう可能性があるわけですが、実際に2002年10月時点の政府の統計データを見てみると、25歳から65歳男性に関して見ると、4月生まれは3月生まれよりも大学を卒業している確率が2ポイント高い。平均値は27%なので、大体10%まではいかないですけれども、生まれ月によって無視できない学歴差が発生しているということがわかりました。
これは政府統計を使って分析を行ったものですから、政府のプロジェクトの一部として分析をさせていただきました。今は政府統計に対してのアクセスがかなり改善してきたので、今の状況で若干違うんですけれども、内閣府の経済社会総合研究所は普通に研究をやっている一方で、GDPをつくっている部局でもあるので、記者発表もするんですね。この記者発表が注目を集めまして、朝日新聞が報道してくれたということがあります。ただ、見出しのつけ方や書きぶりで若干センセーショナルな部分がありました。
私は当時一橋大学に勤めていたんですけれども、子供の教育ということに関しては、いろいろセンシティブな反応があることがよくわかったんです。早生まれの子供に対しての差別を助長するんじゃないかというような抗議が大学のほうに寄せられました。当時の大学の執行部の方々は対応を議論してくださって、科学的な議論であって特段の問題はないというふうに判断をしてくださった。
かなり後、2011年に、最終的に査読を経て論文が出版されたんですけれども、査読されていないものを広く発信することによって、必ずしもピアレビューでは科学コミュニティーの中でプロセスを経て検証された結果が報道されるわけではないということがあって、そういったものが広く世の中に出て今でいう炎上みたいな状態になると、個人の研究者が非常にリスクを負うということなのかなと思いました。全くこんなことを考えてはいなかったんですけれども、研究内容によってはその結果が世間で思わぬ反響を呼ぶということを痛感いたしました。
それで、研究成果のみならず、社会科学あるいは社会に関連する研究をされている方々はしばしば経験されるかと思うんですが、マスコミから取材されることは非常に多いわけですね。そのときにどういうふうに対応するかということで、これは同僚から得たグッドプラクティスで、まず、記事にする予定があるかどうかというのをちゃんと聞く。もしも予定があるんであれば、コメントとして引用される部分に関しては、しっかりとそれを事前にチェックさせてほしいというふうに申し入れる。
「事前にチェックさせてください」と言うと、報道の自由に反するというようなことを言う人が、10年ぐらい前までは新聞記者の方にかもいらっしゃったんですけれども、これは個人名を出してコメントを引用しているわけですから、正しく引用されているかどうかをチェックするのは研究者の権利だと思いますので、報道の自由という概念に必ずしも反するようなことを求めているということにはならないのかなと思います。
こういった炎上が起こってしまったときに、大学の広報部門執行部で対応するということは恐らく大切だろうと思います。特に若い研究者に対しては、組織として対応していくということも必要だろうと思います。
この対応の中では、本人も含めて事実関係を調査することは重要でしょうし、結果として、しかるべき手続を経て発表された結果に関しては、組織として個人を守っていくことも大切じゃないかと思います。以上です。
農学生命科学研究科 香坂 玲 室員
今日は私個人の経験とプロジェクトから考えるRRIについて話すようにということでございましたので、生物多様性条約の話から考えていきたいと思います。
昨年、メダカでカルタヘナ法(正式名称:遺伝子組換え生物等の使用等の規制による生物の多様性の確保に関する法律)違反で逮捕者が出た事例がありましたが、生物多様性条約はまさに「べからず集」の印象もあるかと思うんですけれども、最近はその中でもデジタルなことが議論になっていると思います。
私は、条約事務局に勤務しておりました。事務局には、専門家ということではなくて、事務方として理系の人間が多く勤務しており、私の隣も、その隣も生態学や森林科学といった理系の人間が実は裏方でも働いているというのが実態でございました。
条約には、生物多様性を守って、元本を減らさないように利用して、利用した場所・国にメリットがあるように利益配分をしていくという三つの目的がございます。
三つ目に経済的な要素が入っていることも、条約の大きな特徴の一つになっています。これが結構、先進国といわゆる途上国の対立の火種的な要素になってきた側面もございます。
条約全体に加えて議定書というものがあって、一つがカルタヘナ議定書、先ほどメダカの事例で出てきたカルタヘナ法のもとになっている議定書です。ほかにも名古屋議定書(正式名称:生物の多様性に関する条約の遺伝資源の取得の機会及びその利用から生ずる利益の公正かつ衡平な配分に関する名古屋議定書)というのがあって、それは三つ目の利益配分にかかわるところの議定書になっています。
今、2030年までの目標として、昆明・モントリオール生物多様性枠組というものが掲げられ、それについて議論されております。この枠組みは2022年の12月に開催された第15回の生物多様性条約締約国会議で採択されたのですが、こういう環境系の国際会議ですと、デモや人間の鎖などの抗議活動が行われることがよくあります。そういった場での議論の雰囲気がスライドの写真から伝わってくればと思います。
昆明・モントリオール生物多様性枠組には、大きくはスライドの左側にある2050年ゴールに向けた四つの領域として先ほどの条約の三つの目的と実施手段というところと、あと、右側に2030年に向けた23のターゲットと呼ばれるものがございます。そのうちの13番目には、「遺伝資源へのアクセスと利益配分」に関するものが入っているんですけれども、こちらについても様々な議論が行われています。
その中で特に、物質と情報をまたぐところで生物学とテクノロジーが交差するところのデジタル配列情報(DSI)というものが議論となっています。藤垣室長からもRRIの一つの素材としてanticipateするというお話しがございましたけれども、今後、こういうものが来ますよということを考えていただく素材としてそれについて話題提供をさせていただきたいと思います。
条約の三つの目的は、うまくいけば生物多様性を保全して、その構成要素を持続可能であるように使って、遺伝資源の利用から生ずる利益を配分し、それを保全に必要な資金にすると、先進国も途上国もメリットがあるような形を目指していたわけなんです。しかし、条約に遺伝資源の利益配分を謳ったことにより、私見かもしれませんが、それぞれの国が遺伝資源を囲い込むような動きも見せてしまったり、あるいは利益配分の対象範囲をどうしていくのかというところの議論が続いてきたりというのが実情かと思います。
2010年に名古屋議定書というものができた当時は、遺伝資源という存在する物質に対する議論が中心だったんではないかと思います。そこに、2010年以後、デジタル配列情報を利益配分の対象とするという議論が入ってきました。ただ、科学者にしてみると居心地の悪さを感じるのですが、現時点(2024年9月)ではその意味するところと範囲が決まってないんです。科学とか論文作法では通例は範囲や定義を定めるのが先決と思うんですけれども、それが決まる前にデジタル配列情報という用語が入ってきて、利益配分の議論が進んでいる現状では、そういう遺伝資源の情報を例えばオープンサイエンスで進めていくこと、定量研の須谷先生からもご発表がありましたが、公的なデータベースに入れていくことについても議論をしていかねばならないとかいうことがございます。
またブラジルをはじめとする国々によっては、国内法で遺伝的起源の情報なども遺伝資源(財産)に位置づけてる国もあるというような状況がございます。なので、こういう議論が今後いろいろなところで起きてくるんだなということを、まさにanticipateして考えていくということも大事なのかなと思います。
遺伝資源について、特に言いたいのは、遺伝素材のうち人間にとっての価値があるもの、利用する価値があるもの、人類にとっての価値がある部分を切り出しているということ。もう一つ関連するところとして、地域社会や先住民が持ってきたような伝統的知識についてもかかわり合いが出てくるところだということです。
昨今いろいろな原則などが議論されている中で、データの公開・共有のあるべき姿に関する、FAIR原則―(The FAIR Guiding Principles for scientific data management and stewardship)というものがございます。Findable(見つけられる), Accessible(アクセスできる), Interoperable(相互運用できる), Reusable(再利用できる)の頭文字をとってFAIRと言っています。
ステークホルダーは多彩になっており、その中には、例えばITベンダーなど、機械的な人格のないデータベースに関わる団体も入っていて、遺伝資源に関するデータのオープンサイエンスを進めていくときにそれぞれが乗り入れられるような形になっているのかも重要ですよということで、ここのプリンシパルの中ではそういった言葉が使われているということは少し注目いただけてもいいのかなと思います。
違う観点から、CAREという原則(CARE Principles for Indigenous Data Governance)も提案されています。こちらは、Collective Benefit(集団的利益), Authority to Control(管理権限), Responsibility(責任)、Ethics(倫理)の頭文字をとったもので、どちらかというと先住民の方と地域住民が持っている知識を使うときに、その権利を尊重してくださいとか、あるいは部族(Tribe)が持っている知識や集団的(collective)に持っているような集合知をどういうふうに尊重してもらうのかという原則となっています。
総論ではどちらも大切だということにはなるんですけれども、相互乗り入れでデータをどんどん拡張しやすいようにしていくというところと、伝統知識といった文脈の固有性の尊重みたいなところというのは、RRIの観点から考えていかなければいけない一つのポイントかなと思います。
こちらは世界知的所有権機関(WIPO)のという違う文脈での議論になりますけれども、企業が新製品の開発で遺伝資源や先住民の伝統知識を利用した場合は特許出願の際に起源を明示しなければいけないというようなことが、最近に共同通信から報道されました。
農作物も含めて、こういった産品や資源を見ていくときには、生態系、環境保全の観点もございますし、それぞれの国が持っている遺伝子資源であるというところと、それぞれの文化とか歴史の固有性というところが折り重なってくる、非常に接点の多いものになってまいります。
『日本生態学会誌』の特集号で、オープンアクセスで、今回ご紹介した昆明・モントリオール生物多様性枠組について総説も出しておりますので、よろしければ御覧ください。私からは以上です。ありがとうございました。
パネルディスカッション
パネルディスカッションは、ご講演いただいた藤垣室長、須谷先生、岩田先生、川口先生、香坂室員、そして、研究倫理推進室の松田室員(物性研究所 教授)の6名にパネリストとしてご参加いただきました。
須谷先生 皆様のお話を聞いてすごく勉強になることが多かったのですけれども、一つ、藤垣先生にお尋ねしたいなと思うところがあります。
こういう取り組みを通じてELSIとかRRIのコンセプトがだんだん皆さんにも伝わっていっていると思うのですけれども、向こう3年あるいは5年ぐらいの間に、東大として、単にコンセプトを理解するだけじゃなくて、次どういうふうなことが起こっていくことを期待されているのかを共有いただきたいです。
藤垣室長 一応、セミナーの数としてはUTokyo Compassと、それから中期目標・中期計画の数値目標は達成したんですね。今非常に意識の高い研究倫理担当者であるとか、それから研究科長や副研究科長には大分浸透してるのですけれども、まだ各部局の本当に一人一人の研究者にまで浸透しているかどうかは分かりませんので、それが今後数年の目標になるかと思います。
それで、最初にも申し上げましたけど、自分の研究が社会に埋め込まれたときにどのような影響を及ぼすのかを想像する力がついていったときに、本当に研究不正の数が減るかどうかというのもまた別の興味としてあるのですけれども、それはあと数年ぐらいすると効果が出るかの検証、評価みたいなお話になると思っております。
松田室員 今のご質問と関連して、現場にどういうふうに埋め込んでいくかの未来形として先生のお話の中で、企業もそういう取り組みをされているとか、あと、過去にもRRIが浸透するためにインセンティブをつける必要が必要ではないかということも議論されたことがあったと思います。制度的に、RRIを取り入れた研究活動に対してのインセンティブのような取り組みというのは将来的には本学ではあるでしょうか。
藤垣室長 ご質問が二つあったと思いますけれども、企業の人向けの事業の中では、特にコンプライアンス、法的部門ですよね。研究開発したはいいけれども、予想もしないところで炎上が起こるというのを前もって予測して備えることがレピュテーション管理にも非常に重要なので、昨年のセミナーで阪大のELSIセンターでは企業の方と協働しているというお話を伺いました。
ですので、東大の中でもエクステンションや企業との協働をやっているところ、あるいはスタートアップにもこういうコンセプトが浸透していくのがよろしいだろうなと思っています。それが一つ目の質問への回答です。
二つ目の質問への回答は、東大の中で企業と協働するところではそういうところをやることになりますよね。そこから先をどうするかというのは、総長補佐の松田先生も含めてどうやってインセンティブをつけるかの議論が過去にありましたけど、まだ議論の余地があるかなと思っております。
岩田先生 私、先ほど藤垣先生にご質問にお答えいただいて、その一方で日本に何が足りなかったかわからないなと思っていたんですけれども、ワトソンが偉いなと思うのは、予算をつけるといった具体的なことを言って、しかもそれによってお金が動くようにしたということがやっぱり大事なのかなと思いました。
我々の国の文化だと、どうしても清貧の思想といいますか、お金が関係なくても正しいことを考えるんだという思想はあるけれども、そこがかえって足を引っ張った部分があったのかな。そういう意味で、今のインセンティブというお考えも、何が実効的に社会を変えていくために有効かという点で非常に重要なのかなというふうに感じた次第です。
あと、川口先生のお話を伺いまして、ある意味で非常にご苦労されたんだなということと、それから研究がどういう社会に受け入れられるかということの予見性が大事だと、それが自分を守ることにもなるのは、非常に大事かなと思いました。その一方で、最終的な落ちつきどころが、査読の結果雑誌に掲載されたから、これは科学的な議論によって保障されていると言われて落ちついてしまうというのは、ある種の科学の権威というのを市民に押しつけている形になってしまっている部分があって、本当にそこだけそれで終わっていいのかというところが、私はちょっと思ったところですが、いかがお考えでしょうか。
川口先生 ありがとうございます。まさにそのとおりで、査読を経た結果だから自動的にそれでいいという話でもないと思うんですよね。査読の結果が間違っていたということも頻発するわけですし。
ただ、査読を経ていないものというのは、個人のレベルでリスクをとっているという認識が必要だなというふうに思ったということです。ですので、研究者としてのコミュニティーの中で何人かの目をしっかりと通した上で出てきた知見の確度と、自分が書いただけの状態の情報の確度はやっぱり違っていて、ディスカッションペーパーの段階で広く発信してしまうことにはリスクが伴う。
それで、ジャーナルに出たからそれでいいんだという話では全くないと思うのですけれども、そのリスクがかなり違うなと考えました。
岩田先生 ありがとうございます。確かに、きっと査読を通ってないだろうなと思われる成果がニュースでぱっと出てしまうこともあって、私も疑問に感じていたところではございますので、ご指摘ありがたいと思いました。
松田室員 ありがとうございます。藤垣先生、今の点で何かコメントございますでしょうか。
藤垣室長 残り11分で議論するには深過ぎる問題を抱えていると思いますので、今はやめておきます。
川口先生 私は、特に岩田先生の、RRIのほうから出てくる研究テーマがあるというお話を興味深くお伺いしました。
それで、我々の大学院でも、地方自治体から税務データを提供していただいて、それを統計解析する授業をやっているのですけれども、非常にセンシティブな情報で、可能であれば秘匿計算みたいなことをやれればいいんじゃないかとも思うんです。
一方で、まさにインセンティブの話だと思うんですけれども、情報工学の最先端の研究をやっていらっしゃる方に相談しに行ったときに、それが我々にとってはベネフィットになるんですけれども、本当にその情報工学者にとってカッティングエッジな研究成果につながるような材料なのか。そうでないと、一緒に研究してもらうというのは非常に難しいと思うのですけれども、そのバランスをどうやって考えたらいいのかということですとか、あるいはもうちょっと手前のところで言うと、話してみるのは大切だと思うんですけれども、どういうふうに情報工学の方にアプローチしたらいいかというのは実際問題としてよくわからないところがあって、窓口みたいなものというのは情報工学系、理工学研究科で持ってらっしゃるとか、あるいは大学レベルで持っているというようなことってございますでしょうか。
岩田先生 現状ではそういう仕組みは持っていないですね。まず第一に、本当に相談していただけることがありがたいと思います。
相談した人が回答を持っているとは限らないんだけれども、我々としては、そこに一番近いであろう技術を持っている人を紹介するべきなんじゃないかと思います。
内容が本当にフィットしていたら、それを受けた研究者としては、非常にインセンティブが高いことだと思います。自分たちの研究がほかの分野の、あるいは社会の役に立つだろうということを強くデモンストレートできる状況が発生しますので、私としても非常にありがたい。ではどこに相談すればいいかですが、現状は私に相談してください。適切な方をできるだけ紹介するようにしたいと思います。
香坂室員 私も先生方のご発表を聞いて、大変勉強になりました。特に正解がないというか、まだ答えがない部分がほかの領域でもあることが学べました。
中でも経済学の分野で、データをオープンサイエンス的に保存しておきなさいというのが、今度は個人情報やプライバシーの観点から問題になる可能性があるとか、オープンで相互乗り入れできるようにというものが出つつも、一方では個別性を重視してくださいという、答えがないところで大学の事務としての対応とか、あるいは今後の研究者としての対応をどう制度化していくのがいいのかを、ちょっと自問自答していたところがございます。
「べからず集」にせずに、例えばカウンターパートとしっかり意思疎通をとってくださいとか、相手国のルールをよく見てくださいとは言えると思うんですけれども、そういう正解がないところを、こういう場を通して議論するというのはすごく大事かなと思いました。
藤垣室長 今の話にちょっとだけつながるのですけど、遺伝資源のところで、2000年代に「バイオパイラシー(Biopiracy)」という言葉があって、伝統的にある植物の効能がある村で知られていたところへ先進国の人がやってきて、その成分を抽出した薬をつくって、特許を取ってしまいました。そのときに、知識はどこに権利があるのかが問題になったんですけど、それが今は条約や法的に整備されつつあると考えてよろしいのでしょうか。
川口先生 整備されるというのは、文脈の中でそういう用語が出てきて、で、必ずステークホルダーとして意見を聞くというところの位置づけというのをされていますし、先住民ないしは地域の伝統的な知識に関する議論というのは深まってきているんですけど、実際のオペレーショナルなところですとか、本当の所有権とか、権利でのアプローチをとったときに、集団とか公知のもの、既に知られている知識との違いをどうするのかとか、なかなか単純な問題ではない現状もあるのかなと思います。ですが、そういうものにすごく気をつけなければいけない意識は広がったふうに思います。国際交渉の議論では、国連の権利宣言も大きな後押しにはなっていると思います。
松田室員 農学や情報とか、RRI、ELSIに非常に深く関連が予見できるというか、大事になりそうなお話もたくさんお伺いしたのですけど、私が所属している物性研究所は物質の基礎特性を調べるということで、最初にお話しいただいた定量研の須谷先生のお話で、定量研も基礎科学でELSI、RRIとの関連があるかどうかから始まったというお話を伺ったのですけれども、そのアンケートの回答が、セミナーで非常にRRIやELSIがわかるようになったという非常にすばらしい成果かなと思ったんです。
具体的に今行っている研究がどういう社会的影響を及ぼすかを予想する質問に、いろんな回答例があって印象的だったのですけど、定量研の中でそういう魅力的に倫理セミナーを行うための工夫や議論はあったのでしょうか。
須谷先生 魅力的にセミナーをできているかわからないのですけれども、我々の研究所では、研究倫理はきっちりやらないといけないというのが今の白髭所長のポリシーでもあって、それは教員に共有されている意識だと思うので、セミナーの受講率も非常に高いような感じです。なので、比較的活発な、こちらの発信を受けとめて向こうからも返してくれる流れが幸いにもできていると思います。
何がうまくいっているのかと言われるとすごく難しいのですが、今回のアンケートで自由記述の設問を出してちゃんと答えが返ってくるのかなと思ったところはあるんですけども、実際には7割ぐらいの方がしっかりした何行にもわたる回答を書いてくださって、こちらもやったかいがあったなと思いました。学生も非常に、自分の研究に照らしてどういう未来があり得るかみたいなことを考えてくれたところがあります。
もう一つ、工夫しているところは、留学生が今多いですから、英語版をつくるところは一手間かけています。
藤垣室長 今の点にちょっと関連して、社会に思いもよらない影響を与えるシナリオを考えてくださいというのは、自分事としてRRIを考えるのに大変いいと思うのですけど、何かグループ討論とかはなさったんですか。
須谷先生 いえ、今回はオンライン型のセミナーだったので、そういう機会は設けられなかったです。
おっしゃるとおりで、みんなが集まってやるというのも違うレスポンスがあっていいのかもしれません。いろいろな事情があって、なかなか全員が集まるセミナーは今できてないのですけれども、今後考えていきたいなとは思っています。
閉会挨拶(研究倫理推進室 藤垣 裕子 室長)
ご参加の皆様、今日は2時間にわたってどうもありがとうございました。皆さん、知的刺激を感じていただけましたでしょうか。もし知的刺激を感じていただけたら、非常に良かったと思います。
今日の話は、ELSIとRRIの話をしていながらオープンサイエンスの話にも関係しましたし、知識の持つ権利であるとか、あるいは査読の持つ意味とか、オープンにするかクローズドにするかの境界をどう引くかとか、いろいろと考えなくてはならない課題があり、知的刺激を感じるようなものがたくさんあったかと思います。
研究倫理セミナーで、ねつ造をしてはいけません、改ざんしてはいけません、盗用してはいけませんという「べからず集」のセミナーをしても全く知的刺激を受けることができないため、こういう工夫をしています。いろんな具体例がございましたので、ぜひ須谷先生のところでやったような、例えば社会に思いもよらない影響を考えるシナリオをグループ討論いただくとか、何かそういう工夫を各部局で実施していただき、自分の研究が社会に埋め込まれたときどういう影響を及ぼすかを想像する力を各部局でつけていただけたらと思います。
最初にも申し上げましたけれども、本学は総合大学であるがゆえに、その研究領域の広さと多様性は相当なものです。自分の領域に応用することを自分事として考えないとこういうものはうまくいきませんので、ぜひとも今日のセミナーを参考にして考えていただけたらと思います。
あと、これから2~3年先のRRIとELSIを組み込むその先の展望は何ですかという質問がありましたが、川口先生が、経済学でこういうことを知りたいというときに情報理工学に聞きにいけるような窓口はあるのかというご質問に対する皆さんのやりとりを聞いていて、一つ新たなる回答を得ました。つまりRRIとかELSIは、分野の壁を越えてつなぐ力を持つ、という展望です。うちの部局でこう考えたんだけど誰に聞けばいいのか、というような形で、分野の壁を越えることができます。どうしても本学は研究科、部局ごとの壁が非常に強いので、RRIやELSIの議論を通して壁を越えてつなぐ力が発揮されると非常にありがたいかなと思いました。
では、パネリストの皆様、どうもありがとうございました。セミナー参加の皆様も、本日はどうもありがとうございました。
出演者・企画者より
藤垣 裕子(研究倫理推進室長)
今回の研究倫理セミナーでは、UTokyo Compassの目標1-5と第4期中期目標・中期計画の8-4にある共通の指標「RRI及びELSIを組み込んだ研究倫理セミナーを年40回開催する」を実現するために2021年のセミナーから3年間でどのような取り組みを行ってきたのかを振り返り、今後の展望を得ることを目標としました。まず室長の藤垣からRRIの概念説明および3年間の試みを紹介した後、部局取り組み発表会でのgood-practiceを4部局から発表いただき、全体討論を行いました。
須谷 尚史(東京大学)
セミナーを通じて、ELSIやRRIといった概念が、研究と社会の関係性を再定義する上で重要であると改めて感じました。特に各部局の事例紹介では、「このようなことが問題となりうるのだ」という様々な気づきを得ることができ、大変参考になりました。多様な分野の研究者が一堂に会し、答えのない問題を共有しながら議論を深める場が、研究倫理の本質を体現しているという印象を強く持ちました。
岩田 覚(東京大学)
「ELSI・RRIには、学内の様々な専門分野の研究者を繋ぐ力がある」という藤垣先生の纏めのお言葉が非常に印象的でした。川口先生のご質問に出てきました相談窓口として、数理・情報教育研究センターでは、データサイエンス・コモンズを設置しています。学内の研究におけるデータ解析全般の相談を幅広く受け付けています。積極的にご活用頂けますと幸いです。
川口 大司(東京大学)
今回のセミナーでは先生方の講演を伺い、ELSIが幅広い問題を取り扱う概念であることに気づかされました。そして、ELSIの問題を研究に取り入れることが、研究の幅を広げる可能性があることも実感しました。セミナー終了後にも個別に感想をいだく機会があり、多くの方がセミナーを聞いてくださったことを実感しました。このような地道な取り組みを続けていただくことで研究の現場にELSIが定着することを期待したいと思います。
香坂 玲(研究倫理推進室員)
ELSIやRRIの議論の国際的な流れについて藤垣室長の基調講演で学んだ後に、議論を「べからず集」に留めないという趣旨に沿って、学際的な議論ができたことは有意義であった。特に情報科学、生物学という進展の展開が早い領域とその境界域での議論について意見交換をできたこと、各部局での具体的な取組みを共有でき、自分の部局にも持ち帰り広めていきたい要素であり、自身の研究について社会への影響についての自由記述の取組みなどは学ぶべき点も多かった。
松田 康弘(研究倫理推進室員)
基調講演、さらには、各部局に関連した実践的な問題を通しての議論の中でRRI・ELSIへの理解が深まったと思います。異なる専門性や立場からの多様なアプローチが今後も有意義だと感じました。アンケートからは、さらに深い議論を聴きたいとの声のある一方で、まだまだ馴染みがないと感じられた参加者もおられる様です。基本編・実践編など、セミナー企画にアクセントをつけてもよいのかもしれません。