ARTICLES
令和3年度研究倫理セミナーを開催
令和3年度研究倫理セミナー 「志向倫理」と「責任ある研究・イノベーション」
東京大学では、「高い研究倫理を東京大学の精神風土に」という目標のもと、平成26年3月に「研究倫理アクションプラン」を策定しました。このアクションプランの中で、「研究倫理ウィーク」を定め、この期間中に本学の構成員に対して研究倫理への理解を深める様々な企画を実施してきました。今年度は、令和3年9月29日（水）に、『「志向倫理」と「責任ある研究・イノベーション」』と題して、研究倫理セミナーをオンラインで開催し、講演およびパネルディスカッションを行いました。本セミナーについて、その模様の一部をご紹介いたします。
開会挨拶 （研究倫理推進室 藤垣 裕子 室長）
皆様、本日はお忙しいところ、本年度の研究倫理セミナーにご参加いただき、誠にありがとうございます。参加登録者が350名を超えておりまして、多くの方に関心を持っていただいていることを大変ありがたく思っております。さて、研究倫理、あるいは研究不正というと、我々はどうしても何々をしてはいけないという「べからず集」を思い起こしてしまいます。研究不正防止は、予防倫理に重点を置いたもので、研究不正につながり得る行動の規制、あるいは禁止といった表現がよく使われます。それに対し、今年度の本セミナーでは、もっと前向きなことを考えてみようということで、公共の福祉を志向した行動を即す志向倫理、そして、責任ある研究・イノベーションに焦点を当てた新しい企画を考えました。
本日は、前向きな発想について学び、具体的事例を用いながら思考実験を行い、皆さんで議論を深めていきたいと思います。新しい研究倫理の考え方について共有していただけますと幸いです。どうぞよろしくお願いいたします。
講演1 「科学者と志向倫理～Well-beingを支える倫理～」（関西大学 片倉 啓雄 教授）
講演1としまして、「科学者と志向倫理～Well-beingを支える倫理～」について、お話をさせていただきます。まず、「予防倫理」と「志向倫理」はどういうものなのかをお話し、2つの倫理を理解した上で、「科学者は新規性を重視するがゆえに志向倫理が必要であること」、そして「科学者のWell-being（幸せ）には志向倫理が必要であること」について、順に進めてまいります。
「予防倫理」と「志向倫理」
予防倫理は、個人の行動の是非を「学ぶ（覚える）倫理」です。これに対して志向倫理は、科学者として何をなすべきか、その役割を「考える倫理」です。
倫理学者のコールバーグが「人の倫理意識の成長」を考察しています。それによると、倫理意識は「前慣習レベル・慣習レベル・脱慣習レベル」の3つに大別できます。前慣習レベルは、損得で判断し、利益があるならルールを破る状態です。実はルール・法律は、このレベルに対応する言葉、概念になります。
私たち科学者は、脱慣習レベルを意識しなければいけません。科学者は新規性・オリジナリティーを重視し、まだ誰も知らないことを解明し、誰もできないことを解決します。新しく踏み出していく分野・領域にルールや法律は存在しません。ところが、新しいことをすれば、ほとんどの場合、新しい問題が伴ってきます。したがって、科学者は、問題を予測し、既存の法律等を理解した上で、自己の良心に基づいて判断できる、そして新たなルールを提案できる、そういう存在でなければいけないはずです。
ここから、高等教育機関では何をなすべきか考えてみます。まず、学ぶ人たちに「自律」の意味を考えてもらうこと、ルールを提案できるように教え授ける必要があると思います。そして、創造するだけではなく、それに伴う問題に気づいて、対処できる広い視点が必要です。つまり、ルールが定められた背景、趣旨を知ることが大事です。法律を守るときに、条文を覚えるのではなく、前文の趣旨を理解することが重要になります。
もう一つ大切なことは、ルールを定めれば必ず幾つかの価値が犠牲になるということです。私たちがルールを定める立場に立つとき、世の中にある価値の多様性を知っておかなければいけません。これは非常に大切なことであり、私は大学の一般教養科目の大きな目的の一つは、この価値の多様性を知ることにあると思います。
「不正のトライアングル理論」
このように新しいことをしていくに伴い、どうしても不正が起きてきます。残念なことに、研究不正はコールバーグの「人の倫理意識の成長」過程の下位ですが、不正が起こる背景を理解しておくことは非常に重要です。
「不正のトライアングル理論」があります。経理の不正、いわゆる使い込みの考察から出てきた理論です。動機（お金に困っている）、機会（誰にも監視されない）、そして正当化（社長は豪遊しているのに自分は貧しい）、これらの条件が揃うと経理の不正が起きると言われています。これが研究不正にも多くの場合当てはまると言われています。
研究不正における動機（ポジションを得るには論文が必要）、機会（一次データは自分しか持っていない）、正当化（上司・先生もやってきたことだから）です。このような考察から、動機や機会をなくそうという動きもあります。例えば、組織でデータを共有して操作できないようにする試みです。ただ、これは全てに適用できるわけではなく、難しい部分もあります。また、動機をなくすことは、競争をなくすことですから、これもある意味難しいとされています。実は、一見難しそうな正当化をできなくすることは、気づきがあれば、十分可能です。
上述の考察を踏まえて、予防倫理と志向倫理を比較していきます。先ほど価値の多様性を知ることが非常に大切だと話しましたが、「グループ討議」はそれに気づく非常によい機会になります。科学者は、ジレンマ問題があったときに、二択とか妥協ではなくて両方何とかする方法を考えることが仕事だと言うこともできます。それを目指すためには、やはりいろんな人の知恵を借りないといけない。そういうときにグループ討議は非常に有用なツールになります。
ただ、グループ討議を行う際に必要な心得が2つあります。まず「批判」と「非難」の違いを意識しておくことです。「批判」も「非難」も一般にはネガティブな言葉として使われますが、「批判」は比べて判じるのですから、実はポジティブな言葉です。学生とグループ討議する際に学生にはこの点を話します。「あなたの意見は幼稚だ」は、非難になりますが、ある意見の限界を明らかにすることは、批判でポジティブなことであり、更によくするためには、「その考え方だとこういう場合に成立しなくなるから、こう考えてはどうでしょうか」と助言するのです。これは非常によい循環を生みます。このあたりのことをグループ討議の前に十分に説明しておく必要があります。
それからもう一つ、グループ討議では、組織・社会として時間をかけて対応すべきことと、現状で今自分たちがどう行動するか明確に分けて議論する必要があります。これが混ざると議論が発散して何も決まらなくなります。
「創造的第三案」
志向倫理において「創造的第三案」を挙げましたが、世の中に出回る製品やサービスには、経済性、利便性、安全性の3つの要素が要求されます。ところが、この3つは互いに相反するものです。最も重視すべきことは安全性ですが、安全性を重視し過ぎると現実的ではなくなってしまいます。
工学は、この3つのよりよいバランスをとるための学問であると言うこともできると思います。そして、技術者（科学者）はその実務に携わる人、と考えていただいてもいいと思います。「創造的第三案」は、この相反問題を考えるときに、どちらをとるか、あるいは、どこで妥協するかではなく、両方とも満足する方法を考える。これが工学、そして技術者、科学者の努めであると思います。
この経済性、利便性、安全性の相反問題を解決するときにどのような方法があるのか。経済性、利便性に関しては費用便益法があります。利便性をお金に換算するわけです。ところが、これを安全性が絡む問題に適応することは非常に慎重になることが必要です。極端な話、人の命をお金と天秤にかけることにもなりかねません。安全性が関係する相反問題を解決するときに何が一番難しいのか、それは、安全は「リスクが許容範囲内にある」と話しましたが、許容範囲内というのが極めて動的、主観的だからです。人の許容範囲内は、時代、地域、宗教・民族、知識・経験、地位・立場によって大きく左右されてしまいます。したがって、特定の価値観で判断すべきでないことを十分理解しておく必要があります。もう一つ、注意が必要な点があります。研究者・技術者・科学者は、能動的に研究、開発をするため、それに伴うリスクを低く見がちになります。しかし、自分が開発した製品を使う人がそのリスクを受け入れるとは限らないし、製品を使う人の周囲にいる第三者にとって、そのリスクは受け身のリスクであり、とても許容されにくいリスクになることを理解しておかなくてはなりません。
科学者の「Well-being」
ここからは本講演のポイント2つ目のお話です。なぜ「Well-being」が出てくるか。Well-beingの一番近い訳語は、「幸せ」「幸福」になるかと思います。Well-beingが広く言われるようになったきっかけは、1990年代後半、アメリカ心理学会会長のマーティン・セリグマンが提案した「ポジティブサイコロジー」です。アメリカの心理学は、戦争で心を病んだ人の治療で成果を上げてきましたが、それは、いわばマイナスをゼロにする成果です。セリグマンは、それが可能であれば、ゼロをプラスにできるはずだと考えたのです。彼は、科学として「Well-being（幸せ）」について真剣に研究しようと提唱しました。
その結果、Well-beingは測定が可能であり、5つの要素から構成されることがわかりました。この5つの要素の充実が、持続的な幸福度の増大につながると科学的に証明できたのです。5つの要素には、楽しく過ごす幸せ（Positive emotion）、時を忘れるほど没頭できる幸せ（Engagement）、友好関係を保てる幸せ（Relationship）、何かを達成する幸せ（Achievement）、そして、最も大切な要素として、自分の強みを生かして価値を認めるものに貢献する幸せ（Meaning & purpose）があります。
Meaning & purposeが満たされていれば、ほかの4つが多少満たされずともその人の幸福度は高く、逆にほかの4つが満たされても、Meaning & purposeが満たされていない人の幸福度はそれほどではないとされています。よく大富豪が寄付をしますが、それはMeaning & purposeを得るためという解釈も成り立つと思います。
5要素の中でMeaning & purposeが最も大切なのですが、これを認知することは簡単ではありません。「あなたが幸せだと感じた状況のベスト3を教えてください」と質問すると、Meaningに相当するものを挙げる人は非常に少ないです。社会人であっても、1割に達しません。では、どういうものがこのMeaningになるでしょうか。
学生は、チームへの貢献や、文化祭などの催しで誰かの役に立ったことを挙げる人が多く、社会人は仕事での成果を挙げる人が多くなりますが、その一方で、家族に感謝されたという回答も挙がります。貢献する対象は必ずしも大きなものでなくても構わないわけです。
科学者の「Meaning」
科学者、技術者は、新しい製品やサービスを提供することによって、世の中の安全・安心・健康・福利という誰もが価値を認めるものに貢献することができるわけです。ただ発明する、発見することだけではなくて、それに伴う問題を予知して、社会の安全・安心・健康・福利に貢献するという発想ができれば、それはMeaningになります。
学生や組織のメンバーそれぞれのMeaningを見つけるための気づきを与えることは、私たち教員やリーダーのMeaningにもなると思います。倫理的な行動と、自分のWell-beingを追求することは、気づきと工夫があればそのベクトルは一致させることができると思います。どうぞ皆さん、幸せな研究者、科学者、技術者になっていただきたいと思います。
以上です。ご清聴ありがとうございました。
講演2 「「志向倫理」を哲学する」（東京大学 納富 信留 教授）
講演2としまして、「「志向倫理」を哲学する」というタイトルでお話しします。まず、なぜ古代ギリシア哲学の専門の私が、科学技術の最前線の方々のセミナーでお話しするのか、どういう意味があるのかというのを簡単に振り返ります。その後で、今回テーマになっている「予防倫理」と「志向倫理」それぞれについて考えてみます。その後、古代ギリシアの哲学を少しご紹介して、最後に今後について少し問題提起をしたいと思います。
研究倫理セミナーに、何を提供するか？
私は人文社会系研究科に所属しており、紀元前6世紀～紀元後6世紀の古代ギリシアの哲学を研究しています。なぜ21世紀に古い時代の哲学が必要かというと、実は私たちがなじみ、基盤になっている自然科学を含めた西洋哲学の基本的考え方は、古代ギリシアで生まれ、受け継がれ、発展してきたものだからです。科学技術が一体どういう理念で捉えられてきたか考え直すために、古代ギリシアまで遡って見直すことが必要だと考えています。ある意味、西洋哲学や現代の科学技術というものの限界を見据える作業にもなります。
今回、セミナーのテーマとして、「予防倫理」と「志向倫理」について議論しましょう、ということでした。私は古代ギリシア哲学の専門で、理論的、あるいは歴史的なバックグラウンドの専門であるため、講演のお話をいただいたとき、「予防倫理」という単語は聞いたことはありましたが、「志向倫理」という単語は初めて聞きました。もちろんしっかり考えられている先生方はいらっしゃると思いますが、実際にはまだ日本でこの2つの用語が定着しているとは私は申しません。逆に言えば少し気が楽になり、私が新たにいろいろ提案をしても構わないのではないかと思いました。つまり、「予防」という概念と、「志向」という概念をもう一回見直すことによって、どのような倫理が可能か、基本の部分から考えることが可能ではないか、つまり、私たちが「予防」「志向」をどのように受けとめるか、という内容を本日は考えていきたいと思います。
この2つは対になるという可能性はありますが、対立と言えるかどうかはわかりません。これから見ていくように、片方がよくて、片方が悪いということではなく、むしろ両方が必要であると思います。よい形での予防倫理は当然必要であるし、よい形での志向倫理も必要です。逆に言えば、予防倫理の中でやり方を間違えると、あまり望ましくないことが生じることもあるし、志向倫理も同様です。志向倫理をみんなができれば全てハッピーというわけではなく、恐らくやり方があると思うのです。
そこを見極めながら、この2つの側面を取り入れることが重要だと思います。我々がどのように倫理を豊かにしていくかというときの軸として概念を幾つか考えながら、実際の現場で組み合わせたり、片方に比重を置いたりしながら具体的な問題に臨んでいく、いわば概念の道具立てとしてこの2つを今日は検討したいと思います。
予防倫理を考える
さて、「予防（prevention）」とは何でしょうか。事故や不具合を避けるべきである。あるいは、危険性や被害を最小限にとどめるべきである。「べき」は、「こうしてはいけません」という義務論な色彩が強く、規制が中心になりがちです。
ガイドラインは、あまり強く制限すると、文句が出たり、自由な研究ができなくなったりするため、恐らく最低限で最大公約数的の合意だと思います。それを通じて、公式には、「公衆の安全・健康・福利を最優先」することになります。予防は技術者が考える部分が大きいですが、社会全体で考えて理解することになると思います。
予防の悪い面は、形式的になると、「これをやったら怒られるよね」という考えに至り、主体性の欠如に繋がります。主体的に予防を考えないと、単なる制約として終わってしまいます。もっと言うと抜け道を探すことができてしまいます。
「予防」とは、漢字にあるように予め防ぐことです。つまり、将来のことを予め考えて、それが起こらないように準備すること、現在起こっていないことをどのように取り組むかということです。例えば10年後、今まで使っていない新しい機械を使い始めたらどうなるのか。それに対してどういう態度をとって、どう評価するか。実は何もわかっていない段階で規制をかけることになりかねないわけです。
では、「予防を考える」とは、どういうことか。複合的な未知の将来の事態に対しては、科学的な予測を超えた、ある程度想像力が必要だと考えます。これを「予考」と仮に名前をつけます。つまり、データを積み上げて導く予測は非常に重要ですが、それだけでは決してカバーできないことが生じます。単に事故や被害を予測データによって防ぐという狭い意味ではなく、一体どういうことが起こり得るのかということを潜在的な影響も含めて考えるという、非常に幅広いことが必要になると思います。
検証不可能な出来事について、そのような想像力が必要ですが、例えば、過剰な予防はかえってマイナスにもなり得ます。予防のためにどれぐらい準備が必要か、投資と結果のバランスもあります。津波が来るために50メートルの防波堤をつくることが果たして意味があるのだろうか、という問題です。予防のためにどれほど制約が生じるのか。これは安全と自由のバランスがあり、予防することは、ある意味でどこかに皺寄せがきますので、その制約を我々は受け入れるかどうか。これは社会的合意の問題になると思います。
予防倫理のまとめになります。予防倫理は、私は非常に豊かなものだと思います。これはむしろ積極的に、建設的に考えるべき問題であり、決して「これをやっちゃいけない」という発想で進めるべきものではないと考えます。ガイドラインも法令も必要です。ただ、それはあくまでも一部にしかすぎません。それをさらに越えて、自分たちが何に対処すべきか、ということを想像する、そして予防する。これはやはり我々の科学技術とのつき合い方、福利のためには重要なことだと思います。
志向倫理を考える
「志向倫理」について見ていきます。何かを目指す、あるべき方向、善さということから考えていきます。ここでは、「善き技術者」が一つのキーワードになると言われています。ここで幾つか考えるべき問題があります。
まず、これは決してネガティブに言うわけではありませんが、一つの回答はないことが最初から認められるべきだと思います。一つの目標をみんながシェアして、進みましょうとは多分できません。つまり、複数の目標があって、その中に相反するものもあるかもしれない状況を受け入れる。では、どうやって受け入れるのでしょうか。これをむしろ試されるのだと思います。一つ一つの志向、目標、あり方については完全な合意を得られることはありません。つまり、ガイドラインや法令は最大公約数として全員が合意するものだと思いますが、志向はむしろばらけてしまいます。多様なあり方に開かれた議論・対話を通じて、むしろ合意に達しないけれども、いつまでも議論して耐えることが必要です。つまり、志向倫理は即効薬ではないのです。ただし、基盤としては非常に重要な働きをするし、恐らく良い効果が出てくると考えたいわけです。
「べき」「利益」という場合には、主体が結構欠落してしまいます。一方、「志向」という場合には私が志向する、我々が志向するという形で、志向する主体のあり方が問われます。ただし、志向的な発想には落とし穴が幾つかあると思います。志向が全て善いというわけではない、志向することは何かを望むことであり、ポジティブな感情も含まれますが、それが常に正しいとは限りません。むしろ誤りも多い点をまず認識すべきです。
例えば、強くなりたい、オリンピックで優勝したい、肉体改造がどこまで許されるのかという問題。優れた遺伝子を残したいという優生学の発想にも繋がります。つまり、望むことをそのままやることが必ずしも善いとは限らないのです。これは社会的にもそうです。社会の中で、より労働力として使える人ばかり生産しましょう、という発想も志向される可能性はあります。そういうところには十分注意が必要です。そして、そこでは伝統が比較的まずい形で働くことがあるので、注意する必要があると思います。
もう一つは、一部ではなく全体を見る視野が必要です。例えば、兵器を作るときに、なるべく手を汚さない兵器を作れば善いか。つまり、操縦者が安全な兵器を作ると、それはより多くの人を殺すことができる兵器になるわけです。全体として必ずしも善いかはわかりません。こういう例を考えながら、「正しい」、「善い」志向は独善性、押しつけにも繋がるのでどう回避するか、考えていきたいと思います。
志向倫理は幾つかモデルをつくって考えるべきだと思います。それぞれの理念のモデルを立て、それぞれで議論をするパターンが一番良いのではないかと思います。
古代哲学から考える・これからの考察
最後に、古代哲学から少しヒントを探ってみます。ギリシア哲学には、現代の私たちが当たり前だと思っているものとは、大分違う発想が入っています。一つは、価値の実在論です。「善い」「美しい」「正義」などは決して我々の主観的な感情やものではなく、実際にこの世の中で、それ自体が存在しているという考え方が強いです。それらは単なる主観的な問題ではないという、現代の我々の考え方に対してかなり強いアンチテーゼになります。私はその可能性を強くとっています。また、人間に限らず、宇宙や自然の全体で発想することは、ギリシア哲学の非常に強い傾向で、環境問題や人間、生物の問題を考える場合にこういう発想も必要だと思います。そして超越者、あるいは普遍性ということを考えていくということになります。
最後に手短に3つ問題提起をさせていただきます。「善き技術者」という単語が出ましたが、善き技術者とは何か。プラトンの問題提起です。これは古くて新しい問題だと思います。技術者は、倫理を独立に身につけるのか。技術者である限り倫理的であるのかという問題です。例えば、善き医者は、医者であることプラス「善い」という倫理を身につけなければならない、もっと言ったら、悪い医者もあり得ると考えるか。あるいは、本来の医者は、基本的には患者を治す者であり、既に倫理性をはらんでいると考えるのかということです。そのあたりの考察はプラトンの時代から問題提起されています。
アリストテレスの幸福論については、幸福にはいろいろな種類があり、実は経済的な豊かさ、健康、名誉、精神的なものにそれぞれ分かれています。アリストテレスはそれらを価値づけ、順位づけをしていきますが、そういうことを考えなければなりません。「エウダイモニアー」（『ニコマコス倫理学』第1巻、第10巻）というのはWell-beingのもとになった単語です。
最後に、理想を求める、プラトンのイデア論を少し考えてみます。「イデア」は、正義や善といった究極の目的です。我々はそれ自体を直に把握することはできません。そのときに、「これこれが善い社会・善い生き方である」と、我々はいわば理想をモデルとして議論することができます。これが理想（ideal）という単語です。つまり、人それぞれによって少しずつ異なるかもしれませんが、自分の理想を抱きながら、それを言葉で議論していく。つまりモデルを幾つか立てるわけです。それについて、「貴方の理想はここが少しおかしいのではないか」「私の理想はここがいいよね」と、お互いに言い合うことで、ユートピア的なことも含めて想像力を働かせて議論をしていくことはできます。科学者がどうやって倫理を「志向」するかという問題です。科学者であることと「市民」であることの折り合いをどうつけるかということが重要となります。そのためには、よく言われることではありますが、多元的な人々とのかかわりと対話ということが重要になっていくわけです。私の方からの提題は以上で終わらせていただきます。
パネルディスカッション
パネルディスカッションは、ご講演いただいた片倉先生、納富先生、そして東京大学江間先生（未来ビジョン研究センター 准教授）、研究倫理推進室の石井副室長（農学生命科学研究科 教授）の4名にパネリストとしてご参加いただきました。最初に、江間先生から話題提供いただき、その後、「研究公正に関するヒヤリ・ハット集」（国立研究開発法人日本医療研究開発機構）の不正事例を基にパネリスト間で意見交換を行いました。
話題提供「責任ある研究・イノベーション（RRI）とは何か」（東京大学 江間 有沙 准教授）
私は現在、未来ビジョン研究センターに所属しており人工知能（AI）やロボティクス、情報技術の管理・ガバナンスを主な研究としております。今日のテーマである「責任ある研究・イノベーション（RRI）」においては、様々な方々と連携しながら研究をしていく、社会的・政策的に発信をしていくことが一つの肝になりますが、これを日常的に行っております。
RRI、あるいは最先端の技術を進めていくにあたり、私たちが考えなければいけないことには、大きく2つのアプローチがあると考えています。
1つは、既に目の前にある技術・製品・科学的物質を、開発段階からその安全性や公平性のリスクを考えていくこと。そのためには、多様な人たちと議論形成をすることが重要になります。2つめは、そもそも「私たちはどのような社会に住みたいのか」という志向的な観点から科学技術と社会のあり方を問うこと。顔認証技術のように、ある科学技術は特定の分野では使用を制限すべきではないかといった議論が重要になってきています。
本題ですが、責任ある研究・イノベーション（RRI）とは一体何なのか、簡単におさらいします。この単語は、実は2000年代前半から主に欧米で議論され始めたものです。これからの研究をしていくための重要な視点として、主に次の4つが指針として提唱されています。
まず、応答性と変化への適応性。私たちの社会が様々に変化するときに、柔軟にその状況や展望に対応して行動様式や組織構造を変更ができること。次に、先見性と省察性。研究やイノベーションがどのように未来を形成するか理解するための前提や価値観、目的を熟考し、影響を想定すること。これは想像力にも非常に関わる言葉だと思います。3つ目に多様性と包摂性。研究・イノベーションの実践、普及と意思決定において、科学技術発展の早い段階から多様な人たちを巻き込むこと。最後に、公開性と透明性。人々が情報を精査し対話できるように、方法、結果や影響についてバランスよく伝達をすること。研究者の内部だけで閉じるのではなくて、社会全体でイノベーションを行っていくべきだという点にも繋がっていきます。
この責任ある研究・イノベーション（RRI）は、急に出てきた議論、概念ではありません。前提となる概念のひとつ「倫理的・法的・社会的影響」をご紹介します。英語では、Ethical, Legal and Social Implications あるいはIssuesと表記し、略してELSIと呼ばれています。ELSIは、もともとは1990年代に始まったヒトゲノム計画に端を発します。当時は、助成予算の総額3～5％を倫理的・法的・社会的な研究に費やすという予算枠組みの考え方でした。予見性や、科学技術がもたらす影響への考慮が重要であるとして始まったものです。
いくつか非常に意味のある研究も出てきましたが、元々がヒトゲノム計画という理系研究の研究費の一部を、人文社会科学系に分け与えて研究をする構造になっているため、権力的に、研究に対して否定的な意見を出しにくい点に批判がありました。
RRIは、実はこのELSIという枠組みに対する反省として出てきて、人文社会科学系の研究者たちと、実際に科学技術を進める理系研究者たちが対等に対話をしていくために提唱されたものとも言えます。昨今では日本でも、JSTや民間の研究財団で、生命科学だけではなく、AI、ロボット分野でもELSIが言われるようになりました。
ELSIと言われると、研究者や企業においては「社会的に技術を普及させるためには、技術的な問題がクリアできても、社会・倫理・法という観点のハードルを跳び越えていく必要がある」と考えられがちです。
ただ、この3つを別々に対応しても意味がなく、また3つだけを考えればいいというものでもありません。横断的かつ俯瞰的に議論できる人をどのように育成していくのか、「どういう社会に私たちは住みたいのか」というトップダウンな観点も大事になります。日本においては若干、RRIとELSIの概念がまじった形で、現在、研究における社会的な議論が行われていると思います。
ELSIよりも更に10年ほど遡ると「コリングリッジのジレンマ」という、科学技術政策でよく言及される考え方があります。これは、「情報の問題」と「力の問題」がジレンマを起こすというものです。刻々と変化する状況において、技術の影響力を予測し、完全に予防することは難しいとする「情報の問題」と、既に普及した技術は問題が起きても取り返しがつかないという「力の問題」によるジレンマです。例えば、現在、自動車は年間何千人も犠牲になっていますが、社会には欠かせないインフラです。一度普及したものは、社会構造や私たちの精神的な拠り所になり、取り除くことは難しいのです。この「情報の問題」「力の問題」の間でバランスをとり、適切な段階で舵を切る（ガバナンス）柔軟性や適応性が求められているのは、RRIにも共通する課題です。
このような問題を背景として考えると、設計の段階から、どのような社会的、倫理的、法的、経済的、政治的、政策的、さまざまな影響を考えていくことが重要です。
今までは、技術が持つ課題を想定するときに、例えば特区をつくる、治験をする、限られた空間でテストをすることで、その影響力を考えてきました。しかし、現代は技術の発展が速く、特に情報技術は「永遠のベータ版」と言われており、常に新しいものが誕生して、普及し、変化していく世の中になってきています。それは、どこか限られた場所で「社会実験」をするよりは、私たち自身がすでに「実験社会」に住んでいるとも言い換えられるのではないでしょうか。
例えば、実験社会においては、Covid-19のワクチンなどに対して、私たち市民はリスクも踏まえながら、対応を見極めて考えていくことが求められます。そこで問題が起きたら、すぐに提供側は吸い上げられる連絡網・システムを構築しておくことが必要です。このように、それぞれの人が取るべき役割や責任を理解し、構築していくことが大事になっていきます。
責任ある研究・イノベーションという考えのもと、社会の変化と、科学技術の動きに目を払っていくことや、人々が最適だと納得できる判断ができるように情報発信していくことが重要であり、臨機応変に議論ができるシステムづくり、対話の場づくりが大事になってくるのだと思います。
以上で終わります。ありがとうございました。
ディスカッション
今回は、国立研究開発法人日本医療研究開発機構【研究公正に関するヒヤリ・ハット集】から事例を抜粋し、パネルディスカッションを行いました。一例を掲載します。
石井副室長：それでは、ここで設問です。研究室に研究員Bのような人がいた場合、どのようにすれば気づくことができ、また、どのように対処すればよろしいでしょうか。片倉先生、いかがでしょう。
片倉先生：この場合は、生データをもとに議論する機会をできるだけ作るということですね。ただ、教員が学生一人一人に対して十分な議論の機会を設けることはかなり難しいです。そうすると、やはり研究室の中で、先輩、後輩の間柄や、あるいは研究室内の違うグループなどで相互にデータを見て「あれ、それっておかしくない？」という機会を作ることが大事かと思います。できることなら別の研究室と時々交流会をやって、そこで相互批判をする。あるいは「これはうちの研究室のレベル低いのでは？」という気づきを与える。そういう縦だけでなく横の繋がりを作るべきかなと私は思います。
石井副室長：ありがとうございます。納富先生、いかがでしょうか。
納富先生：まず、哲学を中心とする人文系はこういう共同研究がなく、1人で1つの論文や本を書く形式のため、興味深い例だと思いました。研究員Aが共著者から外れたことは、非常に重要な行為だと思います。自分の業績を1つ減らすわけなので、外れることは自分にもリスクはあるわけです。ただ、そこはやはり研究者一人一人、つまり共同でやっておきながら、一人一人ができるところで責任と自覚を持っていくこと、それがお互いのぶつかり合いを通じて、全体としてよくなると考えます。
この事例では、共著者から外れるという大変な決断をしたことはアピールにもなりますので、ほかの方々にとっても一種のショック療法ですよね。それは1人の研究者が共同研究するときの責任のとり方ではないかと感じました。感想ですけど、以上です。
石井副室長：ありがとうございます。江間先生、いかがでしょうか。
江間先生：なぜ研究員Bが間違いを認めなかったのか、その背景も考えてみることが実は重要なのではないかと思いました。もしかしたら、この研究室全体として、何か結果を出さなければいけないプレッシャーがあったかもしれないですし、グループ長との連携や指導体制がうまくいってないかもしれません。構造的な問題の可能性も含めて議論することも大事なのかなと思いました。
その観点から、この図において、実は研究員Bの後ろに黒子のように3人ほど人がいて、その人たちは一体どう関わっているのか。例えばポスドクの研究員Aがその黒子の人たちに相談するというステップが、C研究グループ長に行く前にあってもよかったのではないかというようなことも考えました。
研究員Bだけが悪いのではなくて、その研究員Bの頑なさをつくっている、ほかの要因があるのかなということを、ケースを見て思いました。
石井副室長：ありがとうございました。
片倉先生：それに関して、一言だけよろしいですか。
私が実際に学生に接しているときに感じるのは、相互批判が殆どなくなっていると思います。私が学生の頃から20年ぐらい前までは、学生がお互いに「おまえ、それおかしいよ」と言い合っていたのですが、今は、隣の学生が変なことをしても何も言わない学生の割合がすごく増えていると感じます。それがお互いに不利益であると、どうやって気づかせようか、悩んでおりますので、教員同士でアイデアを出し合う機会があればいいなと思いました。
江間室長：関連して、今の先生のお話で思い出したのですが、ある生命科学系の先生とお話をしていて、学ばされた事例がありました。その先生は、学生や研究グループの方が「こんなおもしろい結果が出ましたよ。」と持ってきたときに、最初は喜ばないようにすると仰っていました。「すごいな。おもしろいじゃん。」と言うと、その最初の結果に固執してしまう可能性があるからだそうです。その最初の結果は間違いの可能性もあるし、勘違いもあり得るため、「あ、そうなの。じゃ、もう一回ちょっと追試やってね。」というくらいに留めて、何回か出た後に漸く「すごいじゃん。」と一緒に喜ぶという作戦をとられていました。
周りの評価や、先生が喜んだ後に引けなくなる環境をいかに作らないか。逆に言うと、学生側からすると、「こんなにおもしろい結果だったのに先生そっけなかったな。」と思ってしまうかもしれませんが、グループで活動するときは、先ほど片倉先生がおっしゃったように、批判的精神とまでいかなくとも、あまりぬか喜びしないことも指導側の戦略としてあるのかなと思いました。
閉会の挨拶（研究倫理推進室 藤垣 裕子 室長）
長時間にわたり、皆様、お疲れさまでした。本日のまとめをしたいと思います。まず片倉先生のご講演では、実践の現場から得られた知の宝庫ということで、科学者としての矜持も交えた形で、志向倫理について語っていただきました。最先端の科学研究は、まだ誰も知らないことを研究するため、ルールがまだない研究をしております。新しいことをすれば新しい問題が必ず起こることは、江間先生が指摘された最先端科学技術のELSI、倫理的・法的・社会的問題と繋がるかと思います。また、ルールを守れと諭すだけではなくて、ルールを提案できるよう教授する話が出てきましたが、これはRRIにも通じるものです。
納富先生のご講演は、予防は受け身で、志向が能動というようにレッテルを張るのではなく、予防倫理を建設的、積極的にするためにはどうしたらいいかという問題提起だったと思います。それから、納富先生がprevention（予防）の定義をめぐって、予測して防ぐという形でまとめくださいましたが、実はRRIの中には、preventionではなくてanticipationという言葉が出てきます。anticipationは、予測して、備えることです。なぜRRIではanticipationを使い、予防ではpreventionを使うのか。これは、これからいろんなことを考えていく上で鍵になりそうだと思いました。
江間先生の発表では、コリングリッジのジレンマ「技術が社会で使われる前にその影響力を予測することは難しい」という話がでてきました。これは、片倉先生、納富先生お二人の講演と呼応していたかと思います。
研究倫理推進室の周辺の内外の状況はどんどん進展しておりまして、実は範囲はどんどん広くなっております。今までの研究倫理セミナーは研究不正が中心でした。もちろん研究不正をチェックする機構は必要です。しかし、社会で求められているRRI及びELSIはもっと広いため、今後、東京大学でどのような制度設計をしていくか、頭を絞らねばならない状況にあると思っております。本日は、その第一歩としてのセミナーでございました。
皆様にとっても、思考―thinkingの方の「思考」ですが―を刺激するセミナーであったことを祈っております。本日はセミナーにご参加いただきまして、誠にありがとうございました。
出演者・企画者より
納富先生のお話では予防倫理の考察が、江間先生のお話では「責任ある研究・イノベーション」のお話が特に印象深いものでした。また、ヒヤリハットに関するパネルディスカッションでは、議論がとても多角的で、とても勉強になりました。改定する機会があれば、参考にさせて頂きたいと思います。
私たちは日々研究に打ち込み教育に携わるなかで、それがどんな社会的意義をもつか、研究方法は適切かといった問題を、つねに考えているわけではありません。しかし、時に立ち止まり、異なる視点から距離をおいて研究倫理について考えてみることは有用です。今回の研究倫理セミナーでお話しした哲学からの問題提起が、研究を見直すきっかけになれば幸いです。
「志向倫理」と「責任ある研究・イノベーション（Responsible Research and Innovation: RRI）」という、従来の研究倫理の枠を超えるようなテーマ設定をチャレンジングに扱ったセミナーでした。事前打ち合わせでの論点の絞り込みや、当日のパネリストの先生方との議論を通して、改めて研究が社会に与える広範囲な影響を考えることの重要性を認識する機会となりました。
今回の研究倫理セミナーは、新しい挑戦をふくんだ内容でした。規制や禁止ばかり考えてきた従来の研究倫理に対して、より前向きのことを考えるために、「志向倫理」および「責任ある研究・イノベーション」(RRI)に焦点をあてました。室員および事務局の準備のおかげもあり、多くの参加者を得て知的刺激のある内容になったことを大変うれしく思っています。
室において【志向倫理】を提案し受諾されました。【RRI】も絡めたものとなり、どう纏めるべきか最後まで手探りの連続でした。構成員諸氏に役立つセミナーとなっていれば幸いです。共にセミナーを創ってくださった、河澄先生、伊部先生、事務の皆さま、そして、ご指導いただきました藤垣先生に厚く御礼申し上げます。
実験室が頭の中にある数学でも、既存のルールで事足りるわけではないと気づくことができました。そのとき志向倫理と RRI が扱う「誰がルールを決めていくのか？」は喫緊の問題です。片倉先生と江間先生のお話は判りやすく、哲学の専門家の納富先生にもご参加いただくことで本学にふさわしいセミナーになったと思います。
研究倫理セミナーというと研究不正を防ぐ「予防倫理」を想像してしまいます。しかしながら今回のテーマの「志向倫理」は研究者それぞれがあるべき姿を目指し実践していくことで倫理的な判断、研究に繋げていくという非常に前向きな考え方です。今回室員として参加させてもらうまで「志向倫理」の存在を知りませんでしたが大変勉強になりました。石井先生、河澄先生、事務の皆さま、大変ありがとうございました。
