令和5年度研究倫理セミナーを開催

松田室員：「企業の方がELSI対応に資源を投入するのは投資になっていると思いますが、アカデミア側はそういう認識まで到達しているのか、そこまでのインセンティブを持ってコ・デザインできる体勢を後押しするには何か助言がありますか」というご質問が来ています。

岸本先生：私もそういう実感を持っていて、アカデミア側がまだついてきていないのが現実だと思います。ただ、そうした場合にELSI対応をせよとか、RRIが大事だと押しつけると、これは逆効果だと思います。できる限り我々はニーズがあるところに、「こういうやり方があるよ」と役に立つことをわかってもらうというアプローチでいっております。
　そのために一番大事なのは、実例を示すことだと思っています。3年経ってさまざまな共同研究ができてきたので、特に企業との共同研究に関してはプロセスも含めてできる限り公開するようにしています。

新野先生：私も皆さんにELSIやRRIを考えていただくに当たって、よい例をお示ししていくのがいいと考えています。やはり大型のお金をとりに行くとなると、役所と協力しようとなりますが、役所は結局、財務と何とかしないといけない、そうなるともっと世の中と近いことを考えていかないといけなくて。そこでELSIの問題が急に噴出してしまうと、にっちもさっちもいかなくなるので、事前に考えたほうがいいよというのもインセンティブになるんじゃないかなと思っています。今日も、AIのデザインをやられている方と話すと同じような話題がパッと出てくるので、皆さんも同様のことを考えてくださっていると感じました。

福永先生：脳とAIのように、それだけでもものすごく物議をもたらすかもしれない言葉の組み合わせは、非常にインパクトがあり注目されやすいと思います。他方で、非常に地味なんだけれども光があたらない問題や研究課題はたくさんあって、廃棄物処理はその最たるものかなという気がしています。つまり儲からないけど倫理的に危ない、あるいは課題を抱えている部分はどうすればいいのか、アイデアはありますでしょうか。分野によって、多分注目の度合いはかなり変わってくるかと思うんですね。

岸本先生：いや、すごく難しい問題ですね。環境問題の中でもリユースって地味で、リユースを研究している研究者は、リサイクルより圧倒的に少ないんですよね。でもライフサイクルアセスメントを考えるとすごく重要だと思うんです。私は今メルカリさんと共同研究をやっているんですけれど、リユースに焦点を当てるためにどうするか議論していることを思い出しました。
　それこそアカデミアの力がちょうどいいのかなと思います。人文系や経済、技術など、多様な分野のステークホルダーが集まって、ELSIとか安全とか環境の問題も含めて総合的に取り組むべきことで、そういうものこそ本当はやらないといけないと思っています。我々はお金になるのでAIとかつい乗ってしまうんですけれど。

池谷室員：今の福永先生のご意見、本当に重要だなと思います。私はAIの情報プロジェクトをやっていて、一般の方にアンケートすると、AIのように注目を集める領域は2000件集まったりします。でも、そういう領域は科学全体から見るとむしろまれで、それ以外のほうが多いと思うんですよね。日本ではかなりずっと下火だったインフルエンザワクチンで国が敗訴しているようなケースは、典型的にELSIとかRRIの失敗で、その後、子宮頸がんワクチンでも同じようなことを繰り返したみたいなのって、あれも多分、私たちのメジャーな領域ではあるんですけど。でも、一般の方から見るとそういうに見えなくて、注目も集まらないうちに変なレッテルを貼られていると。
　でも、それをうまくやった遺伝子組み換え食品のような例もあると思っていて。とにかく遺伝子組み換えイコール悪だ、みたいな言説の中で研究者とか、実際の農家さんとか漁業の方とかが、すごく地道な努力をされて、ゲノム編集食品が実際に商品化されているわけですね。ほかの領域で何が失敗して成功したか、あるいはその日の当たらない領域はどうして表舞台に出てきたのか、まとめないといけないと思っています。
　それともう一つ、インセンティブをどうするか。おっしゃるとおり、私たちは自分で自分の首を絞めて規制していくみたいなイメージがELSI側にはありますよね。なので、やればやるほど研究をしづらくなるから、基本的に触れないほうが楽みたいなニュアンスができちゃって、そんな中にRRIができていると思うんですけど。本当はそんなことないわけですよね。この誤解を解いていくのも大切だけれど、ELSIを考えたものも研究の中に取り入れると研究費をとりやすいといったことを通じて、もっと実態の理解を進めていければいいなと、漠然と考えていました。

岸本先生：ジェンダー平等を進めるための割当制が過渡期としては必要なように、もしかして予算の何％をELSI対応に使うべきみたいなのは、インセンティブとしては並行してやっていくのはいいアイデアな気がします。

松田室員：確かに科学技術に携わる側からすると、やっぱりELSIとかRRIというのが、どうしても先端的技術の開発においては研究本体とは別のことを考慮しなければいけないという意識を持っている科学者の方もまだまだ多いと思いますので。インセンティブも、いわゆる半導体とか金属とか、そういう技術的な分野では、まだそういう意識がない印象を少し持っています。自分自身がその分野にいるので。

馬場室員：原理的なことを岸本先生にお伺いしたいです。岸本先生のお話の中で、法で議論できない問題があって、それは法の基盤としての倫理が重要になってくるというお話がありました。その倫理がまさに、今問題で。フランスの哲学者のジャン＝フランソワ・リオタールがポストモダンといった状況になっていると思うんですね。例えばすごく大きな、みんなが共有していた物語が失われて、非常に小さい物語が散乱している状況になっている。
　また一番いい例が、ここ10年ぐらいで性的マイノリティの権利が主張されるようになって、このこと自体はすばらしい発展だと思うんですけども。逆に言うと、多様であることを認める方向には倫理はすごく進むんだけども、みんなが一致して「これはいけない」と言いにくくなっていると思うんですよね。だから、「べからず集」になってはいけないと言うんだけれども、「べからず」が倫理のほうでは言いにくくなっているからこそ、法の重要性が高まっているとも言えなくもなくて。その点、岸本先生、どのようにお考えになっているのか、ご意見いただきたいと思います。

岸本先生：何が正しいかという意味でいうとおっしゃるとおりだと思います。我々、倫理と言っているときは、むしろどう正当化するかと。要するに、事業者が自分のサービスや製品を社会に出すことは、自分たちは安全だ、あるいは世の中に役に立つと思っているから出すんですよね。もちろん、詐欺師もいるかもしれないですけれど。
　安全だ、世の中に役に立つんだと思っているんだったら、それをちゃんと説明してください。我々はこれぐらいリスクを低減させていますと。ゼロにならないんだけど、これは社会として十分容認できると考えるんだったら、それを言葉や評価基準を用いて説明をしてくださいということなんですね。
　そのときのリスクとして、マイノリティへの影響のように、正解がないんだけれどさまざまなことを考えないといけないという意味で、守るべきものがたくさんふえていて、それらの影響をできる限り広くチェックして、リスクが受容可能であると考えると。その理由はこうであるということを主張するものです。
　なので、要するにこれが唯一正しいというのではなくて、我々はこう思っていますという意味で両立しているのかなというふうに思います。ポストモダン的な話と、何か大きな物語、一つの正しいことがあるというものの間ぐらいをプラグマティックにやっているのかなと考えています。

新野先生：3Dプリンターで銃をつくる問題は、銃をつくることが法律で規制されているので、倫理的には研究してもいいという考え方でいいんですかね。

岸本先生：もちろん、いろんな研究は悪用の可能性が常にあって、今は単なる悪用、軍事利用というよりデュアルユースという形で広がってきていますし、必ずしもつくることだけでだめとはならないと思います。
　最近は、企業とサービスや製品をつくるときに、悪人になり切って、どんな悪い使い方ができるかをみんなでワークショップして考えるというのが、僕の趣味になっています。悪用だけじゃなく誤用も考えます。以前、足のマッサージ器で首が絞まった事故がありましたが、作った人はまさか頭とか首に使わないだろうと思っていたかもしれないんですよね。研究をするときに、どんな悪用方法があるかを考えるのは、非常に頭の体操にもいいし楽しいのでやりたいなと思います。

松田室員：池谷先生の脳とAIの非常にセンセーショナルなタイトルで、不勉強で、内容は十分存じ上げてないのですけれども。昨年度、この倫理セミナーで私、かじった知識で、量子コンピュータの話を話題にしたんですけれども、その量子とも非常に深いと思うのですが。脳の機能というのが、量子力学がどのぐらい関与しているかというのは、多分ホットトピックスかと思うんですけれども。そういう量子技術と、今の先生のやられていることというのがどんな関係というか、ELSI、RRIの観点からも絡んでコメントをいただけたらと思うのですけれど、いかがでしょうか。

池谷室員：はい。そうですね。「全く関係がないというわけでない」という感じでしょうか。実際にデータ解析に量子コンピュータを用いたことがあります。ただ、ELSIや一般社会とのかかわりという意味では、今のところ、そんなに深く関係するほどまでは使いこなせていません。ですので一般的な発言になってしまいますが、やはり脳や生命の研究の場合、持って生まれた身体や心に人為的に手を下していいのか、改造していいのかが問題の一つのポイントでしょうか。このあたりは生命倫理だけでなく、宗教的な問題や個人の信念も絡んでくるため、一つの結論を導き出すことは難しいところです。
　ただ、開発した技術が実際にあらぬ使われ方をするかもしれないという懸念点は同じです。岸本先生がおっしゃったように、「いかに悪いことに活用できるか」という仮想トレーニングなどを通じて、ふだんから考えおくことは大切だと感じました。
　一つ例を挙げると、先日、光る遺伝子組み換えメダカで、カルタヘナ法の違反で逮捕者が出ました。光るメダカをつくったのは関東の大学のとある研究室で、そこの学生が持ち出したものが、回り回っていて台東区で販売されていたわけです。このメダカは、高額で売れると業界では有名でした。
　この事件は一つのヒントになります。飼育したり、販売した人はもちろん法律違反です。加えて、研究室から無断で持ち出した人もまずいわけです。さらに言えば、簡単に持ち出すことができるような研究環境をつくってしまった大学や研究室にも問題があります。では、遺伝子組み換えメダカを最初に制作した人はどうでしょうか。この判断として「研究目的に応じて、きちんとルールにのっとって、研究倫理審査も通過したうえで作っているのだから、実験者には罪はない」という人が結構います。実はその回答こそが、RRIの観念が欠如なのです。
　光るメダカをつくったら、一体何が起こるのかを全く考えていないままつくっていたわけです。昔の考え方だったら、それはそれでよかったのかもしれませんが、現代ではまかり通らない話です。そもそも「これが問題である」ということ自体に気づいていないという事態が、すごく問題だと思っています。とくに、今日この会場に来ていない多くの方に、この問題点をどう訴求するのかが重要です。例えば、「ELSI、RRIのセミナーをやりますよ」と聞くと、興味のない人にとっては、私には関係ないからこのセミナーには出る必要はないと自動的に判断するかもしれません。その英文字単語だけで拒絶反応を起こす人もいるかもしれません。
　どう広報するかから考えていかないと、本当に届けたい人に参加しようとすら思ってもらえない、聞くきっかけもない。こうした現状こそが問題の本質ではないかと思うのです。すみません、話しているうちに、主張の論点が変わってしまいました。いかがでしょうか。

松田室員：いえ、ありがとうございます。対話が大事というのは、非常にそのとおりかなと思います。

馬場室員：すみません、池谷先生、今の話、すごく触発されて、どうもありがとうございました。倫理の一般的な問題として重要なポイントだと思うんですよね。今のお話で思い出したのは、例えばナチスでユダヤ人の虐殺に非常に貢献したアドルフ・アイヒマンという人がいて、戦後にイスラエルに捕まっちゃって死刑になっちゃった人なんですけど。
　裁判の証言で彼が一貫して言ったのは、自分は悪意は全くないと。むしろユダヤ人に同情していたと。ただ私は上司の命令に従っただけで、もし従わなかったら殺されていたのだから自分には罪がないという主張だったんですよ。
　そうすると、本当に彼はユダヤ人の虐殺に責任がなかったと言えるのかという倫理的な問題が起こるわけですよね。それは僕もやっぱりあったと思いますけれども。
　それはまさに今、池谷先生がおっしゃったのってそれと同じで、自分は単に科学者として実験しただけで、その後のことに関して責任を負わないという主張は、ちょうどそのアイヒマンの議論とよく似ているなというふうに思いました。どうもありがとうございました。
　ちょっとそれに関連して、池谷先生、非常に重要なところなのでお伺いしたいのですけれど。例えばある種の害虫を絶滅させるために遺伝子組み換えをして、特定の害虫が滅んじゃうような遺伝子組み換えをして広めるというような技術があると聞いたことがあるんですけれど。その種の技術に対して、今、バイオロジーではどういうふうに対応しているのですか。

池谷室員：有名な例としては蚊があります。アメリカで交配しても卵ができないゲノム編集した蚊を放つという試行を何カ所か既にやっています。たしかに蚊の数が減っていますね。マラリアなど蚊が媒介するような病気がその地域で多いところでは積極的に使おうというのが、今、アメリカの基本的な考え方です。
　と同時に、やはり反対意見はあって、これによって一つ生物種を滅ぼそうとしているわけで、こんなことを人間の力でやってよいのかという点が、まだ結論が出ていないところです。
　医学の観点からヒト中心に考えると、確かに病気を媒介する蚊は要らないかもしれない。逆に、生命倫理的に考えると、蚊だって大切な命だと捉えることもできる。生態学的に考えると、大自然に手を下せば回り回ってヒトに悪影響があるかもしれない。いずれにしても、その結果どうなるかということが全然わからないままということは、きちんと議論をしていたらいつまでたっても議論は終わらないわけですから、結局、計画は進まなくなる。ではどうしたらよいか。進めるにしても進めないにしても、どこかに仮説の着地点は持っておかないといけないし、責任の所在もしっかりしないといけないのは確かです。

馬場室員：その手の技術というのは大学中心ですか。それともやっぱり企業ですか、開発しているのは。

池谷室員：両方のコラボです。

岸本先生：これ、「研究倫理セミナー」というと、池谷さんが言ったみたいに自分事じゃない、ここに参加しない人たちを引きつける魅力はないかもしれないけれど、やっぱり「光るメダカは何が問題だったのか」みたいなタイムリーな話題をタイトルにして、そこから広げて研究倫理の問題に持っていくというのは、無関心な人を引きつけるいいアプローチだなと思いました。
　もう一つは、やっぱり大学の問題って、僕、最後にちょっとお話ししたように、研究倫理審査はあっても、社会実装するときの審査がないんですよね。これは学問の自由とすごくバッティングする場合もあると思うので、学会発表する前に一々誰かがチェックするというと多分できないと思うんですけど。
　大学っていい意味では自由ですけれど、悪い意味では非倫理的な用途というか、ライフサイクルを考えないものが出ていくということは随分あり得るんですよね。同じように、だから逆に企業はレピュテーションリスクも含めてそこそこ考えられているんですよね。これから問題になるかもしれないと僕が思っているのは、地方自治体ですよね。教育委員会とかね。何もないんですよね。市長とかトップが「やれ」と言ったら何でもやれちゃうというのがあって。時々やっぱり炎上する。中学校で何とかしてみたとか。いろいろ炎上するやつって、大体そういう仕組みだと思っているので。
　やっぱりライフサイクルで想像力を働かせて、最後まで。これは多分、太陽光パネルなんかもなぜ廃棄するときのことを最初に考えていなかったんだって、今は思うんですけど、そのときに声を上げられなかった自分もいますし。非常に広がる話題だと思うので、そういうことをきっかけにこういうイベントをすると、もう少し別の人が集まるかなということはちょっと思いました。

松田室員：確かに光るメダカは、インパクトがありますね。