ディストピア倫理学:

自己の境界
不確定にする
未来テクノロジー
向けて

Dystopia Ethics:

Toward Future Technologies
With Uncertain Self-boundaries

【領域概要】 本研究領域は、未来テクノロジーの倫理学的および実存的な意味に向き合う学術プロジェクトである。 テクノロジーは自己存在を根源的な仕方で規定するインパクトを持つが、自律性や自由意志といった理念を核とする近代的な自己観は、そうした自己の不定性とテクノロジーのインパクトを不可視化してきた。 しかし身体や精神に介入して改変するようなテクノロジーによって自己の境界が不明瞭化するとき、そこでの自己の同一性は近代的な自己観で理解することがもはや困難となる。 そこで本研究領域は、未来社会におけるそうしたテクノロジーの浸透が自己存在に対してどのような帰結を持ちうるのか、そのポテンシャルを一種のディストピア的状況として予見的に分析する。 とりわけ、実際に構想中あるいは開発途上にある未来テクノロジーを標的として、倫理学諸分野をはじめとする哲学研究において培われてきた知見と手法によって分析を進める。 そのうえで、当該分析を踏まえたポスト近代的な自己観の構想を推進するとともに、テクノロジーの発展を積極的に受容しながら実存的な自由を享受する自己存在のありようを描き出すことを目指す。

計画研究A01

思考融合のテクノロジーと 「主体溶融」の倫理学(太田班)

ヒト脳を機械と接続する技術や、それを基礎としたヒト脳どうしの直接的通信に焦点を合わせて、これら開発途上にあるテクノロジーが浸透した状況における自己存在の変容とその社会的側面に関する倫理学的検討を行う。それに向けて、自己と非自己の思考の区別が不明瞭化する事態を「主体溶融」として概念化し、それが精神現象としてどのように顕現しうるかを検討するとともに、主体溶融に伴う社会的相互作用や社会構造への影響を予見的に分析する。

研究代表者
太田紘史Koji Ota

筑波大学 人文社会系 准教授
専門は心の哲学、倫理学。編著書に『シリーズ新・心の哲学』(全3巻、勁草書房、2014年)など。

計画研究A02

ヒト培養技術を用いた「個人複製」 の倫理学(澤井班)

胚モデル研究や中絶胎児組織研究といったヒト発生研究に伴う倫理的・法的・社会的課題を体系的に扱い、それらを関連分野の専門家や非専門家と論じることによって、ヒト発生研究における倫理基盤の構築を目指す。昨今、分野の専門家・高度化に伴い、科学と社会の分断や乖離が進むなかで、我々がヒト発生研究をどのように発展させたいか、また我々はどのような社会に生きたいかという未来像も考慮しながら、ヒト発生研究の倫理的・法的・社会的課題を共に論じる。

研究代表者
澤井努Tsutomu Sawai

広島大学 大学院人間社会科学研究科 特定教授
専門は倫理学、応用倫理学。著書に『命をどこまで操作してよいか――応用倫理学講義』(慶應義塾大学出版会、2021年)など。

計画研究A03

アップローディングの現場から追求 する「自己転送」の意味(渡辺班)

研究代表者の渡辺が提案してきた「アップローディング」の手法においては、機械脳半球と生体脳半球の意識の統合、さらには、生体側から機械側へと記憶を転送することで、左右の生体脳半球間の関係性を機械脳半球と生体脳半球の間で築く。その後、両半球にまたがっていた一つの意識は、片半球のみの一つの意識へと移行することとなる。本研究においては、代表者の唱えるアップローディングのプロセスとそれがもたらすアップロードされた状態を高い精度で踏まえたうえで、その実現が社会にもたらす倫理的なインパクトを意識ないし自己の同一性や連続性の観点から紐解いていく。

研究代表者
渡辺正峰Masataka Watanabe

東京大学 大学院工学系研究科 准教授
専門は神経科学。著書に『脳の意識 機械の意識:脳神経科学の挑戦』(中央公論新社、2017年)など。

計画研究A04

ディストピアを克服するポスト近代 的自己観の構築(出口班)

本研究は、「テクノロジー受容かディストピアか」というジレンマを回避しうるポスト近代的自己観を構築する。具体的には、自己=自律的・自足的個人と考える近代的自己観、さらにはその自己観に基づく技術の倫理基準を一旦、非自明視し、新たな集合的自己観(Self-as-We)、ひいてはそれに基づく新たな自由観や技術倫理の構築を志向する。さらに、思考・意識・行為の受動者(ペーシェント)としての「わたし」という個人観(I-as-me)の主張可能性を探索する。これら2つの視座を交叉させ、検討対象であるエマージングテクノロジーの「自己境界侵襲性」の内実を再検討することで、ジレンマ脱出の概念的道筋をつける。

研究代表者
出口康夫Yasuo Deguchi

京都大学大学院文学研究科・教授、文学研究科研究科長、人と社会の未来研究院副研究院長、京都哲学研究所共同代表理事。
専門は哲学、特に分析アジア哲学、数理哲学。現在「WEターン」という新たな価値のシステムを提唱している。近著に『AI親友論』(徳間書店、2023年)、What Can't Be Said: Paradox and Contradiction in East Asian Thought (Oxford UP, 2021), Moon Points Back (Oxford UP, 2015) など。

TOPICS

お知らせ

筑波大学人文社会系 助教および研究員の募集

①助教(任期付)の募集
筑波大学人文社会系において現在、助教(任期付)を募集しています。哲学・心理学・情報学のいずれかを背景とする方からのご応募をお待ちしています。
詳細および応募についてはこちら(募集終了日2024.10.20):
https://jrecin.jst.go.jp/seek/SeekJorDetail?id=D124081265
※下記の研究員の件と両方同時に応募していただくことができます。

②研究員の募集
筑波大学人文社会系において随時、研究員(常勤裁量労働制あるいは非常勤)を募集しています。
・博士号を有するか取得する見込みがあり、英語論文執筆あるいは経験的調査を行える方からのご応募をお待ちしています。
・勤務地は筑波大学筑波キャンパスです。給与は本学規定によります(常勤の場合月額30〜36万円程度、非常勤の場合時給1800〜2200円程度)。
・ご関心のある方は、下記フォームよりResearchmap URLを添えてご応募ください。
https://x.gd/qc5tF

イベント

意識をもつAIの可能性に関する講演会を実施しました

Aïda Elamrani氏をお招きして、意識をもつAIの可能性に関する講演会を開催しました。

講演者:Aïda Elamrani (Institut Jean Nicod, Ecole Normale Supérieure, PSL University)
講演タイトル:Conscious AI: What Is It and Why Do We Want It?
日時:2024年6月24日(月)
場所:筑波大学 筑波キャンパス春日エリア

講演要旨:
The metaphysical questions surrounding consciousness are widely debated, yet the rapid progress in artificial intelligence (AI) intersects significantly with neuroscience. The computational functions associated with human consciousness are increasingly replicated in artificial agents, raising substantial ethical concerns since the inception of AI. The recent development of Large Language Models, have enabled these agents to formulate plausible ethical judgments, positioning them as explicit ethical agents in machine ethics. As AI progresses toward Artificial Consciousness (AC), it is crucial to evaluate the ethical implications of such agents. Considering the lack of consensus in consciousness studies, we address two scenarios: AC with phenomenal experience (strong AC) and purely functional AC without sentience (weak AC). Our comprehensive literature review and novel arguments indicate that most risks are rooted in fears of artificial suffering and the mishandling of superintelligence, igniting debates over the moral status of artificial agents and their desirability in the global geopolitical and ecological context. However, the potential benefits of AC are more compelling. Research in AC does not necessarily aim to create agents with phenomenal experience. Even if electronic computers could achieve such states, AC technologies do not inherently entail the implementation of valenced states. Moreover, concerns attributed to AC are already present in AI without the consciousness dimension. Crucially, AC systems have the potential to address key ethical issues in current AI, particularly through advanced cognitive functions like empathy and understanding. Lastly, we extend this ethical analysis to the European framework on Trustworthy AI and discuss its global impact. In conclusion, we advocate for a dual meaning of Conscious AI, where artificial consciousness mirrors ethical awareness, aligning advanced cognitive technologies with human values. This vision envisions a future where AI amplifies humanity by caring, not just thinking.

共催:「ヒト脳改変の未来に向けた実験倫理学的ELSI研究方法論の開発」(JPMJRS22J4)(研究代表者:太田紘史)

活動状況

キックオフミーティングを実施しました

4つの計画研究の代表者・分担者によるキックオフミーティングをオンラインで開催しました。
各計画研究の準備状況について各班から情報共有し、今後の研究実施の方針を検討しました。