トロッコ問題

「ある人を助けるために他の人を犠牲にするのは許されるか?」を問う倫理学の思考実験

トロッコ問題(トロッコもんだい、: trolley problem)あるいはトロリー問題とは、「ある人を助けるために他の人を犠牲にするのは許されるか?」という形で功利主義義務論の対立を扱った倫理学上の問題・課題のひとつ[1]

フィリッパ・フット1967年に提起し、ジュディス・ジャーヴィス・トムソン英語版フランセス・キャム英語版ピーター・アンガー英語版などが考察を行った。人間は一体どのように倫理道徳的なジレンマを解決するかについて、道徳心理学神経倫理学では論題として扱われている。

概要

編集

前提として、以下のトラブル (a) が発生したものとする。なお、以下で登場する「トロッコ」は路面電車を指しており、人力によって走らせる手押し車ではない。

(a) 線路を走っていたトロッコが制御不能になった。このままでは、前方の作業員5人が轢き殺されてしまう。
 

そしてAが以下の状況に置かれているものとする。

(1) この時、たまたまAは線路の分岐器のすぐ側にいた。Aがトロッコの進路を切り替えれば5人は確実に助かる。しかしその別路線でもBが1人で作業しており、5人の代わりにBがトロッコに轢かれて確実に死ぬ。Aはトロッコを別路線に引き込むべきか?

なお、Aは上述の手段でしか助けられないとする(置き石その他の障害物で脱線や停止はできない)。また、Aおよびトロッコの運転手の法的責任を棚に上げ、道徳的な見解だけを問題とする。あなたは道徳的に見て「許される」あるいは「許されない」で答えよ、という問題である。

つまり、単純化すれば「5人を助けるために他の1人を殺してよいか」という問題であり、功利主義に基づくなら1人を犠牲にして5人を助けるべきである。(ただし自分が殺人者となる=責任を問われる)しかし、義務論に従えば、誰かを他の目的のためだけに利用すべきではなく、何もするべきではない。(この場合は自分は結果を知っていた傍観者となる=責任を問われない)[要出典]

歩道橋問題

編集

トロッコ問題に似た「歩道橋」問題がある。この問題では、(1) のトロッコ問題と回答傾向が異なる。この問題は、分岐器を切り替えて1人を犠牲にするかどうかではなく、1人を上から線路上に落とすかどうかを問う[2]

(2) Aは線路上に橋に立っており、Aの横にCがいる。Cは太っており、もし彼を線路上につき落として障害物にすれば、トロッコは確実に止まり5人は助かる。だがそうするとCがトロッコに轢かれて死ぬのも確実である。Cは状況に気づいておらず、自らは何も行動しないが、Aに対し警戒もしていないので突き落とすのに失敗するおそれは無い。Cを突き落とすべきか?

トロッコ問題では、1人を犠牲にすることが許されるという回答(すなわち功利主義的判断)をする人が多いのに対し、歩道橋問題では許されないという回答(すなわち義務論的判断)をする人が多い[2]。これは二重結果の原理の一例として説明される[2]

少なくともこれらのようなジレンマを一貫して合理的に解決できる倫理学の指針はない[3]

倫理学以外の分析

編集

倫理学者ではないが、生物学者マーク・ハウザーはネット上でこれに類する30以上の質問を行い、何故そのような判断を行ったかの理由を聞いた。回答した500人の内3割ほどしか自分の判断を正当化できなかった(質問と他の質問との違いを正しく認識し、それが自分の判断の基礎となっていることを示せた場合に「正当化に成功した」と判断された)[4]。また5,000人以上が回答したテストでは、最初の質問に対して89 %の人が「許される」と答えたのに対して、2番目の質問に「許される」と回答したのは11 %であった。3番目の質問には56 %が「許される」と答え、4番目の質問は72 %が「許される」と答えた。この傾向には教育の程度、宗教的背景、民族などの影響がほとんどなかった[5]

意図的な行動の結果の害には責任を問われ、ただ単にその結果が予見されたに過ぎないときには責任を問われないことをダブルエフェクトと呼ぶ。1と4を許されると回答している人の割合が大きいのは、直観的に人がダブルエフェクトを考慮していることで説明できるかも知れない[要出典]。ハウザーの主張は、人の道徳的判断は理性と理論よりも、直観と感情の影響を受けていると言うことである。そしてどのような要因が非道徳的と判断されるのかを次の3つにまとめた[6]

  • 行動の原理:行動による害(例えば誰かが死ぬような出来事)は行動しなかったことによる危害よりも、非道徳的だと判断される
  • 意図の原理:意図を持ってとった行動は、意図を持たずにとった行動よりも非道徳的だと判断される
  • 接触の原理:肉体的な接触を伴う危害は、肉体的な接触のない危害よりも非道徳的だと判断される

神経哲学者ジョシュア・グリーンによれば、特に2番目の質問では他の質問と異なるの部位が反応する。人を直接死に追いやるとき、強く否定的な反応を示すようである[3]

Time誌の記事によれば調査対象の約90パーセントが5人を救うために1人を突き落とすとした、とのことである[7]

人工知能が制御する自動運転車においても、衝突が避けられない状況でAIの判断基準をどのように設計するかという問題とも関連している[8][9][10]

批判

編集

2014年の論文では、研究者たちはトロッコ問題の使用を批判し、とりわけそれが提示するシナリオは極端すぎており、現実の道徳的状況とは無関係であるため、有用でも教育的でもないと指摘した[11][12]。また、2018年の別の論文でも、トロッコ問題は功利主義の部分的な尺度にしかならないと批判されている[13]

脚注

編集
  1. ^ 南雲功「技術とトロッコ問題:自動運転車の技術倫理」『生活科学研究』第43巻、文教大学、2021年3月、93-102頁、doi:10.15034/00007812ISSN 02852454 
  2. ^ a b c 相馬正史、都築誉史「考察方略が道徳ジレンマ状況における判断に及ぼす影響」『立教大学心理学研究』第57巻、立教大学、2015年3月、51-61頁、doi:10.14992/00010951ISSN 13462032 
  3. ^ a b Joshua D. Greene; R. Brian Sommerville; Leigh E. Nystrom; John M. Darley; Jonathan D. Cohen (2001-09). “An fMRI Investigation of Emotional Engagement in Moral Judgment”. Science (American Association for the Advancement of Science (AAAS)) 293 (5537): 2105-2108. doi:10.1126/science.1062872. ISSN 0036-8075. https://doi.org/10.1126/science.1062872. 
  4. ^ Fiery, Cushman; Liane, Young; Marc, Hauser (2006-12). “The Role of Conscious Reasoning and Intuition in Moral Judgment”. Psychological Science (SAGE Publications) 17 (12): 1082-1089. doi:10.1111/j.1467-9280.2006.01834.x. ISSN 0956-7976. https://doi.org/10.1111/j.1467-9280.2006.01834.x. 
  5. ^ MARC, HAUSER; FIERY, CUSHMAN; LIANE, YOUNG; R. KANG‐XING JIN; JOHN, MIKHAIL (2007-01). “A Dissociation Between Moral Judgments and Justifications”. Mind & Language (Wiley) 22 (1): 1-21. doi:10.1111/j.1468-0017.2006.00297.x. ISSN 0268-1064. https://doi.org/10.1111/j.1468-0017.2006.00297.x. 
  6. ^ Fiery(2006).
  7. ^ “Would You Kill One Person to Save Five? New Research on a Classic Debate – TIME.com”. TIME.com. http://healthland.time.com/2011/12/05/would-you-kill-one-person-to-save-five-new-research-on-a-classic-debate/ 2025年2月27日閲覧。. 
  8. ^ Lim, Hazel Si Min; Taeihagh, Araz (2019). “Algorithmic Decision-Making in AVs: Understanding Ethical and Technical Concerns for Smart Cities” (英語). Sustainability 11 (20): 5791. doi:10.3390/su11205791. https://www.mdpi.com/2071-1050/11/20/5791. 
  9. ^ いま改めて考える「自動運転車のトロッコ問題」” (PDF). AIG総研. 2019年10月13日閲覧。[リンク切れ]
  10. ^ 吉岡真治「人工知能の製造物責任とリスクに関する試論」『人工知能学会全国大会論文集』JSAI2017、人工知能学会、2017年、1E1OS24a3-1E1OS24a3、doi:10.11517/pjsai.jsai2017.0_1e1os24a3 
  11. ^ Bauman, Christopher W.; McGraw, A. Peter; Bartels, Daniel M.; Warren, Caleb (September 4, 2014). “Revisiting External Validity: Concerns about Trolley Problems and Other Sacrificial Dilemmas in Moral Psychology”. Social and Personality Psychology Compass 8 (9): 536–554. doi:10.1111/spc3.12131. http://www.escholarship.org/uc/item/5j0215cr. 
  12. ^ Khazan, Olga (2014年7月24日). “Is One of the Most Popular Psychology Experiments Worthless?”. The Atlantic. 2025年5月14日閲覧。
  13. ^ Kahane, Guy; Everett, Jim A. C.; Earp, Brian D.; Caviola, Lucius; Faber, Nadira S.; Crockett, Molly J.; Savulescu, Julian (March 2018). “Beyond sacrificial harm: A two-dimensional model of utilitarian psychology.”. Psychological Review 125 (2): 131–164. doi:10.1037/rev0000093. PMC 5900580. PMID 29265854. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5900580/. 

参考文献

編集
  • Philippa Foot, The Problem of Abortion and the Doctrine of the Double Effect in Virtues and Vices (Oxford: Basil Blackwell, 1978).
    • This is the essay that introduced the original trolley problem.
  • Shelly Kagan, The Limits of Morality (Oxford: Oxford University Press, 1989).
  • Francis Myrna Kamm, Harming Some to Save Others, 57 Philosophical Studies 227-60 (1989).
  • Judith Jarvis Thomson, Killing, Letting Die, and the Trolley Problem, 59 The Monist 204-17 (1976).
  • Judith Jarvis Thomson, The Trolley Problem, 94 Yale Law Journal 1395-1415 (1985).
  • Peter Unger, Living High and Letting Die (Oxford: Oxford University Press, 1996).
  • Homepage of Joshua Greene
  • Joshua D. Greene, "The secret joke of Kant’s soul", in Moral Psychology, Vol. 3: The Neuroscience of Morality, W. Sinnott-Armstrong, Ed., (Cambridge, MA: MIT Press)

関連文献

編集

日本語のオープンアクセス文献

関連項目

編集
法学
経済学
  • 機会費用 - ある選択をする代わりに放棄される選択肢によって得られるはずの利益のうち、最大のもの。経済学における概念。
関連学問
フィクション

外部リンク

編集
正義論の講義シリーズの初回。トロッコ問題についての学生への問いかけから講義がスタートする。