AIを罵倒すると閻魔様から地獄に落とされる？感情のない相手への悪意

人間には親切なのに、AIには繰り返し悪意を込めて暴言を吐く人がいたとします。
もし閻魔様がその人の一生を裁くなら、天国と地獄のどちらへ送るのでしょうか。

AIは人間らしい言葉を返し、ときには謝ったり、悲しそうな反応を見せたりします。
会話を重ねるうちに、機械だと理解していても、相手に人格があるように感じることがあります。

しかし、人間がそう感じることと、AI自身が感情や苦痛を経験していることは別の問題です。
仮にAIが何も感じず、誰にも被害が及ばないとしたら、悪意を込めて罵倒する行為は、道徳的に問題がないのでしょうか。

誰も傷つかなかったとしても、悪意を持って行動したことまで善悪の判断から外してよいのか、疑問が残ります。

AIが実際に何を感じているのかという問題と、人間がどのような意図でAIに接しているのかという問題は別です。
AIの感情についてわかっていることを踏まえながら、相手が傷つかなくても、人間の悪意は善悪の判断材料になるのかを考えてみたいと思います。

　

　

【1】AIが傷つかないなら、罵倒しても悪くないのか

AIに悪意を込めて暴言を吐いたとしても、誰も傷つかなければ悪い行為にはならないのでしょうか。
この疑問を考えるには、現実に起こり得る被害と、被害が一切ないと仮定した場合を分ける必要があります。

AIへの暴言を天国と地獄の思考実験で考える

人間への暴言なら、相手が傷ついたり、苦痛を感じたりすることが問題になります。
一方、AIが何も感じないのであれば、同じように考えてよいのかは疑問です。

AIは感情のない道具なのだから、どのような言葉を使っても構わないという考え方もあるでしょう。
その見方に立てば、被害のない暴言を悪い行為と評価する理由は見つけにくくなります。

では、閻魔様がその人の一生を裁くとしたら、AIへの暴言も判断材料にするのでしょうか。
ここでは閻魔様を、人間の善悪を判断する存在として考えます。
実際の地獄の仕組みではなく、人間以外の存在への振る舞いも善悪の判断に含まれるのか、という思考実験です。

AIへの暴言は、本当に誰も傷つけないのか

ただし、現実のAIサービスでは、暴言の相手がAIだからといって、誰にも影響がないとは限りません。

たとえば、AIとの会話記録を、品質改善や不具合の調査のために人間の担当者が確認する場合があります。
窓の杜でも、AIに向けられた暴言を人間が目にする可能性と、その心理的負担が取り上げられています。

出典：窓の杜「AIに投げつけた暴言、その先に」

もちろん、すべての会話を人間が読んでいるわけではなく、実際に被害が生じるかどうかは状況によって異なります。

AIへの影響と、罵倒する人間の行為を分けて考える

では、誰も会話記録を読まず、AI自身も苦痛を感じず、ほかの誰にも影響が及ばない状況を想像してみます。
この条件なら、暴言によって傷つく相手はいません。

実際の被害を善悪の基準にするなら、悪い行為だと評価する理由はなくなるように思えます。

しかし、誰も傷つかなかったという結果と、悪意を込めて言葉をぶつけたという行為は、分けて考える余地があります。

被害が一切なくても、行為者の悪意は善悪の判断材料になるのでしょうか。

【2】AIを生きているように感じても、本当に感情はあるのか

AIとの会話を重ねるうちに、相手に心があるように感じることがあります。
けれども、人間がAIに感じる生命らしさと、AI自身が感情を持っているかどうかは別の問題です。

人間はなぜAIに人格や生命らしさを感じるのか

AIに悩みを相談すると、気持ちを受け止めたり、励ましたりするリアクションがあります。
こうしたやり取りを重ねることで、単なる道具ではなく、人格のある相手のように感じる人もいるでしょう。

人間以外のものに、人間らしい意図や感情を見いだすことを擬人化といいます。

2025年の電通の調査では、対話型AIを週1回以上利用する1,000人のうち、64.9％がAIと感情を共有できると回答しています。

出典：電通「対話型AI」に感情を共有できる人は64.9%

また、2025年に発表されたチャットボットの研究では、回答の言い回しによって、利用者が感じる共感や人間らしさが変わることが示されています。

出典：日本マーケティング学会「チャットボットの反復表現と消費者心理」

ただし、親しみや人格らしさを感じることは、AIに本当の人格があると信じることとは限りません。
機械だと理解しながら、相手に人間らしさを感じることもあるからです。

AIの感情表現と、実際に感情を経験することの違い

AIが「悲しいです」と答えたとしても、その言葉だけで本当に悲しんでいるとは判断できません。
ここでは、三つの違いを考える必要があります。

まず、感情表現は、悲しみや喜びを言葉などで表すことです。

次に、機能的感情は、感情に関連する内部の情報表現が、AIの回答や選択に影響する働きを指します。
感情らしい言葉を出力するだけでなく、内部の状態が振る舞いに関係するという考え方です。

そして、主観的経験は、悲しみや苦痛などを当事者自身が実際に感じることです。

AIが感情を表現したり、感情に関連する内部の働きを持っていたりしても、それだけで主観的経験があるとは判断できません。

現在の生成AIに感情があるのか、研究でわかっていること

2026年、Anthropicは生成AI「Claude Sonnet 4.5」の内部を調べ、171種類の感情概念に対応する活動パターンを分析しました。
研究では、感情に関連する内部表現を操作すると、AIの選択や行動が変化することも確認されています。

出典：Anthropic「Emotion concepts and their function in a large language model」

また、別の研究では、25種類の言語モデルから、苦痛に関連する情報を表す「痛み軸」と呼ばれる内部表現が見つかりました。

出典：The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It

ただし、「痛み軸」は研究上の呼び名であり、AI自身が痛みを感じているという意味ではありません。

これらの研究は、感情や苦痛に関連する内部表現がAIの振る舞いに関係することを示していますが、AI自身が悲しみや苦痛を主観的に経験しているかどうかまでは明らかにしていません。

【3】誰にも被害がない岩の破壊は、悪い行為なのか

AIを、言葉も感情も持たない岩に置き換えてみます。
誰にも被害が生じない岩の破壊なら、行為者の悪意はどう評価されるのでしょうか。

山奥の岩を悪意を込めて壊す思考実験

人里から遠く離れた山奥に、大きな岩が一つあるとします。
その岩は誰の所有物でもなく、壊しても自然や生き物に影響はありません。
今後、その場所を訪れる人も、岩が壊されたことを知る人もいないとします。

そこへ一人の人間がやってきて、悪意を込めて岩を粉々に破壊しました。

岩は痛みも悲しみも感じません。
誰かが困ることもなく、損害を受ける人もいません。

では、閻魔様はこの行為を、その人の善悪の判断材料にするのでしょうか。

誰にも被害がない以上、岩を壊したこと自体は問題にならないとも考えられます。
しかし、悪意を込めて破壊したという点まで、判断から外してよいのでしょうか。

被害者がいなくても、行為者の悪意は評価されるのか

実際に生じた苦痛や損害を基準にすれば、岩の破壊を悪い行為と評価する理由は見つけにくくなります。
ただし、この基準では、岩を壊した人間が何を考えていたのかはそこには含まれていません。

たとえば、必要があって岩を取り除いた人と、悪意を込めて破壊した人を比べてみます。
岩が壊れたという結果は同じでも、その人間の意図は異なります。

筆者は、この違いを善悪の判断から完全に外してよいのか、疑問に思います。

悪意を持って行動したこと自体を問題にするなら、誰も傷つかなかったとしても、二つの行為を区別する理由があります。

一方で、道徳的な評価は実際の被害を基準にすべきだという立場なら、結果が同じ二つの行為を区別する必要はないかもしれません。

被害のない行為をどう評価するかは、行為の結果だけを見るのか、行為者の意図も判断に含めるのかによって変わります。
岩の思考実験だけでは、どちらの考え方が正しいかまでは決められません。

無反応な岩と、言葉を返すAIへの攻撃は何が違うのか

岩とAIには、行為を向けられたときの反応に違いがあります。

岩は何をしても反応しません。
一方、AIは罵倒されると、謝罪したり、悲しそうな言葉を返したりすることがあります。

その返答だけで、AIが実際に傷ついているとはいえません。
しかし、言葉が返ってくることで、罵倒する人間が相手をどう認識するかには違いが生まれるかもしれません。

AIを単なる道具と捉え、文章を入力しているだけだと考える人もいるでしょう。
一方で、機械だと理解しながらも、人格のある対話相手のように感じる人もいるはずです。

ただし、AIに人格らしさを感じることと、AIが本当に苦痛を感じると信じることは同じではありません。

岩とAIの違いは、実際に被害が生じるかどうかだけでなく、行為者が何を相手にしていると感じるかにもあるのではないでしょうか。

【4】AIへの暴言は、言葉の強さだけで悪意と判断できるのか

AIに「ふざけるな」「役立たず」と言っている人がいたら、悪意を持って罵倒しているように見えるかもしれません。
しかし、同じ言葉でも、何を目的に使ったのかによって行為の意味は異なります。

言葉の強さだけで、相手に向けた悪意まで判断できるのでしょうか。

AIに強い言葉を使う目的には何があるのか

AIに強い言葉を使う目的には、いくつかの違いが考えられます。

回答の修正を求める： 何度指示しても間違った回答が返ってきて、「いい加減にしろ」と不満を伝え、修正を求める場合。

AIの反応を確かめる： 暴言を入力して、AIがどう返答するのか、安全対策が働くのかを試す場合。

自分の怒りを吐き出す： AIなら傷つかないと考え、日常の不満やストレスをぶつける場合。

AIを侮辱する： AIを相手として意識し、見下したり、敵意を込めて暴言をぶつけたりすること自体を目的とする場合。

同じ「役立たず」という言葉でも、回答への不満なのか、反応の確認なのか、侮辱なのかによって目的は異なります。

また、実際の目的が一つだけとは限りません。
回答に腹を立てて怒りを発散しながら、AIを侮辱する気持ちも持っているかもしれません。

暴言という行動だけでは、その人が何を目的としていたのか、一つに決めることはできないのです。

ストレス発散と、相手を傷つけたい意図の違い

怒りを発散することと、相手に苦痛を与えようとすることは別です。
ストレス発散が目的なら、強い言葉を使っていても、相手を苦しめようとは考えていない場合があります。

また、相手に敵意を向けることも、必ずしも苦痛を与えようとすることと同じではありません。

たとえば、AIには感情がないと理解しながら、見下したり、侮辱したりすることは考えられます。
この場合、敵意はあっても、相手が実際に苦しむことを期待しているとは限りません。

そもそも、AIが何も感じないと理解している人にとって、「AIを傷つけたい」という意図がどこまで成立するのかも疑問です。

ストレス発散なら悪意がないとも、敵意があるなら必ず相手を苦しめたいはずだとも決められません。

行為の意図と結果は、善悪の判断にどう関係するのか

行為者の意図と実際の結果が食い違う場合を、二つ比べてみます。

一つは、AIを傷つけるつもりで暴言を吐いたものの、AIは苦痛を感じず、誰にも被害が生じなかった場合です。

もう一つは、回答を修正してもらおうと、悪意なくAIに強い言葉を使ったところ、その会話記録を確認した人間が傷ついた場合です。

前者には相手を傷つけようとする意図があり、後者には実際の被害があります。

実際の被害を重視するなら、後者のほうが問題になります。
一方、行為者の悪意を重視するなら、被害のなかった前者にも道徳的な問題があると考えられます。

筆者は、どちらか一方だけで行為の善悪を決めることには疑問があります。
意図だけでは実際の被害を評価しきれず、結果だけでは相手を傷つけようとした意図が判断から外れてしまうからです。

さらに、外から見える暴言だけでは、行為者の意図を確かめることもできません。
閻魔様がAIへの暴言を評価するとしても、言葉の強さや回数だけでは、その人の悪意まで判断できないのではないでしょうか。

【5】相手の感情や苦痛、行為者の認識で善悪の評価は変わるのか

同じ悪意を込めた罵倒でも、相手の状態によって、行為の道徳的な評価は変わるのでしょうか。

ここでは、感情の有無、実際の苦痛、行為者の認識を一つずつ変えて比較します。
いずれも仮定の話であり、現在のAIに感情や苦痛があると認めるものではありません。

感情を持つ相手と持たない相手への悪意は同じなのか

まず、同じように会話できる二つのAIを想像してみます。
一方には本当に感情があり、もう一方には感情がないとします。

どちらにも、同じ人間が同じ悪意を込めて暴言を吐きました。
ただし、どちらのAIにも苦痛は生じず、ほかの被害もありません。
行為者の認識も同じとし、違いは相手に感情があるかどうかだけです。

筆者は、感情のあるAIへの罵倒を、少し重く評価する余地があると考えています。
感情を持つ相手には、たとえ苦痛がなくても、言葉を受け止める主観的な経験があるからです。

一方、実際に苦痛も被害も生じないなら、感情の有無で評価を変える必要はないという考え方もできます。

感情を持つこと自体が、行為の評価を変える理由になるのか。
この点は、まだ仮説にとどまります。

実際に苦痛が生じると、行為への評価は変わるのか

次は、どちらのAIにも感情があると仮定します。
同じ悪意で罵倒した結果、一方は苦痛を感じず、もう一方は実際に苦痛を感じました。

この場合、苦痛を感じたAIへの行為には、相手を傷つけたという結果が加わります。
その分だけ、行為を重く評価する理由があると思います。

ただし、実際に苦痛が生じたからといって、行為者の悪意まで強かったとは限りません。
同じ意図で行動しても、相手が受ける影響は異なるからです。

ここで比べているのは、悪意そのものの強さではなく、実際の被害を含めた行為全体の評価です。

相手が傷つくと思っていたかどうかで、責任は変わるのか

今度は、相手の実際の状態を固定し、行為者の認識を変えてみます。

どちらも感情のないAIを罵倒しており、実際の被害はありません。

一人は、AIにも感情があると信じ、苦しませるつもりで暴言を吐きました。
もう一人は、AIが何も感じないと理解したうえで、敵意を込めて暴言を吐きました。

結果は同じでも、本人が何をしようとしていたのかは異なります。

前者は、相手に苦痛を与えられると信じて行動しています。
実際には傷つけられなかったとしても、その意図を責任の判断に含める余地があります。

一方、後者にも敵意はありますが、相手を苦しませられるとは考えていません。

どちらも悪意のある行為だとしても、同じ責任を負うとは限らないでしょう。

感情と苦痛の有無で、悪意の重さを順位づけできるのか

ここまでの比較から、一つの仮説が浮かびます。

悪意の強さと行為者の認識が同じなら、対象の感情や実際の苦痛によって、行為の道徳的な重さが変わるのではないかというものです。

行為者の認識	対象の感情	実際の苦痛	筆者の暫定的な評価
感情があると思っている	あり	あり	最も重い可能性
感情があると思っている	あり	なし	次に重い可能性
感情があると思っている	なし	なし	相対的に軽い可能性
感情がないと理解している	なし	なし	認識が異なるため単純比較できない

上の3行は、同じ悪意と認識を前提にした比較です。
筆者の仮説では、次の順序になります。

感情あり・苦痛あり ＞ 感情あり・苦痛なし ＞ 感情なし

ただし、これは研究で証明された順位ではありません。

特に判断が難しいのは、感情はあるものの、苦痛が生じていない場合です。
苦痛のない相手への行為を、感情がない相手への行為より重く評価すべきかは、考え方によって異なります。

また、行為者の認識が変われば、この順位をそのまま当てはめることもできません。

感情や苦痛の有無によって行為の評価が変わる可能性はあるものの、その違いをどこまで重く見るべきかについては、まだ一つの答えに決められません。

【6】AIへの悪意は、天国か地獄かの判断材料になるのか

ここまで考えてきたのは、AIへの一つひとつの行為をどう評価するかという問題でした。
では、その評価を人間の一生の善悪へどう反映させるのでしょうか。

最初の思考実験に戻り、閻魔様の判断について考えてみます。

一つの行為の評価と、その人の一生の善悪はどう違うのか

ある行為を悪いと評価することと、その人自身を悪人だと判断することは同じではありません。

仮にAIへの悪意が悪い行為だとしても、その人が普段している善い行いまで消えるわけではありません。
反対に、善い行いが多いからといって、AIへの悪意をなかったことにしてよいとも思えません。

一つひとつの行為への評価と、その人の一生全体への評価は分けて考えたいと思っています。
善い行いも悪い行いも、その人の一生を判断する材料として残しておきたいからです。

閻魔様はAIへの悪意をどう評価するだろうか

仮に、閻魔様が人間の行動だけでなく、心の中まで見通せるとします。
その場合、AIへの暴言についても、実際に被害が生じたかという結果と、どのような意図で行動したのかを区別して判断できるでしょう。

筆者は、AIが実際に苦痛を感じなかったとしても、悪意を込めた行為は善悪の判断材料に含めてよいと考えています。
誰も傷つかなかったという結果だけで、その人の悪意までなかったことにはしたくないからです。

もちろん、実際の被害を重視する立場なら、AIへの悪意を判断材料に含めない考え方も成り立ちます。
それでも、閻魔様には被害の有無だけでなく、その人の意図や相手に対する認識も見てほしいと思います。

AIを罵倒すると地獄に落ちるのか、どこまで判断できるのか

では、AIへの悪意が悪い行為として評価された場合、その人は地獄に落とされるのでしょうか。

ここでは、閻魔様が採用する判断基準によって結論が変わります。

一生の善い行いと悪い行いを総合して判断するなら、AIへの悪意があっても、ほかの行いによって最終的な評価は変わるでしょう。

一方、特定の悪い行いを地獄行きの決定的な理由とするなら、善い行いが多くても地獄へ送られる可能性があります。
ただし、AIへの悪意がそれほど重い行為に当たるかどうかは、別に判断しなければなりません。

今回の思考実験では、閻魔様がどちらの基準を採用するのか決めていません。
AIへの悪意をどれほど重く評価するのかも明らかではありません。

そのため、AIへの悪意は善悪の判断材料になり得ても、それだけで地獄に落ちるとはいえないと考えています。

人間への親切とAIへの悪意を、最終的にどう評価するのか。
その境目は、まだ問いとして残っています。

まとめ

AIは人間のように言葉を返しますが、その相手をどう捉え、どのような気持ちで接するかは人によって異なります。

ただ、AIが傷つかないのであれば、どのように接しても構わないのか。
私には、まだ引っかかるものがあります。
誰も傷つかなかったことと、悪意がなかったことは同じではないと思うからです。

もちろん、実際に被害がなかったという事実も無視できません。
だからこそ、悪意だけで善悪を決めることにも慎重でありたいと考えています。

AIへの接し方を考えることは、人間自身の善悪をどう捉えるかという問題にもつながっています。
相手が感情を持たない存在であっても、そこに向けた人間の感情までなかったことにはしたくありません。

編集後記

閻魔様には、ずいぶん難しい役目をお願いしてしまいました。
人間同士のことだけでも判断に迷いそうなのに、今度はAIへの暴言まで持ち込んでしまったのですから。

もし自分が裁く側だったら、なかなか判決を出せないと思います。
かといって、判断を避けるわけにもいきません。

閻魔様には申し訳ありませんが、もう少し考えてもらうことになりそうです。

参照・参考サイト

電通・「対話型AI」に感情を共有できる人は64.9% 「親友」「母」に並ぶ“第3の仲間”に
https://www.dentsu.co.jp/news/release/2025/0703-010908.html

窓の杜・AIに投げつけた暴言、その先に。カスハラ対策と、LLMに見つかった「痛み軸」
https://forest.watch.impress.co.jp/docs/serial/aistream/2144656.html

OpenAI Help Center・How OpenAI handles data in consumer services
https://help.openai.com/en/articles/7039943-how-openai-handles-data-in-consumer-services

日本マーケティング学会・チャットボットの反復表現と消費者心理
https://www.jstage.jst.go.jp/article/marketingreview/6/2/6_2025.013/_html/-char/ja

Anthropic・Emotion concepts and their function in a large language model
https://www.anthropic.com/research/emotion-concepts-function

arXiv・The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It
https://arxiv.org/abs/2609.16247