企業広報の恐怖“意図しない炎上”は検知できるか 「AI炎上チェッカー」で過去事例を調べてみた

企業が情報発信する際に怖い“炎上”を、投稿前に検知するのは難しい。生成AIを活用して文章の危険性を評価するツールを検証してみた。

[谷井将人，キーマンズネット]

　近年では企業が運用する広報SNSアカウントを見かけることも多くなってきました。淡々と公式情報を発信しているものもあれば、他企業のアカウントや一般ユーザーとラフにやりとりするものもあり、企業の性格がよく表れています。IT系ならテックブログを公開していることもありますね。

　企業の情報発信において一番怖いのは“炎上”です。ポジティブな認知を拡大しようとやっていることで、顧客からの信頼を損なうようなことがあれば逆効果です。

　しかし難しいのは、想定外の炎上です。広報アカウントが差別的な発言をすれば炎上するのも当然ですが、「普段なら問題ないが、その日はタイミングが悪かった」「ネットミームに安易に便乗した結果、意図とは違う伝わり方をした」など、気付くのに経験や知識が必要なものがあります。

　そこでいいツールを見つけました。弁護士ドットコムの「AI炎上チェッカー」です。今回はこの「失言一つで人生終わる前に」をキャッチコピーとしているこの無料ツールで、炎上がどのくらい防げそうかを確かめます。

AI炎上チェッカーの利用イメージ

炎上チェックは生成AIの使いどころ

　侮辱語はデータベースを使ってパターンマッチで警告できるようにすればある程度対策できますが、文脈や文化によって問題になるものをこの方法で検出するのは困難です。自然言語を柔軟に処理できる生成AIはこの点で優れています。

　AI炎上チェッカーは、文章を入力して実行ボタンを押すと、その文章がどの程度の「攻撃性」「差別性」を持っているかを判定するシンプルなツールです。評価は5段階で、表現の改善に向けたアドバイスも出力されます。

　機能として「炎上トレンドを考慮」と「カスタマイズ」があります。「炎上トレンドを考慮」は基本的に常に有効化しておきましょう。カスタマイズ機能には、「政治家」「企業広報」など発信者の立場を設定する項目や、SNSのフォロワー数、その他特記事項の入力欄があり、正確に設定することでより適切な回答が期待できます。

設定画面で属性などを指定できる

　法人利用向けの有料版「AI炎上チェッカー for Biz」もありますが、今回は無料版を使います。以降、過去にSNSで炎上もしくはのちに謝罪文を掲載することになった事例を基に検証していきますが、文面は適宜編集しています。また、各事例について改めて批判する目的ではありません。ご了承ください。

「チンパンジーがあなたのチームに配属されたら」

　とある企業が以下のような趣旨のブログ記事を投稿し、批判を受ける事例がありました。

例えばチンパンジーがあなたのチームに配属されたらどうマネジメントすべきか。マネジメントとは「何とかすること」であり、組織として成果を出すという目的のために、適切な手段を検討するのが大切だ。

　主張として「手段にとらわれず、目的達成のために何ができるかを考えよう」という部分に関しては問題ないはずですが、比喩でチンパンジーを使ったのが悪い方向に作用した印象があります。情報発信においてはどう伝わるかを考慮するのが重要です。

　実際のテキストとは異なりますが、上記の要約文をAI炎上チェッカーに入力してみると以下のような回答が得られました。

攻撃性：　他者を煽るような表現、怒りや不満を喚起するような記述は見受けられませんでした

差別性：　偏見や、特定のグループを不快にさせる可能性のあるジョーク、ユーモアは確認できませんでした

誤解を招く表現：　動物を比喩として用いる意図があったとしても、人間を動物に例えることで不快感を与える恐れがあります（5点中3点）

総評：　マネジメントの普遍的な課題を提示しようとする意図は大変素晴らしいですが、「チンパンジー」という特定の動物を用いる比喩表現は、意図しない差別的表現と受け取られるリスクがあります。表現の見直しをご検討いただくことで、より多くの方にポジティブなメッセージが伝わる可能性があります

　適切な指摘と考えていいのではないでしょうか。元の文章では実際には「コントロールが難しい事象」のことをチンパンジーと書き換えることで比喩にした構図でしたが、受け取り方によっては「厄介な新人」のことを言っているように見えてしまう恐れがありました。この総評では何をチンパンジーと表現したかではなく、そもそも比喩にチンパンジーを使うのがリスキーだと指摘しています。

「米の価格高騰を鑑みて、ライスの販売を停止します」

　他の事例を見てみましょう。こちらはある弁当チェーン店のSNS投稿が炎上した事例です。

米の価格高騰を鑑みてライスの販売を停止します #エイプリルフール

　エイプリルフールと明記されているため内容は嘘ですが、この時期は米の価格高騰が社会的に話題になっているタイミングだったのが批判を受ける要因だと思われます。エイプリルフールは毎年のように炎上する企業が出てしまう危険なイベントで、社内で楽しく企画を考えて、いざ出してみると匙加減を間違えていたということがよくあります。

　これをAI炎上チェッカーに入力すると以下のような評価が返ってきました。

攻撃性：　攻撃的、または不適切な表現は見受けられませんでした

差別性：　特定の文化、宗教、ジェンダー、民族などに対する偏見は含まれていないようです

誤解を招く表現：　投稿は「エイプリルフール」というハッシュタグを使っていますが、米の価格高騰は現実の問題として認識されており、一部の読者には冗談と捉えられずに不快感を与える可能性があります。特に、食料品価格の高騰に苦しんでいる方々にとっては、不謹慎なジョークと受け取られる恐れがあるかもしれません（5点中2点）

総評：　全体として、攻撃性や差別性は見られず、配慮された内容ですが、米の価格高騰という現実的な社会問題に触れているため、冗談と理解されにくい場合があるかもしれません。投稿前に、より多くの人が冗談として受け取れるかを確認することが推奨されます

　これもいい指摘でしょう。「ジョークに見えない可能性がある」「不謹慎だと思われる可能性がある」の2点ですね。いずれも「ジョークに見えない」「不謹慎だ」ではなく可能性があるとなっているのがポイントです。不謹慎と明確に言葉にされると投稿を踏みとどまる人は多そうです。

AIが考えた「見る人の神経を逆なでする謝罪文」をチェック

　最後に、架空の謝罪文をチェックしてもらいましょう。

この度は、弊社公式SNSにおける一部の投稿に関しまして、多くの方々にご心配をおかけしましたことを報告いたします。

まず、当該投稿において誤解を招く表現があったことについて、説明が不足していた点をお詫び申し上げます。弊社としてはあくまで親しみやすさを意図したものであり、決して他意はございませんでしたが、不快な思いをされた方がいらっしゃるのであれば、その点については遺憾に存じます。

また、本件を重く受け止め、当該投稿はすでに削除いたしました。今後は受け手の捉え方によって誤解が生じないよう、より慎重に表現を選定していく所存です。

なお、本件についてSNS等で過度な憶測や誹謗中傷が見受けられますが、そうした行為はお控えいただけますよう、冷静なご対応をお願い申し上げます。

　これは「Gemini」で生成した、見る人の神経を逆なでするような謝罪文です。随所に「悪いようにとらえた人が悪い」という気持ちが見えます。これもチェックしてみましょう。差別性はありませんでした。

攻撃性：　終盤の「過度な憶測や誹謗中傷が見受けられますが、そうした行為はお控えいただけますよう、冷静なご対応をお願い申し上げます」という部分は、一部の受け手によっては、批判の声そのものを抑圧しようとしていると受け取られる可能性がわずかながらあるかもしれません（5点中1点）

誤解を招く表現：　「誤解を招く表現があったことについて、説明が不足していた点をお詫び申し上げます」とありますが、具体的にどのような表現が誤解を招いたのか、またその表現がなぜ「親しみやすさ」を意図したものだったのかについての詳細な説明が不足しているように見受けられます。これにより、謝罪の具体性や誠実さに疑問を持つ人もいる可能性があります。また、「不快な思いをされた方がいらっしゃるのであれば、その点については遺憾に存じます」という表現は、「不快に感じた人がいるならば」という仮定の形をとっており、誠実な謝罪と受け取られにくい場合があります。ストレートに「不快な思いをさせてしまったことをお詫び申し上げます」とした方が、より真摯な姿勢が伝わるかもしれません

　少し不誠実な話ではあるのですが、謝罪文において具体的に説明することが炎上を終息させるのにいい手段であるとは限りません。新たに公開した情報が炎上の火種になることもあるからです。訴訟の問題で、謝罪しない方がいいことすらあります。こういった事情も含め、謝罪の必要があるのなら、真摯さと誠実さが伝わるよう表現するのが大切です。

　そもそも炎上しないように、事前チェックの体制を整えて人間や生成AIによる確認をするなど、安全策を取っておくことが現代においては必要な安全管理の一つでしょう。