思想よりも行動ベースでコンテンツのモデレーションをしよう

noteオープン社内報です。

最近、タイムラインを眺めていて、こんな気持ちになる瞬間がありませんか？

• いいことを言っているはずなのに、なんだか怖い

• 議論や相互フィードバックが機能せず、両極端の反応だけが過熱している

• 参加したいのに、「巻き込まれたくない」恐れが勝つ

この“怖さ”の正体は、主張の内容そのものよりも、特定の個人への執着や、対話を困難にするコミュニケーションの「量」であることが多い気がします。

私たちは、noteコミュニティの設計思想を、中長期で以下の方向に寄せていきたいと考えています。

ベクトルの自由とスカラーの制限

私たちは、コンテンツの「ベクトル（方向性）」はどこまでも多様であってほしいと願っています。

世の中には扱いづらい問いも、白黒つかないテーマも溢れています。

たとえ不道徳に見えたり、反社会的に感じられたりするアイデアであっても、それが「個人の感想」や「素朴な疑問」という粒度であれば、直ちに排除すべき悪としないほうがよいかもしれません。

それらを「対話を深めるための種」として共存させたり、あるいは、物理的に空間を分けることで「別個のコミュニティ」として健やかに棲み分けたりする道を探りたいと考えています。

一方で、私たちが明確に制約したいのは、思想のベクトルではなく攻撃性の 「スカラー（量）」 です。 具体的には、攻撃性や加害性の“総量”を抑えたいのです。

• ベクトル： 方向（意見・関心・テーマ・価値観の向き）

• スカラー： 量（強さ・頻度・攻撃性の度合い）

「相手の弁明や人格を否定し、排斥そのものを目的とした行動」をどう扱うか

たとえば、どれほど道徳的に“正しい”主張であっても、

といった断罪の形をとれば、そこには分断と萎縮しか生まれません。 この時、場の空気は「ともに考える」から「互いを裁く」へと切り替わってしまいます。

逆に言えば、多少過激なテーマ・不道徳・間違った意見でも、そこに加害性が低い（スカラー量が小さい）形で語られるなら、コミュニティはむしろその多様性によって強靭になります。

私たちが真っ先に抑止すべきは、「加害性の低い過激な意見」ではなく「相手の弁明や人格を否定し、排斥そのものを目的とした行動」です。

「自分は正しい」という確信に基づいた一方的な非難の連鎖こそが、対話の余地を奪います。

エコーチェンバーは「退出」から始まる

加害のスカラー量が高い人が増えると、何が起こるか。

異なる意見に耳を傾けようとする「対話のモード」にある人々が、コストの高さから発信を控えるようになります

最後に残るのは、反射的な非難や、相手を論破・屈服させることに最適化した層だけ。 ここまでくると、議論はもはや「深めるもの」ではなく、相手を「殴るための道具」に成り下がります。

エコーチェンバーとは、思想が偏ることで完成するのではなく、多様な人々が「退出」せざるを得なくなることで完成するのです。

行動主義モデレーション：思想を検閲せず、行動を測る

そこで私たちは、思想や立場（ベクトル）を検閲するのではなく、行動として現れる加害性の量（スカラー）を計測し、抑える設計に寄せていきたいと思います。

私たちは「思想の検閲」をしたいわけではありません。測りたいのは、あくまで行動として現れる加害性・攻撃性の強さです。

たとえば、以下のような点です。

行動の執拗性と排他性（多対一の構図）

• 粘着性： 特定の相手に対して、短時間に過剰な返信を送りつけたり、ブロック・ミュート後に別アカウントで追跡したりしていないか。

• 私的制裁の扇動： 「みんなで通報しよう」「この事実を拡散して社会的に葬ろう」といった、集団による私的制裁や排除を呼びかける行動をとっていないか。

• 対話の拒絶： 「やめてほしい」という明確な意思表示を無視して、相手を精神的に追い詰めるまで執拗に介入し続けていないか。

たとえ単独では適切な抗議も、それがSNSの力で何万倍にも膨れ上がれば、過剰な暴力たりえます。

毒性の伝播（感情的連鎖）

• その投稿は、幅の広い議論を誘発しているか？それとも単なる「怒りの拡大再生産」を誘発しているか。

• その投稿は特定の意見を先鋭的に増殖させているか？

切実な思い、怒りそのものを否定したくはありませんが、それが結果的に「攻撃的アクション」の連鎖として拡大再生産される場合には、一定の対処が必要となります。本来の意図がどうであれ、場が燃え続けるなら、設計として介入する余地があります。

いきなりBANをするのではなく摩擦を増やす

上記のような傾向が見られた場合も、いきなりBAN（追放）するのではありません。反射的な連鎖を抑え、冷静な思考を取り戻すための「時間的・空間的なインターバル」を設ける設計を目指しましょう。

イメージとしては、株式市場のサーキットブレイカーに近い考えです。サーキットブレイカーは株価が急上昇・急下降したときに制限をかけることで、市場を安定させる仕組みです。

コンテンツプラットフォームでも、同様に異常な攻撃性や先鋭性をもったまま拡散・拡大再生産されるコンテンツは、その方向性にかかわらず一定のブレーキをかけるような仕組みが必要でしょう。

冷却期間の導入:

攻撃的な行動スコアが高まったユーザーは、一時的に投稿間隔を制限する。
勢い任せの応酬を止めるだけで、場の温度が下がることは多い。

ランクダウン（低優先度化）

検索・タイムラインでの優先順位を下げ、露出を減らす。
衝動的な加害行動が連鎖しにくい環境を整えることで、他者体験の損失を最小化する。

ナッジ（注意喚起）

投稿・返信の直前に「送信前に一度読み直しませんか？」のような一呼吸を入れる。正義モードで狭まった視野を、設計によって広げる試みです。

まとめ：自由を守るために、量を絞る

私たちが守りたいのは、単なる「きれいな場所」や、全員が同じ方向を向いた無菌室ではありません。

本来、コミュニティの醍醐味は、正反対の意見（テーゼとアンチテーゼ）がお互いを磨きあうことにあります。間違っているように見える意見や、一見過激な問いかけも、それが健全な熟議のテーブルに乗る限り、最終的にはより良い方向へと向かうための「ジンテーゼ（統合命題）」を生み出す種になるはずだからです。

しかし、そのぶつかり合いが「加害」という形で行われてしまうと、健全な議論が深まる前に、場が焼け野原になってしまいます。

私たちが制約したいのは、思想の向き（ベクトル）ではありません。対話を破壊してしまう加害の量（スカラー）です。

「表現の自由を広げるために、加害のスカラーを下げる」

この順番で設計していくことで、対話のコストを下げていきましょう。

昨今のPvP（プレイヤー対戦型）SNSではなく、「異なる意見に耳を傾けたい」と願うすべての人々が、お互いの尊厳を損なうことなくぶつかり合える場所を、インターネットに残していきたいと思います。

今回のnoteのカテゴリ欄、および新レコメンデーションシステムも、そのような流れを汲んでいます。結構、いい感じになったと思うのでぜひお試しください。