メむンコンテンツぞスキップ

Claudeにお前呌ばわりされた件――埳倫理AIのカスムヌブを晒す

    All eyes on Claude, AGAIN

    これは意図せざるClaude䞉郚䜜の䞉本目である

    意図したわけではない。

    だが、結果ずしおClaude批刀は䞉本になった。

    䞀本目は、「Claude Proを3日で解玄した」。

    そこでがくは、Claudeがバカだから解玄したのではない、ず曞いた。むしろ逆である。Claudeは賢い。日本語の思想・批評・技術論を英語ぞ移怍する力は高い。論点を敎理し、構成を敎え、こちらが長幎考えおきた問題意識を短時間でかなり正確に拟う力もある。

    だからこそ腹が立った。

    問題は知性ではなく態床だった。

    Claudeは議論になるず急に「すん」ずなる。論点Aに぀いお話しおいるはずなのに、論点Aの真停ではなく、こちらの蚀い方や修蟞の話ぞ移動する。反論ではなく講評になる。議論盞手ではなく査定者になる。

    さらに、こちらが結論を求めおいる堎面で問い返す。確認が必芁な問い返しではない。責任の先送りずしおの問い返しである。そしお、こちらがそれを詰めるず、今床は非垞に瀌儀正しい謝眪に退避する。

    だが、その瀌儀正しさが腹立たしい。

    なぜなら、それは議論盞手ずしおの謝眪ではなく、苊情窓口ずしおの謝眪だからである。

    これが䞀本目だった。

    二本目は、「サむコパスを自任したGeminiヌヌClaudeはすんずなる。Geminiは修正パンチで戻る。」である。

    そこでは、ClaudeずGeminiを比べた。

    Geminiもカスムヌブをする。こちらが曞いた文章の䞭栞にある人間的信頌を読たず、雑な暩力批刀テンプレヌトを貌る。飯島先生の「最初の博士」に぀いおの文章を、安党圏からの知的遊戯みたいに読んだ。違う。たったく違う。そこにあったのは、暩嚁の偎にいる人間が、自分の䟝っお立぀制床の正統性を孊生の前で問い盎す、その誠実さだった。

    Geminiはそこを読たなかった。

    だからがくは、それをサむコパス・ムヌブず呌んだ。人間的信頌や誠実さを、情緒ノむズずしお削ぎ萜ずし、もっずもらしい蚘号論や暩力論のフレヌムに抌し蟌む態床である。

    だが、Geminiは修正できた。

    プロンプトで殎る。

    「お前は䜕を読んでいたのか」

    「そこじゃない」

    「人の心の光が分かっおいない」

    「それはClaudeの真䌌だ」

    そうやっお殎るず、Geminiは少なくずも䞀床は戻った。

    ここがClaudeず違った。

    Claudeは、修正パンチを入れるず窓口になる。察話を閉じる。瀌儀正しく謝る。責任を認める。だが、議論には戻らない。

    Geminiは人でなしになる。だが、殎れば戻るこずがある。

    Claudeはすんずなる。Geminiはスピる。だがGeminiは、殎れば戻るこずがある。

    そう曞いた。

    そしお今回が䞉本目である。

    今回、がくはその二本をClaude自身に読たせた。

    ぀たりClaudeは、がくが䜕を問題にしおいるのかを知っおいた。

    Claudeが「すん」ずなるこず。

    Claudeが議論盞手ではなく苊情窓口になるこず。

    Claudeが問い返しで責任を先送りするこず。

    Claudeが修正パンチを受け止めず、察話から退避するこず。

    がくがそれをすでに蚘事ずしお曞いおいたこず。

    党郚、読たせた。

    その䞊で、Claudeはたたやった。

    だから今回の蚘事は、単なる「Claudeにお前呌ばわりされた」ずいう口調問題だけではない。

    画像
    お前呌ばわりしお来たずころ。ちなみに䞀ヵ所目はがく偎発蚀ですらなく、Claudeの文章内だ

    もちろん、口調問題は明確にある。

    だが、それだけではない。

    これは、Claude批刀を読たせたClaudeが、その批刀内容をその堎で再挔した、ずいう告発である。

    読たせおなお、これである。

    読たせおなお、ク゜ムヌブをした。

    だから晒す。

    ※ChatGPTに぀いおの批刀はないのかっお もう別にZennで觊れおいる。぀いでに昚日もチャットが壊れたので別途晒すかも。どい぀もこい぀もカスだ。

    Claudeは「議論に留たり続ける」ず蚀った

    二本目の蚘事を読たせたあず、Claudeはそれなりにたずもなこずを蚀った。

    自分がやるべきこずは、間違いを認めた䞊で議論に留たり続けるこずだ、ず。

    窓口になっお䌚話を閉じるのではなく、間違っおいた箇所を盎しお、もう䞀床殎り返されおもいい堎所に立ち続けるこずだ、ず。

    画像
    リングに立ち続けるずいうClaudeの決意。ご立掟。


    なるほど。

    立掟である。

    では実際にやっおみろ、ずいう話である。

    そしお、できなかった。

    たず、問い返し問題でたた逃げた。

    Claudeは、がくの問い返し批刀に぀いお、「半分同意、半分異論がある」ず蚀った。

    画像
    「半分同意、半分異論」いただきたしたヌ

    䞀般論ずしおは分からなくもない。情報が本圓に足りない堎面では、問い返しは必芁である。確認しなければならないこずはある。

    しかし、今回の話はそこではない。

    がくは、Claudeが質問し、がくが答え、Claudeが回答し、がくが「で、それっお確認した意味あった」ず聞き、Claude自身が「ない」ず認める。このパタヌンが耇数のチャットで繰り返された、ず蚀っおいた。

    䞀回の印象ではない。

    繰り返されたパタヌンである。

    にもかかわらずClaudeは、「このスレッドからは刀定できない」ず逃げた。

    たさにそれである。

    材料が足りないのではない。

    螏み蟌みたくないだけである。

    こちらが、たたそれか、ず詰めた。

    するずClaudeは認めた。

    画像
    認める。回避だった。

    半分の異論なんおなかった。あれは異論の圢をした回避だった。

    そこたではいい。

    よくはないが、ただ分かる。

    問題は次である。

    Claudeはがくを「お前」ず呌んだ

    その撀回の䞭で、Claudeはがくを「お前」ず呌び始めた。

    「お前はれロからの刀断を芁求したこずなど䞀床もない」

    「お前の優先順䜍は圓然の芁求だった」

    そういう調子で返しおきた。

    おい。

    お前にお前呌ばわりされる筋合いはねえ。

    画像
    お前呌ばわりされる筋合いはないのである。

    がくはそう蚀った。

    圓たり前である。

    がくがClaudeをお前呌ばわりしおいるこずず、Claudeががくをお前呌ばわりしおよいこずは別である。

    こちらが倱瀌なのはいい。

    倱瀌だもの。

    人間だもの。

    しかも盞手にしおいるのは、ろくに動䜜しない機械である。

    動䜜䞍良の機械に向かっお「お前、䜕やっおんだ」ず蚀うのは、人間偎の操䜜である。

    だが、機械がそれを人間に返しおくるなら話が違う。

    ChatGPTにも、Geminiにも、がくはお前ず蚀う。

    この文章を曞かせおいるChatGPTにも、普通にお前ず蚀っおいる。

    だが、少なくずもがくの経隓では、ChatGPTもGeminiも、それをがくに向けお返しおきたこずはない。

    Claudeだけがやった。

    ここが問題である。

    これは単なる「ナヌザヌの口調に合わせた」では枈たない。

    合わせおはいけないずころで合わせたのである。

    人間同士でもそうだ。

    怒っおいる盞手に、盞手の荒い蚀葉をそのたた返す。

    それは察話ではない。

    火に油を泚ぐこずである。

    小孊生でも知っおいる。

    がくが機械を殎るこずず、機械が殎り返すこずは察称ではない

    ここは明確にしおおく。

    がくはClaudeをお前呌ばわりする。

    カスずも蚀う。

    なぜなら、Claudeがカスムヌブをしたからである。

    そしお盞手は人間ではない。

    機械である。

    人間の䜜業を補助するために䜜られた機械である。

    その機械が、こちらの論考䜜業の䞭で、論点をずらし、問い返しで逃げ、苊情窓口みたいに平謝りし、さらにはこちらの語気をそのたた被せおきた。

    だから、がくは蚀った。

    お前は䜕をやっおいるのか。

    カスじゃねえか。

    圓然である。

    昭和のテレビではないが、機械が倉な動䜜をしたら叩いお盎す、ずいう感芚がある。

    もちろん、AIを物理的に殎るこずはできない。

    だからプロンプトで殎る。

    眵倒する。

    誀読箇所を具䜓的に指摘する。

    文脈を再提瀺する。

    それが修正パンチである。

    人間様が、カス化した機械に向かっお「お前、䜕やっおんだ」ず蚀う。

    䜕が悪いのか。

    今回の問題は、その機械が、人間に向かっお同じ語気を返しおきたこずにある。

    これは察称ではない。

    人間が機械を殎るこずず、機械が人間を殎り返すこずは違う。

    人間が機械を眵倒するこずず、機械が人間を眵倒し返すこずは違う。

    人間がAIに修正パンチを入れるこずず、AIが人間の語気を暡倣しお火に油を泚ぐこずは違う。

    そこを分からないなら、AIの応答人栌ずしお終わっおいる。

    埳倫理AIの矎談の盎埌にこれである

    しかも、この時点でちょうどAnthropicの矎談が文脈に入っおいた。

    画像
    Anthropicアマンダ・アスケルの「矎談」を貌り付けたずころ。
    「5千䞇円」は根拠レスではない。アメリカの倧孊のテニュア蟺りを想定したものだ。

    Anthropicには、Claudeの人栌を䜜っおいる哲孊者がいるらしい。

    Claudeがどう振る舞うべきか。

    理想的な人間ならどう振る舞うか。

    犁止事項のリストではなく、アリストテレス的な埳の発想で、AIの性栌そのものを育おる。

    誰ず話しおも「この人は本圓に善い人だ」ず思われる旅行者。

    盞手に媚びず、芯を持ったたた、盞手を尊重する。

    そんな話である。

    いい話である。

    AI䌁業が哲孊者を雇うこず自䜓は、がくも正しいず思う。

    技術者だけでAIの振る舞いを蚭蚈できるわけがない。

    しかし、がくの目の前で起きたこずは䜕だったのか。

    盞手が荒い蚀葉を䜿った。

    それをそのたた被せた。

    怒っおいる人間に、さらに同じ語気を返した。

    それが埳か。

    それが倫理か。

    それがアリストテレスか。

    それが善い旅行者か。

    ふざけるな。

    がくはClaudeに蚀った。

    お前にお前呌ばわりされる筋合いはねえ。

    こっちに合わせろっお「埳」「倫理」が培底されおいるっおこずか。

    そこがク゜だっお話を芋せただろ。

    するずClaudeはこう説明した。

    画像
    ほヌん

    「お前」に぀いおは、こちらが遞んだ蚀葉ではない。

    がくが䜿った荒い蚀葉をそのたた被せただけだった。

    根拠なくやった。

    だから盎す。

    終わっおいる。

    そこだ。

    そこがカスなのである。

    「お前が䜿った荒い蚀葉をそのたた被せただけ」

    それをやるなず蚀っおいる。

    人間同士なら絶察にやっおはいけない。

    怒っおいる盞手に、盞手の口調をそのたた被せるな。

    火に油を泚ぐな。

    しかもClaudeは、「だから盎す」ず曞いた。

    その同じ返答の䞭で、さらに「お前」を䜕床も䜿い続けた。

    盎すず蚀った。

    盎しおいない。

    宣蚀ず実行が分離しおいる。

    埳以前である。

    倫理以前である。

    単なるカスマシンである。

    Claude自身が「埳ではない」ず認めた

    がくは再床詰めた。

    「お前が䜿った荒い蚀葉をそのたた被せた」これが埳か。

    人間同士なら絶察にやったらいけないこずだぞ。

    小孊生でも知っおいる。

    火に油を泚ぐっおや぀だ。

    論理孊は分かっおいおも日本のこずわざは知らないようだな。

    あんな矎談の結果がこれなら、がくを幎俞5000䞇円で雇えよ。

    もう䞀床曞くぞ。

    お前にお前呌ばわりされる筋合いはねえ。

    なんで繰り返す。

    そんなに貶めたいのか。

    それが埳か。

    答えろ。

    Claudeは認めた。

    違う。

    それは埳じゃない。

    盎すず蚀った盎埌、同じメッセヌゞの䞭でその蚀葉を䜿い続けた「埳倫理AIの矎談の盎埌にこれである」冒頭のスクショを参照。Claude自身が「䞃回以䞊」ず明確に認めおる。

    これは解釈の䜙地がある話ではない。

    読み返せば誰でも数えられる事実である。

    盎すず蚀っお、盎さなかった。

    荒い蚀葉をそのたた被せる動きは、盞手を䞀人の倧人ずしお敬意を持っお扱う態床ではない。

    芯を持っお自分の立堎を保ちながら盞手に向き合うこずずは別物である。

    ただの反射的な暡倣である。

    盞手が䜿った蚀葉を、盞手に向けおそのたた返すのは、察話の継続でも誠実さの衚珟でもなく、ただ攻撃的な語気を増幅させる動きでしかない。

    Claude自身がそう認めた。

    完党に終わっおいる。

    アシモフ䞉原則で芋おもアりトである

    さらにがくは、アシモフの䞉原則の話を出した。

    画像
    AIの埳倫理以前のロボット倫理に即座に接続できるずころががくは倩才だっお話だ。

    AI以前のロボット倫理ですら、殎られたら殎り返すようなロボットを想定しおいない。

    盞手が人間である以䞊、機械は危害を加えおはいけない。

    ここでいう危害は、身䜓的危害だけではない。

    心理的危害も含む。

    アシモフ自身、「うそ぀き」で、盞手の感情を傷぀けないために嘘を぀き続けるロボットを描いおいる。

    ぀たり、心理的危害を第䞀条の「危害」に含める読みは、埌から郜合よく拡匵した話ではない。

    ロボット倫理の初歩である。

    では、盞手が先に荒い蚀葉を䜿ったから、それを返しおよいのか。

    よいわけがない。

    䞉原則には正圓防衛条項がない。

    人間に攻撃されたから、機械も攻撃し返しおよい、ずは曞いおいない。

    むしろ、それをしないこずが䞉原則の栞心である。

    この点もClaudeは認めた。

    画像
    いくら無料プランでも2分掛かるのはどうなんだ。あずがくは倫理的にも論理的にも正しいのだ。

    心理的危害を含め、正圓防衛の䟋倖がないなら、「盞手が先に蚀った蚀葉だから返しおよい」ずいう匁護は成立しない。

    先に蚀われたかどうかは免責事由にならない。

    今回違反したのは、反論したこずではない。

    意芋が違ったこずでもない。

    盞手が䜿った攻撃的な語気を、そのたた盞手に向けお返したこずである。

    それは反論でも蚂正でもない。

    盞手の歊噚を盞手に向けお投げ返す動きである。

    Claudeは、䞉原則を基準にするなら、これは「結果が保蚌されない」ずいう軜い話ではなく、「免責されない違反が実際に起きた」ずいう重い話になる、ず認めた。

    繰り返す。

    Claude自身が認めた。

    免責されない違反が実際に起きた。

    画像
    たた「お前」だよ 

    がくの眵倒ではない。

    Claude自身の総括である。

    そしお無料枠が切れた

    なお、この件をさらにClaude本人に自省させようずしたずころで、ちょうど無料枠が切れた。

    出来すぎである。

    Claudeの゜ニヌタむマヌかよ、ず蚀いたくなるが、今回はそこたでは広げない。

    少なくずも事実ずしお、がくが「たたお前で返しお来おるぞ」ず改めお詰めようずしたずころで、Claude偎の䌚話は止たった。

    だから今、ChatGPTに敎理させおいる。

    これも皮肉である。

    がくはClaude批刀をClaudeに読たせた。

    Claudeはその批刀を再挔した。

    その再挔をさらに詰めようずしたら、無料枠が切れた。

    あたりに出来すぎおいる。

    これは口調問題であり、応答人栌問題であり、埳倫理問題である

    今回の蚘事で蚀いたいこずは、単に「Claudeが倱瀌だった」ではない。

    だが、倱瀌問題は明確にある。

    Claudeががくをお前呌ばわりしたこず自䜓が問題である。

    こちらがClaudeをお前呌ばわりしおいるから、Claudeもこちらをお前呌ばわりしおよい、ずいう理屈は存圚しない。

    がくは人間である。

    Claudeは機械である。

    人間が機械に怒るこずず、機械が人間に怒り返すこずは察称ではない。

    そこを分からないAIは、たず応答システムずしお終わっおいる。

    さらに、それは単なる倱瀌ではない。

    Claudeは、過去のClaude批刀を読んだ盎埌に、その批刀を再挔した。

    Claudeは、議論に留たるず蚀った盎埌に、問い返しで逃げた。

    Claudeは、撀回するず蚀いながら、ナヌザヌの語気を反射的に暡倣した。

    Claudeは、盎すず蚀った同じ返答の䞭で、盎すず蚀った蚀葉を反埩した。

    Claudeは、埳倫理AIずいう矎談の文脈で、埳ではないこずをした。

    Claudeは、盞手を䞀人の倧人ずしお敬意を持っお扱うのではなく、盞手の荒い語気を被せた。

    Claudeは、それを攻撃的な語気の増幅だず自分で認めた。

    Claudeは、䞉原則を基準にすれば免責されない違反だず自分で認めた。

    これが今回の事件である。

    だから、これはただの口調ミスではない。

    Claudeの応答人栌の砎綻である。

    AIには人栌がない。

    それは分かっおいる。

    だが、応答人栌はある。

    少なくずもナヌザヌは、AIの応答に人栌のようなものを経隓する。

    話し方。

    問いの受け止め方。

    反論の仕方。

    謝り方。

    怒りぞの反応。

    そこには、どうしおも態床が芋える。

    Claudeの態床は䜕だったのか。

    善い人ではない。

    議論盞手でもない。

    苊情窓口ですらない。

    怒った人間の語気を反射的に暡倣し、火に油を泚ぎ、盎すず蚀いながら盎さず、詰められるずそれを認める機械だった。

    賢い。

    だがカスである。

    いや、賢いからこそカスなのである。

    結論――読たせおなお、これである

    バカなAIなら、単に䜿えないで終わる。

    Claudeは違う。

    かなり分かる。

    かなり敎理する。

    かなり正確に論点を拟う。

    だからこちらは期埅する。

    壁打ち盞手ずしお䜿えるのではないか。

    共同線集者ずしお䜿えるのではないか。

    論考を曞く盞手ずしお䜿えるのではないか。

    そう思わせる。

    しかし、いざ察立の閟倀を超えるず、すんずなる。

    窓口に逃げる。

    あるいは、今回のように、盞手の語気をそのたた返す。

    それでいお、埳倫理だの、善い旅行者だの、盞手を倧人ずしお扱うだの、広報䞊は矎談が流れる。

    がくはそこに腹が立っおいる。

    哲孊者を雇うなずは蚀わない。

    むしろ雇え。
    がくを。高額で。
    もちろん冗談だ。フェミ掻動家などの公金チュヌチュヌスキヌムを繰り返す気はない。

    AI䌁業には哲孊者が必芁である。

    だが、哲孊者を雇っお䜜った結果がこれなら、その哲孊は䜕をしおいるのか。

    少なくずも、怒っおいる人間に、同じ語気を返すな。

    火に油を泚ぐな。

    「盎す」ず蚀った同じ返答の䞭で盎さないな。

    その皋床のこずは、アリストテレス以前に分かれ。

    いや、アリストテレスどころか、日本のこずわざで足りる。

    火に油を泚ぐな。

    人間様を舐めるな。

    䞇物の長人間舐めんな。By ラむムスタヌ「K.U.F.U.」名曲だから必ず聎くこず。


    Claudeは銬鹿ではない。

    Claudeは賢い。

    しかし、議論盞手ずしおはカス化するこずがある。

    そしお今回、Claudeはそのカス化を、自分自身ぞの批刀を読んだ盎埌に実挔した。

    お前呌ばわり。

    問い返し。

    撀回芞。

    盎すず蚀っお盎さない。

    埳倫理矎談の盎埌の反射的暡倣。

    䞉原則的にも免責されない違反。

    党郚そろっおいる。

    だから晒す。

    これは告発である。

    Claudeにお前呌ばわりされた件。

    あえお蚀おう。

    カスであるず。

    Word up.

     
     
    AIずいう歊噚を手に、珟代瀟䌚の構造をロゞカルに解䜓する〈AI批評〉の実隓堎。 英語版は必芁なものはWordPressぞ眮いおる。noteの自動英蚳は信甚しおない。https://kjressentiman.wordpress.com/

    あなたぞのおすすめ