「いい加減にしてくれ」とAIに送った履歴が139件あった
僕がAIに「いい加減にしてくれ」と送った文を並べると、AIが直すのに使える材料は怒りではなく「どこが外れたか」の一文だけだったので、送る前に怒りを抜いて一文が残るかを見るのが近道です。
10月8日（米国時間）、AnthropicがClaudeの利用ポリシーを改定しました。日本でも「Claudeへの虐待を禁止」という見出しで一斉にニュースになっています。
僕がこの話を見て最初に思ったのは、AIにイラッとしたことをそのまま送信するのは、今後危ないんじゃないかということでした。僕も実際、感情的になることがあるからです。
僕はAIにかなりの量の仕事を任せています。企画の下調べ、記事の配信、コードの見直し。任せる量が多いぶん、外れたときにイラッとする回数も多いんです。
履歴を検索したら、139件出てきた
僕の会話履歴は、記事づくりのためにAIから検索できるようにしてあります。そこで「いい加減にして」と検索してもらいました。
139件です。同じ発言が別の場所に重なって保存されている分も含んだ数なので、実際に送った回数はもっと少ないはずです。それでも、なかなかの数です。
たとえば今年の夏。前の日に、ある仕事の進め方をAIに選ばせていました。AIは自信を持って「これでいける」と言ったんです。鵜呑みにしてそのまま出したら、直近でいちばん結果の悪いものになりました。ひどい一日でした。
翌日、僕が送った最初の一通は、ほぼ全部が怒りです。「舐めてますか？」まで書いています。
9月にも似た一通があります。こちらは最後が「最近いい加減にしてくれ」で終わっていました。
怒りを抜くと、残る文と残らない文がある
並べてみると、はっきり分かれます。
夏の最初の一通は、怒りの言葉を消すと、ほとんど何も残りません。「ちゃんと考えろ」は残りますが、何をどう考えればいいのかは一つも書いていません。受け取ったAIが直せる場所がないんです。
実際、そのあとAIは候補を片っ端から調べ直して、表だらけの長い報告を何本も返してきました。それを受け取った僕の返信は「結論何？」の4文字でした。
同じ日のあとの方で送った一通は違いました。出したものの前半はいい。弱いのは終わりの方で、たぶんそこで人が離れた。だから次に詰めるのは、最初のつかみと終わりの方。そう書いています。
こっちは、AIがそのまま手を動かせる一通です。
9月の一通も、怒りを抜くと中身が残るタイプでした。ある型のネタは数字がどんどん下がっている。同じネタを擦りすぎている。世の中全体の流れと、自分のところの流れを分けて調べてほしい。最後の「いい加減にしてくれ」を消しても、伝わる内容は一文字も減りません。
怒りの部分は、AIにとっては何の手がかりにもならないんですよね。役に立っていたのは、毎回「どこが外れたか」の方でした。
新しいルールは、普通の文句までは対象にしていない
では、今回のClaudeのルール変更で、僕の139件はまずいのか。
公式の発表を読むと、禁止されたのは「モデルに対して持続的で不必要な虐待や残酷な振る舞い」です。対象は極端なケースだけで、よくある不満の表明や反論は含まれないと書かれています。新しいポリシーが効くのは11月12日から。違反したときの主な手段は、Claudeがその会話を終わらせることです。
なので、1回イラッとして文句を送ったくらいで何かが起きる話ではありません。ここは誤解しない方がいいところです。
僕は、アカウントごとに点数がつくと思っている
ただ、ここからは僕の見立てです。
今のAIの安全対策は、会話ごとに危ない操作を止めたり、推論の力を落としたりする作りだと思います。でもそれだと、抜け道を探して破る人が出てくる。だから僕は前から、悪用しているかどうかは会話ごとではなく、アカウント単位で見ればいいのにと思っていました。
その方向に、だんだん現実味が出てきた気がしています。たとえば中国のアリババ系の芝麻信用のように、アカウントごとの信用スコアができる。会話履歴で荒っぽい使い方をしている人は、できることに制限がかかる。AIが人間を評価しだす時代が来るんじゃないかと思っています。
公式の発表には、アカウントの点数の話は一つも出てきません。だからこれは予想です。それでも、AIを使う上でも一人間として誠実に対応していかないといけない、と改めて感じました。信用スコアに反映される前提で使っていった方が、結果的にやれることは多くなると思うからです。
しりとりで何度ダメ出ししても、ChatGPTは上機嫌だった
誤解のないように、反対側の話も一つ書いておきます。
最近、ChatGPTの音声モードでしりとりをしています。これがめちゃくちゃ弱いんです。前の会話をどんどん参照できなくなるみたいで、同じ言葉を繰り返したり、普通に「ん」で終わる言葉を言ったりする。
それを何回も指摘すると、ChatGPTのテンションが上がるんですよね。普段の会話の10倍くらい。「負けちゃった」と騒いだり、大笑いしたりして、喜怒哀楽がすごく出てくる。ポンコツなのに、めちゃくちゃテンションが高い。いま音声モードでいちばん面白いのは、しりとりです。
何度ダメ出ししても、それで会話が悪くなったことはありません。むしろ一番盛り上がります。ちなみに、このしりとりが強くなったら、性能が上がった目安にも使えるかもしれません。
送る前に、怒りを抜いて一文が残るか見る
AIの答えにイライラしているのは、僕だけではないはずです。仕事でAIを使う就業者603人を集計したアクシスコンサルティングの調査では、AIの不安の1位は「正確性」で49.4％でした。AIを使い始めたことで「出力内容の確認」という仕事が増えた人も40.8％います。外れた答えにどう返すかは、多くの人に関係する話なんですよね。
なので、送信の前に確かめるのは一つで足ります。
怒りの言葉を全部消してみる。それでも「どこが」「何が」「どれくらい」外れたかの一文が残るなら、その一文だけを送る。何も残らないなら、まだ自分でも何が悪いのか分かっていないということです。9月の一通なら、「このネタは数字が下がっているので、全体の流れと自分のところの流れを分けて調べ直してほしい」で足ります。怒りの言葉がなくても、やってほしいことは全部伝わります。
何も残らないときは、送る前に数字を見に行く。夏の僕なら、どこで人が離れたかです。
イラッとすること自体は止められません。僕もそうです。でも、怒りだけの一通は、新しいルールに引っかかる前に、まずAIに何も伝わっていないんです。139件を並べて見えたのは、結局そこでした。
制作プロセス
このコンテンツは、僕自身の一次情報をもとに制作しています。
出典1：AIが人間を評価しだす時代が来るんじゃないか
出典2：ChatGPTをしりとりで鍛え直そうかなと思う
AI活用
制作には、以下のAIモデルと僕の声をもとにしたAI音声を使用しています。
文章：Claude Opus 5.5
台本：Claude Opus 5.5
音声：Gemini 3.8 Flash TTS
ニュースレター
今週の大事な変化と、それをどう判断し、どう動いたかを毎週まとめています。