AIに伝票を任せたら、220回中88回読み間違えた｜非エンジニア社長の Claude Code 失敗談

楽天＆実店舗で15年　Claude Code自動化日誌 #4

先に結論から書きます。スマホのカメラで注文の紙のバーコードを読ませていたら、220回のうち88回、読み取りがどこかで崩れていました。あと一歩で、お客様に別の人の荷物が届くところでした。

楽天市場と実店舗で15年。プログラミング経験ゼロの、地方の小さなかばん屋の社長です。AI（Claude Code）で、社内の仕事を自動化しています。

これまで3回、うまくいった話を書いてきました。でも、正直に言うと、失敗もたくさんしています。
今回は、その中から3つ、書いてみます。

一番怖かったのは、お客様に、別の人の荷物が届くところだった話です。

前回の話はこちら

スマホのカメラで、伝票を出していた

1話目で、「ハンディ端末は1台25万円もするので、中古のスマホ（1台1万5千円くらい）で代わりにした」と書きました。

スマホのカメラで、注文の紙のバーコードを読むと、その荷物の伝票が出てくる。
これで、高い機械を買わずに済む。
我ながら、うまくやったと思っていました。

ところが、ある日。

あるお客様の紙を読んだのに、別のお客様の伝票が出てきました。
注文番号の真ん中の数字が、1つだけ化けていたんです。

幸い、その荷物はまだ作っている途中で、伝票はその場で取り消しました。荷物は出ていません。
でも、もし気づかずに貼っていたら。
名入れの商品は一点もので、お客様のお名前が入っています。別の人の名前が入ったものが、別の人のところに届いていたかもしれません。

正直、そのときは「AI、使えねぇ～」と思いました（笑）

カメラが悪いのか、バーコードが悪いのか

AIに「なぜこうなったのか、調べて」と頼みました。

まず分かったのは、伝票を出すシステムには、もう化けた番号が届いていた、ということ。
つまり、読み取りの段階で、数字が化けていた。

ところが、その先が分かりませんでした。
カメラが読み取った文字を、どこにも記録していなかったからです。何が起きたのか、あとから確かめようがない。

そこで、実験してみました。

• スマホのカメラで読んだ記録を並べてみたら、220回のうち88回、4割も、どこかが崩れていた。

• 崩れ方は、ハイフンが消える、数字が入れ替わる、先頭の1文字が落ちる、の3種類。

• 専用のバーコードリーダーで同じことをしたら、崩れはゼロ。

さらに、バーコードの側にも弱さがありました。

• うちのバーコードには、読み間違いに気づくための仕組みが入っていなかった。1文字化けても、落ちても、「正しいバーコード」として通ってしまう。

• しかも、2種類ある紙のバーコードは、違いが先頭の1文字だけ。その1文字が落ちると、片方の紙がもう片方になりすましてしまう。

カメラが悪いのか、バーコードが悪いのか。
調べてみると、両方でした。
読み間違えても気づけないバーコードを、読み間違えやすいスマホのカメラで読んでいた。

悪かったのは、AIではありませんでした。
そして、原因を突き止められなかったのは、「読んだものを記録しておく」を、誰も決めていなかったからでした。

AI使えねぇ～と思ったら、私が使えない社長だった…

安さより、確実さ

その日のうちに、伝票を出すときのカメラ読み取りは、やめました。
画面のボタンを隠して、システムの側でも、カメラから来たものは受け付けないようにしました。

そして、AIと一緒に、こんな守りを足しました。

• 読み取った文字を、全部そのまま記録する（あとで何が起きたか追えるように）

• 伝票を出す前に、システムの側でも番号を照らし合わせ直す

• 伝票を出すお客様のお名前を、画面に大きく出す（人の目でも確かめられるように）

• 毎日の点検で、読み間違いが増えていないか見張る

それから、うちのルールが1つ増えました。

「外に出ていくもの（伝票・お客様へのメール・取引先へのデータ）は、入力をそのまま必ず記録する」

スマホで安く済ませたのは、間違いではなかったと思っています。在庫を見たり、作業の進み具合を入れたりするのは、今もスマホです。
でも、お客様に荷物を送るところだけは、安さより確実さ。ここは、お金をかけるところでした。

実は、まだ終わっていない

ここで「めでたし」と書きたいところですが、正直に書きます。

専用のリーダーに変えてからも、一度だけ、1桁の読み間違いが起きました。
しかも、間違えた番号が、たまたま実在する別の注文番号だったので、どこにも引っかからずに通ってしまいました。
（このときも、荷物やお金には影響ありませんでした）

AIの答えは、こうでした。
「これを確実に止めるには、バーコードそのものを、読み間違いに気づける形に変えるしかありません」

そして、AIが出してきた案は2つ。

• 今のバーコードに、確認用の数字（難しく言うと「検査桁」）を1つ足す
  → 読み間違えたら、計算が合わなくなるので気づける。ただ、その数字がほかの画面でうまく扱えない場合がある。

• バーコードを、QRコードに変える
  → QRコードには、少し汚れたり欠けたりしても、正しく読み戻す仕組み（難しく言うと「誤り訂正」）が最初から入っている。ただ、紙の作り直しになる。

正直、だいぶ悩みました。
検査桁なら今の紙のままいける。QRなら紙を作り直す手間がある。

でも最後は、QRにしました。
決め手は、「スマホのカメラでも読みやすい」こと。
検査桁は、読み間違いに「気づける」だけ。QRは、そもそも読み間違えにくい。
しかも、うまくいけば、一度あきらめたスマホに戻れるかもしれない。

そこで、数か月たった今、申込書にQRコードを足してみました。

試してみたら、うまくいきました。
本番で使い始めた様子は、次回くわしく書きますね。

失敗その2：AIが「受注が止まっています！」と騒いだ日

ある朝、AIがこう報告してきました。

「ここ3日の注文が、25件 → 1件 → 0件です。注文は来ているのに、データが入っていません！」

慌てて調べたら、前の日は定休日でした。
しかも、AIが見ていた数字は「お客様からの注文の数」ではなく、「その日に私たちが発行した書類の枚数」でした。休みの日はゼロで当たり前です。

AIは賢いですが、うちの商売の「当たり前」は知りません。
何曜日が休みで、どの数字が何を数えているのか。それは、教えないと分からない。

それからは、AIへのメモ（社内マニュアル）に「1日だけ見て判断しない。直近3日を、曜日つきで見る」と書きました。
今では、同じ間違いはしません。

失敗その3：本番のページを、2分止めた

AIに頼んで、ホームページの一部を直してもらったときのことです。

ファイルを送る途中で、送信が失敗しました。
ところが、サーバーの上のファイルは、先に中身が空っぽにされていた。
その結果、ページが約2分、止まりました。

小さいファイルで試したときは、うまくいっていたので、油断していました。

これも、すぐにルールにしました。

• 本番に出す前に、必ず控えを取る

• テスト用の場所で、ちゃんと表示されるのを確かめてから出す

• 出したあとも、実際のページを開いて確かめる

3話目で、「本番に反映すること」と「データを書き換えること」だけは、必ず私が承認する、と書きました。
あの線引きは、こういう失敗から生まれています。

失敗から、ルールが増えていく

3つとも、AIだから起きた失敗、ではないと思っています。
人がやっても起きる失敗です。

違うのは、AIは、一度教えたことを二度と忘れないこと。

仕組みは、とても単純です。

1. 失敗が起きたら、AIに「何が起きたか、なぜか、次からどうするか」をまとめてもらう。

2. それを、会社の共有フォルダにある「AIへのメモ」に書き足す（中身は、ただの文字のファイルです）。

3. 会社のパソコンのAIは、仕事を始めるとき、毎回このメモを読んでから動く。

これだけで、1台のAIがやらかしたことを、次の日からは全部のパソコンのAIが守るようになります。
人の会社だと、「前にも言ったよね」が何度も起きますが、AIにはそれがありません。

今回の3つの失敗からも、こんなルールが生まれました。

• 外に出ていくもの（伝票・メール・取引先へのデータ）は、入力をそのまま記録する（カメラの件から）

• 数字が変だと思っても、1日だけで判断しない。直近3日を曜日つきで見る（定休日の件から）

• 本番に出す前に控えを取り、テスト用の場所で表示を確かめてから出す（ページを止めた件から）

ほかにも、

• 「作る前に、本物のデータを数件並べて、本当にできるか確かめる」

• 「推測は推測と書く。確かめていないことを、事実のように報告しない」

• 「お金とデータの削除だけは、必ず社長の確認を取る」

といったルールが、少しずつ増えてきました。今では、ルールのメモは30冊を超えています。

失敗の数だけ、会社のルールが賢くなっていく。
そう思えば、失敗もそんなに悪くないかな、と思っています（笑）

AI使えねぇー？　私がダメ？
いいえ、足りなかったのは「ルール」でした。
AIと一緒に働くなら、ルール作りがいちばん大切かもしれません。

次回予告

次回は、QRコードの話です。
実は、このQRコードのテストは、まさにこの記事を書きながら、AIと一緒にやっていました。
一度あきらめたスマホのカメラに、もう一度戻れるのか。本番で使い始めた様子を書きます。

次回も、社内システムが実際に動いている様子を、少しずつアップしていきますね。
👉 続きはこちら（5話目）

連載はこちらにまとめています

小さなかばん屋社長のClaude Code社内システム構築日誌