善意のAIツールを、止めました。止める根拠は、ありませんでした。現場が自作したパワポ生成とCSV出力ツールに、3回待ったをかけた話

「生成AIのおかげで、現場の人が自分でツールを作れるようになった」「でも勝手に作られたツールは、情報漏洩のもと。見つけたら止めるべきだ」

どちらも、正しいと思います。私も推進役として、両方を口にしてきました。

今年の3月から7月にかけて、私たちは社内で生まれた「善意のAIツール」に、3回待ったをかけています。外部のAI講師が申し出たWebアプリ。お客様のために作られたパワポ生成ツール。操作ログを一括で書き出すツール。

止めたこと自体は、たぶん間違っていませんでした。ただ、あとから議事録を読み返して気づきました。3回とも、止める根拠になる社内のルールは、どこにもなかったのです。

今回は、現場が善意で作ったAIツールに待ったをかけた3回の記録と、そのとき止める側に何が足りなかったのかを、お届けしたいと思います。

※この連載の全体像はこちらにまとめています → 中小企業のAI推進、この1年で何が起きたか。連載全27本の目次

この記事に書いてあること

• 社内で生まれた自作のAIツールに、待ったをかけた3回の中身

• 止める側が「根拠になる定義がない」と自分で認めていた場面

• その後、ツールと社内のルールはどうなったか

こんな方に向けて書いています

• 現場の人がAIで自作ツールを作り始めて、どう扱うか迷っている推進担当の方

• 「シャドーAI」を止めたいけれど、止める根拠がまだ社内にない方

記事の後半に、自作ツールを見つけたときに、止める前に確かめている3つの問いを載せています。

結論：3回待ったをかけた。止める根拠になるルールは、3回ともなかった

待ったをかけたのは、次の3回です。

• 3月31日 … 外部のAI講師が申し出た「台本を自動生成するWebアプリ」を、私が止めた

• 6月12日 … 顧客のサクセス担当が作ったパワポ生成ツールを、企画部の責任者が「お客さんに提供できない」と止めた

• 7月17日 … 同じサクセス担当が作った、操作ログを一括でCSVに書き出すツールに、私が「脱獄ツール」と言った

3回とも、止めた理由はその場ではもっともでした。でも、「社内のルールのこの項目に反するから止める」と言えた回は、1つもありません。

7月17日の会議で、私自身がそう認めています。誰が、どの情報を、どこまで見て、何をダウンロードしてよいか。その定義が、社内にまだなかったのです。

9月の今も、その定義は進んでいません。代わりに「プロダクトに関わる自作ツールは、基本NG。開発が正式に入れる」という線だけが引かれました。

善意のツールは止まりました。止めた根拠のほうは、今もありません。

3月：外部のAI講師の「Webアプリを作ります」を、私が止めた

1回目は、社外の人でした。

3月、社内のAI研修の打ち合わせを、外部のAI講師と進めていました。その研修の話はAI研修、開けたのは開発向けだけでしたに書いたとおりです。

3月末、講師から研修資料の改訂版が届きました。

その中に、あるメンバーが困っていた「スライドから台本を作る作業」について、講師が自分でWebアプリを作って対応する、という申し出が入っていました。

善意の申し出です。困っている人がいて、作れる人がいる。でも私は、3月31日にプロジェクトのSlackで、こう書いています。

続けて、個別の相談で動くのではなく、部門横断のワーキンググループ（10人ほどのAI活用の場）に上げて、業務の課題として扱ってほしい、とも書きました。

同じスレッドで、企画部の責任者も返しています。スライドから台本を作る機能は、ずっと前から要望に上がっている。簡単にできるなら、むしろ自社のプロダクトの機能として作るべきだ、という趣旨でした。

このとき私が止めた理由は、「全体の効率化を阻害する」でした。今読むと、それは私の感覚です。社内のどのルールにも、書いてありませんでした。

6月：お客様が疲弊しているのを見て、サクセス担当がパワポ生成ツールを作った

2回目は、社内の、しかもお客様のために動いた人でした。

私たちは、パワーポイントを動画にするツールを提供しています。お客様の導入後の支援を担当するサクセス担当の一人が、6月12日のワーキンググループで、自作のツールを紹介しました。

きっかけは、お客様の声です。本人は、こう話していました。

作ったのは、パワーポイントを作るための画面です。Geminiに何度もやり取りしてHTMLのコードを出してもらい、1つのファイルにまとめたもの。レイアウトの自動調整、クイズやアンケートの自動生成、色の一括変更まで入っていました。

お客様が困っていて、自分の手元に作れる道具がある。やっていることは、推進役の私が「AIで業務を変えてほしい」と言い続けてきたことそのものです。

企画部の責任者は「これはお客さんに提供できない」と言った

その場で、企画部の責任者がツールの中身を見ていました。最初に指摘したのは、自社プロダクトの機能との重なりです。見た目も機能も、開発中の機能とほぼそっくりだ、と。

次に、技術の話が出ます。1つのHTMLファイルに見えるが、ソースコードを見ると、外部のサーバーからいろいろなデータを引っ張っている。そして、こう続けました。

実はこの会議で、私はこんなことも言っています。

お客様が求める機能を、正式な開発がなかなか作らない。だから現場が自分で作り始めている、という意味です。企画部の責任者は「もうお客さんを待ってられないんですよ」と返しました。

作った側にも、止めた側にも、それぞれ正しい理由がありました。足りなかったのは、その間をつなぐルールのほうでした。

3週間後の7月3日、この件は「お客様のデータを扱う自作ツールは、開発部にコードを見てもらう」という話にまとまります。決まったのは、その1点だけでした。

7月：「開発に言うのも遠慮しちゃう」から、CSV出力ツールが生まれた

3回目は、7月17日のワーキンググループです。同じサクセス担当が、また新しいツールを持ってきました。

お客様から、自社プロダクトの操作ログが欲しいと言われることがあります。ところが、ログをCSVで書き出す機能がまだない。画面から手作業でコピーするのは大変です。

本人は、作った理由をこう話しています。

ブックマークレットは、ブラウザのブックマークに小さなプログラムを登録して、開いている画面から情報を取り出す仕組みです。ログイン履歴、管理操作の履歴、動画の操作履歴。3種類のCSVを、ボタン1つで同時に書き出せるようにしていました。

ここで私が引っかかったのは、「開発に言うのも遠慮しちゃう」の一言です。

6月にパワポのツールを止めたとき、私たちは「開発に見てもらおう」と決めました。でも、作る側から見ると、開発はまだ気軽に頼める相手ではなかった。だから、また自分で作った。

私は「脱獄ツール」と言った。同じ口で「定義がない」とも言った

企画部の責任者は、すごいツールだと言いながら、全部を出してしまって大丈夫なのか、確認しないといけない、と止めに入りました。

続けて、私がこう言っています。

前半で、止める根拠がないことを認めています。後半で、そのツールを「脱獄ツール」と呼んでいます。冗談のつもりでした。

作った本人は、こう返しました。

お客様のために作ったツールが、「悪いことした気分」で終わりました。そう感じさせたのは、根拠を持たないまま止めた、私の一言でした。

企画部の責任者は、すぐに「素晴らしいと思う。ルールが明確になれば」とフォローしています。議事録のTODOには、「権限の定義が整理され次第、正式導入を再検討」と残りました。

止める根拠は、いつもその場にいた誰かの経験だった

3回を並べると、止めた根拠はこうなります。

• 3月 … 私の「全体の効率化を阻害する」という感覚

• 6月 … 企画部の責任者が、その場でソースコードを読んだこと

• 7月 … 企画部の責任者の「確認しないといけない」と、私の「脱獄ツール」

どれも、その場にいた人の経験と勘です。規程の何条に反する、という根拠は1つもありません。

同じことは、止める話ではない場面でも起きていました。8月7日のワーキンググループで、制作のメンバーが、Webサイトの画像をまとめてClaudeに軽くしてもらった事例を発表しました。1枚600KB台だった画像が、96KBまで減ったそうです。

すると企画部の責任者が、今のWebではJPEGやPNGより新しい形式が標準で、Photoshopがあれば一括で変換できる、AIより全然早い、と返しました。私はその場を「検討させていただきます」でまとめています。

どちらが正しいかの話ではありません。何をAIでやってよくて、何を正式な道具でやるべきか。その線が社内にないので、その場にいた一番詳しい人の経験が、そのまま結論になっていました。

その後：ツールは使われていない。定義は進まず、「基本NG」だけが残った

9月の今、2つのツールはどちらも使われていません。

パワポ生成ツールは、お客様に出せないまま止まりました。CSV出力ツールは、「権限の定義が整理され次第、再検討」のまま、再検討の日は来ていません。

情報をどこまで誰が見て、何をダウンロードしてよいかという社内の定義は、結局進んでいません。

そのかわり、方針が1つだけ決まりました。自社のプロダクトに関わるものは、開発として正式に入れていく。プロダクトに組み込むような自作ツールは、基本NGです。

これで、少なくとも「作ってから止められる」ことは減ると思います。でも、「開発に言うのも遠慮しちゃう」と言った人にとっては、作る道が1つ閉じただけかもしれません。

なぜ、善意のツールが生まれて、止まったのか

いま考えていることを、1段だけ書きます。

現場に足りなかったのは「頼む先」で、止める側に足りなかったのは「止める根拠」でした。両方がないと、善意は野良ツールになります。

作る側は、お客様が困っているのを見ています。正式に頼む先はあるけれど、気軽には頼めない。手元にはAIがあって、作れてしまう。だから作ります。

止める側は、危なさは感じています。でも、何がだめかを書いたルールがない。だから、経験と勘で止めます。

その結果、作った人は「悪いことした気分」になり、止めた人は根拠のない一言を言い、ツールはお蔵入りになる。誰も悪いことをしていないのに、誰も得をしていません。

ここで一つ、反対側の見方も置いておきます

ここまで「根拠がないまま止めた」と反省する流れで書いてきましたが、止めたこと自体は正しかった、という見方もあります。

6月のパワポ生成ツールは、実際に外部のサーバーと通信していました。お客様のデータがどこへ行くか分からない道具を、お客様に渡すわけにはいきません。ルールがあろうとなかろうと、あそこで止めたのは正しかったと思います。

むしろ、社内に詳しい人がいて、その場でソースコードを読めたから止められた、とも言えます。ルールが整うのを待っていたら、先にお客様に出ていたかもしれません。

ただ、それは「たまたま詳しい人がその会議にいた」から止まった、ということでもあります。次に同じことが起きたとき、その人がいるとは限りません。

止める前に、私が確かめている3つの問い

定義はまだありません。なので今は、自作のAIツールを見つけたとき、止める前にこの3つだけ確かめるようにしています。3回の待ったから、私が勝手に抜き出したものです。

• 外に送っていないか … そのツールは、社外のサーバーと通信していないか。6月のツールは、ここで止まりました

• 誰に渡すか … 社内の自分の作業で使うのか、お客様に渡すのか。お客様に渡すなら、必ず開発に見てもらう

• 自社の製品と重ならないか … プロダクトに組み込むような機能なら、自作ではなく正式な開発に回す

どれにも当てはまらないなら、止めずに、むしろ横に広げる方法を考えます。

そして、作った人には、止める前に「なぜ作ったか」を聞くことにしました。7月にそれを先に聞いていれば、「開発に言うのも遠慮しちゃう」は、止める理由ではなく、直すべき課題として受け取れたはずです。

まとめ：さて、あなたの会社では、何を根拠に止めていますか？

3行にまとめます。

3月から7月にかけて、社内で生まれた善意のAIツールに、3回待ったをかけました。

3回とも、止める根拠になる社内のルールはなく、止めたのはその場にいた人の経験と勘でした。

ツールは使われなくなり、定義は進まず、「プロダクトに関わる自作ツールは基本NG」だけが残りました。

生成AIで、現場の人がツールを作れるようになったこと自体は、うれしい変化です。問題は、作れるようになった速さに、社内のルールと頼み先が追いついていないことでした。

皆さんの会社で、現場の人がAIで何かを作ってきたとき、何を根拠に「待った」をかけていますか。

あとがき

この記事を書くために、7月17日の文字起こしを読み返しました。「脱獄ツールをよく作るね」と言ったあと、本人の「悪いことした気分で今いっぱいなんですけど」までは、ほんの数秒です。

会議の場では、笑いが起きた記憶があります。でも文字にすると、笑える話ではありませんでした。

お客様のために動いた人に、根拠のない言葉で「悪いことをした」と思わせた。推進役として一番やってはいけないことを、私は冗談の形でやっていました。

止めるなら、根拠を持ってから。根拠がないなら、先に「なぜ作ったか」を聞く。今はそう決めています。

あわせて読みたい

同じように社内でAI活用を推進している方の話が、一番参考になります。 「うちはこうだった」があれば、ぜひコメントで教えてください。

この連載では、横浜の中小企業でAI活用を進めるなかで、 うまくいったことも、うまくいかなかったことも、そのまま書いています。 よかったらフォローして、次回も読んでいただけると嬉しいです。