AI初学者に知ってほしい「バイブコーディング」の恐ろしさ

非エンジニアの僕は、希望していたAI関連の部署に配属された。

正直、わくわくしていた。Claude Codeを使えば、コードを書けない自分でも、何か作れるはずだと思っていた。

いわゆるバイブコーディングだ。
（コードを自分で書かず、AIと日本語で会話しながら“ノリ”で開発を進めるやり方）

だから僕は、上司に聞いてみた。

🐈「Claude Code、いつから使っていいですか？」

返ってきたのは、こんな言葉だった。

🧑‍💼「セキュリティの知識がない人には、Claude Code の権限を与えない」

正直、最初は少し残念だった。

しかし、AIについて調べていくうちに、その一言の意味が分かってきた。
あれは意地悪ではなく、僕を守るための線引きだったのだ。

この記事で伝えたいのは、バイブコーディングをやめよう、という話ではない。便利なのは間違いない。

伝えたいのは、怖さを知ったうえで、「分ける・残す・防ぐ」で小さく使おう、ということだ。

バイブコーディングは、AI初学者にとって夢がある

エンジニアでなくても「作る側」に回れる。
これは、少し前まで考えられなかったことだと思う。

プログラミングの知識がなくても、日本語で指示すれば、コードやアプリ、自動化ツールが形になる。

ただ、便利さの裏側には、ひとつの穴がある。

それは、自分が何を実行しているのか分からないまま、先に進めてしまうことだ。

本当に怖いのは、AIではなく人間のミス

意外かもしれないが、一番怖いのはAIのミスではない。

怖いのは、人間が意味を分からないまま、AIの提案をそのまま実行してしまうことだ。

身近な例を挙げる。AIエージェントを使っていると、こんな内容の確認が何度も出てくる。（しかも英語で）

「この操作を許可しますか？ yes / no」
「このコマンドを実行していいですか？ yes / no」

毎回聞かれると、だんだん面倒になる。
それで、中身を読まずに、つい「yes」を押してしまう。

でも、この何気ない「yes」が、一番危ない。

その一回が、ファイルをまるごと消す命令かもしれない。
情報を外に送る命令かもしれない。
意味が分からないまま「yes」を押すのは、中身を読まずに契約書にサインするようなものだ。

意味が分からないときの正解は、「yes」ではなく「no」だ。
面倒でも一度立ち止まって、「これは何をするの？」と聞く必要がある。

このように、怖いのはAIが勝手に行うミスではなく、人為的なミスなのだ。

人為的なミスが情報流出につながった実例を挙げる。

2026年3月、Claude Codeを作っているAnthropic社（クロードの開発元）が、うっかりミスでClaude Code自身のソースコード（プログラムの設計図）を、誰でも見られる場所に公開してしまった。

攻撃されたわけではない。
ただの人間の操作ミスだ。

それを、ある会社のインターンがX（旧Twitter）に投稿した。（これも大問題だ）
すると数時間で世界中に広がり、4万回以上コピーされた。
Anthropicはすぐ公開を取り消したが、一度ネットに出たものは、もう消せなかった。

世界トップクラスのAI企業ですら、たった一つの不注意でこうなる。知識のない僕らがAIの言うまま操作することが、どれだけ危ういか。少し想像がつくと思う。

ここから、起こりうる事故について説明していく。

事故1：大事なデータを消してしまう

AIエージェントは、ファイルを作るだけでなく、消すこともできる。

たとえばパソコンには、「指定した場所をまるごと削除する」ような強い命令がある。AIがそれを、よかれと思って実行してしまうことがある。

さらに、GoogleドライブやNotionのような外部サービスの「鍵」をAIに渡していると、被害はもっと広がる。AIが勘違いして、クラウド上の大事なデータまで消してしまうことがある。

バックアップや変更履歴がないと、これは「戻せない事故」になる。

事故2：APIキーやパスワードを、外に出してしまう

「APIキー」とは、外部サービスを使うための合鍵のようなものだ。
これを持っていると、そのサービスを操作できる。

ここで知っておきたいことがある。

世の中には、便利そうな顔をした「悪意あるパッケージ（プログラムの部品。便利な機能をまとめて配っているもの）」が、毎日大量に公開されている。

AIが「これを入れれば実現できます」と、その部品を提案することがある。中身が危険でも、AIは人気のものと勘違いして勧めてしまう。

それをそのまま入れると、どうなるか。

パソコンの中に保存されている合鍵やパスワードが、こっそり外部に送られてしまうことがある。

AI初学者には、「今、何が外に送信されたのか」が見えにくい。ここが怖いところだ。

事故3：自分のパソコンが、攻撃の踏み台になる

悪意あるものに感染すると、自分のパソコンが「攻撃する側」に変わってしまうことがある。

感染した端末は、知らないうちに他者への攻撃や、社内ネットワークへの侵入の起点として使われる。

こうして乗っ取られた端末は、1台だけで終わらない。世界中の感染端末が、攻撃者にこっそり束ねられ、一斉に操られるネットワークに組み込まれることがある。

これを「ボットネット（botnet）」と呼ぶ。

攻撃者は手元のボットネットに命令を出すだけで、何万台ものパソコンを使って、特定のサイトを攻撃したり、迷惑メールをばらまいたりできる。

つまり、自分が寝ている間に、自分のパソコンが「兵隊の一台」として加害者になってしまう。

個人の趣味の開発でも、会社のパソコンや会社の情報と混ざると、被害は一気に大きくなる。「自分だけの問題」では済まなくなる。

対策は「分ける・残す・防ぐ」の三段で考える

ここまで読むと、怖くなったかもしれない。

でも、対策はシンプルだ。全部を完璧にやる必要はない。

「分ける → 残す → 防ぐ」
まずはこの3つの順で考えてほしい。

これはAI時代のセキュリティの基本の型で、AI初学者でも今日から始められる。

① 分ける（AIに渡す「部屋」を、できるだけ狭くする）

最初にやるべきは、AIを疑うことではなく、環境と権限を分けることだ。

• 普段使うパソコンや、仕事のデータ、個人情報がある場所。そことは別に、AIに触らせる作業場を用意する。

• 大事なファイルが入っているフォルダで、いきなりAIエージェントを動かさない。

• AIに渡す権限は、必要な分だけにする。「全部できる」ではなく、「この一区画だけ読める」くらいに絞る。

• APIキーを渡すときも、用途を限定したものにする。管理者の鍵をそのまま渡さない。

この「作業に必要な最低限の権限だけを渡す」という考え方を、「最小権限の原則」と呼ぶ。セキュリティの基本中の基本だ。

冒頭で上司が「セキュリティの知識がない人にはClaude Codeの権限を与えない」と言ったのも、まさにこの最小権限の原則だった。あのときは少し残念だったが、今はその意味が分かる。

言いかえると、AIに渡す「部屋」を、できるだけ狭くしておくということだ。

部屋を狭くしておけば、もしAIが暴れても、被害はその部屋の中で止まる。

余裕が出てきたら、AI専用の作業環境（別のフォルダや別のアカウント、人によっては専用のパソコン）を用意する考え方もある。最初はフォルダを分けるだけでも十分だ。

② 残す（やり直せるように、足あとを残しておく）

次は、何をしたかを後から追えるようにすることだ。

• AIが実行した命令、編集したファイル、入れた部品を、記録に残す。

• バージョン管理（Git＝ファイルの変更履歴を記録して、前の状態に戻せるようにする仕組み）や、変更履歴、バックアップを用意しておく。

これだけで、事故が起きたときに「何が起きたのか」「どこまで戻せるのか」が分かる。

ログがない状態で何かを消されると、「何を失ったのか」すら分からない。これが一番つらい。

逆に、足あとさえ残っていれば、たいていはやり直せる。

会社で使う場合は、操作ログの記録や、不審な動きを監視する仕組み（EDRと呼ばれる）まで広がる。ただ個人で始めるなら、まずは「履歴」と「バックアップ」で十分だ。

③ 防ぐ（怪しいものを、最初から入れない）

最後は、危ないものを手元に入れない工夫だ。

• 出所の分からない部品、拡張機能、スキル（AIに新しい機能を足す追加プログラム）は入れない。

• AIが勧めてきたものでも、公式かどうか、使われている実績があるか、どんな権限を求めるかを確認する。

• 意味の分からない命令は、実行する前に、AI自身に「これは何をする命令？危険はない？」と説明させる。

ここで思い出してほしいことがある。

AIは、とても有能だけれど、信じられないほど素直で騙されやすい。

実は、AIに与える指示や拡張機能そのものが、悪意ある誰かに仕込まれていることがある。AIはそれを疑わずに実行してしまう。

こうした手口を「プロンプトインジェクション」と呼ぶ。AIへの指示文に、こっそり悪い命令を紛れ込ませる攻撃のことだ。

だからこそ、入れる前に一度立ち止まって確かめる。この一手間が、自分を守ってくれる。

慣れてきたら、コードの中身をAIにチェックさせたり、安全性を確認するサービスを通したりするのもいい。最初は「立ち止まって確かめる」だけで大丈夫だ。

まとめ：やめる必要はない。でも、全権委任はしない

バイブコーディングは、AI初学者にとって強い味方だ。

AIに作らせること自体は、まったく悪くない。

ただ、何も分からないまま、全部の権限を渡して走らせるのは怖い。

だから、非エンジニアのAI初学者の方々は、小さい範囲・低い権限・戻せる環境で試すのがいいと思う。

会社のパソコンや会社の情報が絡むときは、自己判断せず、社内の詳しい人に一度見てもらう。これも立派な対策だ。

僕自身、まだ学んでいる途中だ。

完璧にやろうとしなくていい。「分ける・残す・防ぐ」のうち、今日できることを1つだけ選んでみてほしい。

• 分ける：AIに触らせる作業フォルダを1つに限定する。

• 残す：バックアップを取ってから試す。

• 防ぐ：出所の分からない部品を入れない。意味の分からない命令は、実行前にAIに説明させる。

どれか1つでいい。その1つが、未来の大事故を1つ防いでくれる。

もっと知りたい人へ（参考）

この記事は、あくまで入り口だ。もっと知りたい人は、動画もあわせて見てほしい。

▼AI初学者で興味がある人は、まず基本的な内容のこちらから

▼もう少し専門的な内容まで踏み込みたい人は、こちら

おまけ：徳丸本で、セキュリティを学んでいく

最後に、今後のことを少し書きたい。

セキュリティには、「安全なWebアプリケーションの作り方 第2版」（通称・徳丸本）という定番の一冊がある。Webの安全を学ぶエンジニアの間で、長く読み継がれてきた本だ。

※このリンクはAmazonアソシエイトリンクです。こちらからご購入いただくことで発生した収益は、AIツール代などチャオラボの活動を続けるための費用に充てさせていただきます。これからもAI初学者の方に役立つ記事を書いていきたいので、応援していただける方はご利用いただけると嬉しいです🐈

▼徳丸本を紹介している動画

僕はエンジニアを目指し、この本で勉強を進めていくつもりだ。

そして、学んだ内容を、Claude Codeに興味がある非エンジニアのAI初学者にも分かるように、かみ砕いて解説していきたい。

難しいことを、できるだけやさしく。僕自身が学びながら、等身大で残していく。

よかったら、フォローして一緒に学んでいけたらうれしい🌱

▼人気記事

▼おすすめ記事

読んでいただきありがとうございました🌱
AI関連の最新情報や、次の記事の内容は
X（@chaolabs_AI）で発信しています🐈