AIスキル配布詐欺に注意せよ！
そのAIスキル、本当に安全ですか？ぼくが無警戒にZIPを入れていた話
「このスキル、めちゃくちゃ便利ですよ」
Xなどで紹介されたZIPファイルを、ぼくはほとんど疑わずにダウンロードしていました。
中身は読んでいません。
AIエージェントに渡して、「これを入れておいて」と頼むだけです。
先週まで、普通に何度もやりました。
でも先日、ふと思ったんです。
これ、誰が作ったものなんやろ？
もし中に危険なものが入っていたら、AIは止めてくれるんやろか。
気になり始めると、急に怖くなりました。
=====
最近、AIエージェント向けの「スキル」の配布や販売が一気に増えています。
動画を編集してくれるスキル。
案内地図を作成してくれるスキル。
マーケティングの相談に乗ってくれるスキル。
手順やノウハウをひとまとめにして、AIに読み込ませるだけで使えるようにしたものです。
便利です。
本当に便利！！
ぼく自身、かなり恩恵を受けています。
だからこそ今日は、「便利だから何も考えずに入れる」という状態は、そろそろ卒業したほうがいいかもしれないという話を書いてみました！
=====
ぼくは、これまで中身を読まずにAIへ渡していました
少し前に、MiniMax-H3という自宅のパソコンで動画生成ができる環境を作りました。
クラウドサービスを利用しなくても、ローカル環境でかなり高品質な動画を作れる仕組みです。
導入するときに、ぼくが何をしたか。
知り合いのYouTuberさんが紹介していたGitHubのページを開き、そのURLをAIエージェントに渡しました。
「ここを読んで、そのとおりに実装しておいて」
これだけです。
コードの中身は読みませんでした。
AIが作業を進めてくれたので、そのまま任せました。
結果としては問題なく動きました。
でも、あとから考えると怖いですよね。
ぼくは、自分のパソコンに何を入れて、何を実行しているのか、ほとんど把握していませんでした。
ほかにも、動画生成を高速化するコードをSNSで見つけ、そのまま導入したことがあります。
これも中身は確認していません。
全然知らない人が作ったものです。
「便利そうだから入れる」
「バズってるし、みんな使ってるみたいやから安全でしょう」
完全にこんな思考でノールックです。
=====
便利すぎるからこそ、怖いことがあります
気になったので、AIエージェントやGitHub、配布されているコードを悪用するケースについてChatGPTに調べてもらいました。
※ぼくとチャッピーとのやりとりはこちらです。
めちゃくちゃ勉強になるのでよかったら読んでみてください↓
https://chatgpt.com/share/6a7916a4-12bc-83ee-9338-38c208c25055
すると、「何も考えずに実行するのは危ない」という当たり前のことを、あらためて理解することになりました。
考えてみれば当然です。
いまのAIエージェントには、かなり強い権限を渡せます。
URLを読む。
ファイルをダウンロードする。
ソフトウェアをインストールする。
コマンドを実行する。
ファイルを書き換える。
人間がひとつずつ作業していたことを、AIがまとめて進めてくれます。
これは革命的に便利です。
でも、便利さと危険性は表裏一体です。
悪意のあるファイルや指示を渡した場合も、AIが忠実に作業してしまう可能性があります。
ここは、利用する側が意識しておく必要があります。
=====
ぼくが怖いと思った3つのパターン
特に怖いと思ったのは、次のようなケースです。
①追加のファイルを外部から取得させる。
最初に受け取ったプログラム自体には、大きな問題がないように見える。
でも、その中に「このファイルもダウンロードしてください」という処理が含まれている。
AIエージェントから見れば、必要な作業に見えるかもしれません。
人間なら違和感を持つ部分でも、AIは指示どおりに処理を進める可能性があります。
②最初は安全でも、あとから中身が変わる。
最初は普通に便利なツールとして公開する。
多くの人が利用し、SNSでも紹介され、「これは大丈夫そうだ」という空気ができる。
でも、その後の更新まで安全だとは限りません。
昨日問題がなかったものが、ずっと安全であり続ける保証はありません。
③ZIPや一発コマンドで、中身を見ずに実行する。
これは、ぼく自身が一番やりがちなパターンです。
「このZIPをダウンロードしてください」
「このコマンドを実行すればインストールできます」
AIエージェントに頼むだけ。
便利なんですよね。
数分で終わります。
でも、そのZIPの中に何があるのか。
そのコマンドが何をするのか。
まったく確認しないまま、自分のパソコンで動かす。
冷静に考えると、かなり無防備です。
=====
見るべきなのは、「誰が配っているか」
では、何を確認すればいいのか。
ぼく自身まだ勉強中ですが、まず意識したいのは「出どころ」です。
誰が配布しているのか。
その人は普段どんな発信をしているのか。
GitHubなら、誰が管理しているのか。
いつ頃から存在するのか。
どんな更新が行われているのか。
ほかの利用者から問題が報告されていないか。
「便利そう」という理由だけで判断せず、配布元まで見る。
まずはここからだと思います。
SNSでバズっているから安全。
有名な人が紹介しているから安全。
これは別の話です。
むしろ、多くの人が利用するものほど、攻撃する側から見れば狙う価値があります。
普段の発信を見ていて、活動実態も分かる人が公開しているものなら、まだ判断材料があります。
一方で、名前も知らないアカウントが突然配布し、SNSで大量に拡散されている。
そんなケースでは、いったん止まる習慣を持ちたいです。
詳しい方からすると、当たり前の話かもしれません。
でも、ぼくはできていませんでした。
=====
チェックを助けてくれるツールもあります
調べる中で、心強いツールを見つけました。
NVIDIAが無料で公開している「SkillSpector」というセキュリティスキャナーです。↓
https://github.com/nvidia/skillspector
AIエージェント向けのスキルを、導入する前に検査してくれるツールです。
ZIPファイル、フォルダ、GitHubのリポジトリを渡すと、中身を解析して、不審な処理が含まれていないかを68種類のパターンでチェックしてくれます。
勝手に外部からファイルを取ってくる処理。
情報を外に送り出す処理。
AIへの隠れた命令文。
そういうものを、実行する前に見つけてくれます。
GitHubのリポジトリは、URLを渡すだけで検査できます。
つまり、自分のパソコンに落とす前に調べられるということです。
NVIDIAの調査では、スキルの26.1％に脆弱性が、5.2％に悪意ある意図が見つかったそうです。
20本に1本です。
思っていたより、多くないですか。
ぼくもさっそく、自分の環境に入れてみました。
そして、外部からスキルを導入するときは、必ずこの検査を通してから入れる、というルールにしました。
もちろん、ツールを導入すれば100％安全になるわけではありません。
セキュリティに「これさえ入れれば絶対大丈夫」はないと思います。
それでも、何も確認せずに実行するよりは一段守りを固められます。
気になった方は導入してみてください！
=====
ウォレットが入ったPCなら、話は変わります
そして、ぼくの読者さんにはここを一番伝えたいです。
NFTや暗号資産を触る人は、特に気をつけたほうがいいです。
ブラウザにウォレットを入れている。
そこに大切なNFTや暗号資産がある。
その同じパソコンで、よく分からないAIスキルやコードを実行する。
この組み合わせは、怖いです。
しかも今は、エンジニアではない人でもAIの力を借りながらプログラムを動かせる時代です。
ぼくもその一人です。
以前なら、
「コードが読めないから触らない」
で終わりました。
今は違います。
コードが読めなくても、AIに頼めば動かせます。
便利になった一方で、「自分では理解していないものを実行する人」も一気に増えているはずです。
NFTや仮想通貨が盛り上がった時期にも、さまざまな詐欺が出てきました。
人が集まる場所には、それを狙う人も集まります。
AIエージェント周辺でも、同じ意識を持つ必要があると思います。
=====
困っているときほど、危ないものを入れやすい
もうひとつ、気をつけたいことがあります。
何かがうまく動かなくなったときです。
「分からないので教えてください」
SNSやコミュニティで助けを求める。
すると、親切そうな人が現れます。
「それなら、このツールを入れれば直りますよ」
困っていると、早く直したいですよね。
だから普段以上に、確認せずにファイルやコードを受け取りやすくなります。
助けを求める相手も選ぶ。
少し寂しい話ですが、これも必要な防御だと思います。
=====
AIを楽しみ続けるために、防御力も上げておく
ここまで怖い話を書きましたが、ぼくはAIを触るのが本当に楽しいです。
夜の自由時間も、ゲームやアニメではなくAIを触ることが増えました。
自分がこんなにハマるとは思いませんでした。
新しいことができるたびにワクワクします。
だから、AIを怖がって使うのをやめたいわけではありません。
逆です。
長く楽しみたいんです。
そのために、自分を守る知識も一緒に身につけたい。
便利なものを見つけた瞬間にインストールするのではなく、一度だけ立ち止まる。
「これは誰が作ったものだろう」
「どこから来たファイルだろう」
「本当にこのパソコンで実行して大丈夫だろうか」
これだけでも、ずいぶん違うと思います。
大切なものを失ってから気づくのでは遅いです。
自分だけでなく、周りの人の安全も守れる側でありたいです。
あなたが最近インストールしたスキルやツールは、誰が作ったものでしたか。
今日はひとつだけ、確認してみてください。
ぼくも勉強しながら、AI時代の安全な使い方を共有していきます。
それでは、素敵な一週間をお過ごしください。
＝＝＝＝＝
ぼくは、メルマガ「シャックの心が軽くなる週刊だより」を配信しています。
サメ野郎くんの制作の裏側や、心が少し軽くなる考え方、AIショートMVづくりで気づいたことなどをお届けしています。
よかったら、ぜひ登録して読んでみてください🦈