AIが「存在しないライブラリ」を勧めてくる問題と、その危険
AIにコードを書いてもらうと、「このライブラリを入れてください」と、インストールの命令まで教えてくれます。便利ですが、その名前が本当に存在するかは、確かめたことがあるでしょうか。
AIは存在しない名前を作ってしまう
生成AIは、それらしい文章を作るのが得意な反面、事実でないことももっともらしく書いてしまうことがあります(ハルシネーション)。パッケージ名も例外ではなく、実在しそうだけれど実在しない名前を書いてしまうことが、研究でも報告されています。
スロップスクワッティングとは
攻撃者は、AIがよく作ってしまう「存在しない名前」を調べ、その名前で悪意のあるパッケージを公開しておきます。AIの言うとおりにインストールした人のパソコンやサーバーに、危険なコードが入り込む、という仕組みです。
入力ミスを狙う「タイポスクワッティング」になぞらえ、AIが生み出すいいかげんな出力(slop)を狙うことから、スロップスクワッティングと呼ばれています。
なぜ危ないのか
- インストールの時点で、勝手に処理が動くパッケージもある
- APIキーやパスワードなど、手元の秘密の情報が盗まれるおそれがある
- 自分のサービスを使う人にまで、被害が広がるおそれがある
対策
- 公式のページで確かめる:npmやPyPIなどの公式サイトで、その名前のページがあるか、どのくらい使われているか、更新が続いているかを確かめます。
- 公開日とダウンロード数を見る:最近公開されたばかりで、ほとんど使われていないものは注意します。
- 公式のドキュメントから名前をコピーする:AIが書いた名前をそのまま使わず、ライブラリの公式サイトに書いてある名前を使います。
- 依存関係を固定する:ロックファイルを使い、勝手にバージョンが変わらないようにします。
- 本当に必要か考える:数行で書ける処理のために、新しいパッケージを入れていないか見直します。
まとめ
AIの答えは、とくに「インストールして」と言われたときこそ、ひと呼吸おいて確かめましょう。名前を確かめる1分が、大きな被害を防ぎます。
