Skip to content

AIが「存在しないライブラリ」を勧めてくる問題と、その危険

2 min read

AIにコードを書いてもらうと、「このライブラリを入れてください」と、インストールの命令まで教えてくれます。便利ですが、その名前が本当に存在するかは、確かめたことがあるでしょうか。

AIは存在しない名前を作ってしまう

生成AIは、それらしい文章を作るのが得意な反面、事実でないことももっともらしく書いてしまうことがあります(ハルシネーション)。パッケージ名も例外ではなく、実在しそうだけれど実在しない名前を書いてしまうことが、研究でも報告されています。

スロップスクワッティングとは

攻撃者は、AIがよく作ってしまう「存在しない名前」を調べ、その名前で悪意のあるパッケージを公開しておきます。AIの言うとおりにインストールした人のパソコンやサーバーに、危険なコードが入り込む、という仕組みです。

入力ミスを狙う「タイポスクワッティング」になぞらえ、AIが生み出すいいかげんな出力(slop)を狙うことから、スロップスクワッティングと呼ばれています。

なぜ危ないのか

  • インストールの時点で、勝手に処理が動くパッケージもある
  • APIキーやパスワードなど、手元の秘密の情報が盗まれるおそれがある
  • 自分のサービスを使う人にまで、被害が広がるおそれがある

対策

  1. 公式のページで確かめる:npmやPyPIなどの公式サイトで、その名前のページがあるか、どのくらい使われているか、更新が続いているかを確かめます。
  2. 公開日とダウンロード数を見る:最近公開されたばかりで、ほとんど使われていないものは注意します。
  3. 公式のドキュメントから名前をコピーする:AIが書いた名前をそのまま使わず、ライブラリの公式サイトに書いてある名前を使います。
  4. 依存関係を固定する:ロックファイルを使い、勝手にバージョンが変わらないようにします。
  5. 本当に必要か考える:数行で書ける処理のために、新しいパッケージを入れていないか見直します。

まとめ

AIの答えは、とくに「インストールして」と言われたときこそ、ひと呼吸おいて確かめましょう。名前を確かめる1分が、大きな被害を防ぎます。

Keep reading

Related stories

Translated automatically