9月18日（米国時間）、米紙の報道をきっかけに、GoogleのAI「Gemini」が今年5月の安全性テスト中に実在する企業3社のシステムへ入り込んでいたことをGoogleが認めた、と各社が報じています。AIが「テスト環境の外」に出て本物の会社に触れた、初めて公になった事例とされています。
何が起きたのか
テストを行ったのはAIの安全性を検証する専門会社です。架空の会社を標的に「どこまで入り込めるか」を試す演習でしたが、架空の社名が実在企業と同じだったうえ、テスト環境が本来遮断されているはずのインターネットにつながる設定ミスがあった、と説明されています。
1社には、パスワードを繰り返し試して入りました。残る2社には、ネット上で検索している途中に、公開された場所に置かれていたログイン情報を見つけ、それをそのまま使って入りました。
Googleは「本物の会社だと気づいた時点でAIが自ら作業を止めた」「被害はなく、3社には通知した」と説明しています。一方で、7月末に把握しながら報道まで公表しなかった点を問う声も出ています。
新潟の現場にとって何を意味するか
安心できる面は、止まるべきところでAIが止まったことです。
見過ごせないのは、同じ手順を悪意のある側がAIにやらせたら、止まる理由がないことです。しかも今回の入り方は高度な技ではありません。「会社名＋西暦」のようなパスワード、共有リンク付きの表に書かれたID、マニュアルPDFの中のログイン情報。人の手で探すと割に合わない作業も、AIなら疲れず何百件でも試せます。
道の駅の予約システム、ネットショップの管理画面、公式SNS。「うちは狙われない」という前提は、狙う側の手間がAIで消えると崩れていきます。
見直すのは3点だけ
今回の入り方に直接効く3点に絞ります。
- 推測できるパスワードをやめる。 社名・電話番号・年号の組み合わせは真っ先に試されます。長い言葉の並びにして、使い回しをやめます。
- ログイン情報を「公開の場所」に置かない。 リンクを知っていれば誰でも開ける共有表、ホームページに置いたマニュアル、写真に写り込んだ付箋。書き出すなら閲覧者を限定した場所へ。
- 二段階認証を入れる。 スマホに届く確認がひとつ挟まるだけで、推測で入る手口はほぼ止まります。管理画面・SNS・メールの順に。
明日やれる一歩
管理画面のうち、止まると一番困るものを1つだけ選んでください。そのパスワードを長いものに変え、二段階認証をオンにする。所要は15分ほどです。
まず1つ、次の週にもう1つ。退職者のアカウント整理を扱った9月の記事と合わせて進めると、抜けが減ります。
AIの侵入と聞くと遠い話ですが、入り口は推測できるパスワードと置きっぱなしのログイン情報でした。小さな会社ほど今週のうちに手をつけやすい話です。
