生成AIの悪用例は急増する

ブログ社会制度、インフラ、社会ライフ

とうとうこんな事件が起きたかと嘆息した関係者が多かったのではないでしょうか。

生成AIを悪用してコンピューターウイルスを作成したとして、警視庁は不正指令電磁的記録作成の疑いで、川崎市の無職、林琉輝容疑者(25)を逮捕しました。https://www.youtube.com/watch?v=GTs5V3oKfhc

そしてこの事件が警察関係者やIT業界に与えた衝撃はとんでもなく大きいものだと断言できます。ではこの事件の何がそれほど「インパクトがある」と云えるのでしょうか。

それはこの林容疑者が元工場作業員で、IT技術を専門的に学んだことがない「ただの素人」だったということです。そんな人間が複数の無料の生成AIに質問を繰り返すことで、実際にランサムウエア(身代金要求型ウイルス)を作ることができたという事実です。

林容疑者は「楽に金を稼ぎたかった。AIに聞けば何でもできると思った」などと容疑を認めているそうです。そしてこの男が作成したランサムウエアは、(警視庁の解析によると)データを暗号化し(そして破壊されて復元不可能になる)、暗号資産の送信先を表示させる機能が確認されたとのことです。つまりまともに機能するということです。

チャットGPTなど大手の生成AIは、犯罪に悪用できる情報の回答を拒否するようガードレール機能が設定されていますが、ネット上にはそうしたガードレールが不十分またはそもそも設定されていない生成AIも多く登場しています(中には犯罪用と暗示する生成AIすらあるそうです)。

林容疑者はそうした無料の生成AIを3つほど選んで、ウイルス作成の悪用目的を伏せて遠回しに質問を繰り返し、その回答を組み合わせて必要十分な設計情報を得ていた模様です。

普通、こうしたランサムウエアを一から作成するには、プログラミングの基礎知識がある人でも数か月かかると、専門家がコメントしています。ましてや素人だったらあまりに複雑過ぎて手に負えず、途中で断念するのが当たり前です。

でも生成AIに適切な質問を繰り返すことで、素人でも高度なランサムウエアを作成できることが証明されてしまったのです。

もちろん、適切な日本語で質問し理解する、そしてバラバラの回答をつなぎ合わせて全体として正しい設計情報に組み上げるという、それなりにまともな頭脳を林容疑者が持っていたことは間違いありません。だからバカでもできるとまでは言いません。でもまともな頭脳を持っていれば可能だということです。

「楽して(悪いことでもいいから)金を稼ぎたい」または本当に切羽詰まって「何でもいいからカネが欲しい!」と考えている人間がこの世にどれほどいるものか。そいつらのうち何割かは逮捕リスクをあまり怖がりません。

そして「俺でもできるんじゃないか」と考えてこのやり口を模倣する例が急増すること、これは間違いありません。そのうち何割かの連中は(倫理観には欠けても)「まともな頭脳」を持っているはずです。

ヘタをすると数万人の単位で、近々模倣犯が続出するかも知れません。これは警察関係者やIT業界に関わる人々には大いなる心配です。そして一般人にとっても大いなる脅威です。

警視庁は今回の事件がどうやって発覚し逮捕に結びついたのかは公表していません。それは模倣を企む悪党に「この部分に気をつけて避けなさい」と教えるようなものだからです。しかし本気で模倣しようと考える連中は色々な情報を調べることで、ある程度までは類推できてしまうはずです。だからこそ怖いのです。

間違いなく今後、こうした生成AIの悪用例は急増するでしょう。だからこそコンピュータやスマホのユーザーは、ランサムウエアがさらに一般化することを想定すべきです。たとえ知人からのメールを装っていても直ぐに開けずに、「これ怪しくないか?」とまず疑う癖をつけないといけない時代になったのです。