01. 概要

2022年5月アメリアのサンフランシスコから開催されたRSAカンファレンスからBruce Schneierハーバード大学の教授はこれから起こるサイバーパンデミック攻撃の中心に人工知能があると展望した。
彼は「AIがハッキングを始まるとまるで宇宙人みたいに行動するだろう。既に少しずつ現実化されている。AIテキスト生成ボットはもう人間談論を圧倒する。」と展望した。特に「AI能力が向上してAIがより重要な決定に関与している。これは当該システムに対する攻撃でより大きな被害を与えることができる。」と言いながら、AIを活用した攻撃の危険性を警告した。
もうこの時点でSchneier教授はchatGPTのような生成型AIの人気を予測していたのだろうか。その後、１年が経った2023年03月OpenAI CEOであるSam AltmanはABCとのインタビューで「 ChatGPT のような人工知能コンピューターがサイバー攻撃に悪用される可能性がある。」と明らかにした。

【▲ Bruce Schneier(Havard Kennedy School Lecturer), Sam Altmans(OpenAI CEO), 参考：RSAC2022, CNBC】

02.情報セキュリティ分野の人工知能氷河時代：信頼性と透明性に足止めされる

1956年人工知能の概念成立から2021年WatsonのJeopardy!ショーの優勝、2016年AlphaGoの囲碁の優勝、そして2023年にはchatGPTではないかと思う。一つの概念が完成され、これを実用化、サービス化に成功させることは簡単な道ではない。

現在、情報セキュリティ分野で人工知能は多様に適用されてきた。マルウェアを検知するマルウェア検知、セキュリティイベントに対する正検知・誤検知を識別してくれるセキュリティ監視、MITRE ATT&CKとマシンラーニングで攻撃に対する戦術及び段階を予測してくれる予防(Accurate prevention)などがMLとデータサイエンス方法を適用する脅威ハンティングとフォレンジック分野で使用されている。もう全ての分野に人工知能の内在化を語らなければならないぐらいである。
しかし、このような人工知能は現場から信頼性と言う壁にぶつかってしまう。人工知能からいう予測結果に対してセキュリティ専門家は信頼していなかった。これを補うために自動化という名前でセキュリティオーケストレーション及び自動化対応(SOAR)市場が増加し、これはSIEM-AI-SOARと言う構成関係を作り出した。収集を担当するSIEM、分析を担当するML,対応を担当するSOARで表現し、セキュリティ分野の担当者が語っている人工知能の完成はSIEM-ML-SOARのことではないかと思う。ただそれぞれの製品の領域があって、これを連携するひとつの調和されたパッケージがセキュリティ監視分野から望んでいる人工知能だと思う。

それではセキュリティ監視分野の観点からもっと確認してみよう。現在までセキュリティ分野からは2つの人工知能モデルがお互い足りない部分を満たしながら適用されてきた。
一つ目は伝統的なモデルの一つである分類/予測基盤のモデルの適用だった。当該モデルの目標は既存のセキュリティ専門家が主に行ってきたセキュリティイベントに対する攻撃有無を判断したり、攻撃タイプを分類することである。SIEMや単位セキュリティ機器から発生する攻撃イベントを収集して攻撃の有無や攻撃タイプにラベルされたデータをマシンラーニングで学習させてセキュリティ専門家の代わりに攻撃の有無と攻撃タイプを分類する。うまく結果を出せるためにはうまくラベル化されたデータの構築が必要である。このとき使用されるデータはセキュリティ専門家が確認するSIEMやIDS/IPS, WAFのようなセキュリティ機器のイベント及びペイロードである。しかし、このようなモデルはブラックボックス基盤であるため、専門家が予測した結果を簡単に理解したり、説明ができないデメリットがある。
二つ目は予測された結果に対する説明ができるAI(SHAP, LIMEなど)の適用である。
これは一つ目の分類/予測モデルのデメリットを克服するために適用するモデルである。このとき使用する方法は統計的な方法を適用したり、SHAP, LIMEなど説明できるアルゴリズムを使用する。
この方法で人工知能から予測された結果はグラフなどで数値化されて説明ができる。

03. chatGPT既存の方法を破る

このように人工知能の限界を認識してXAI, Trust AIなどで信頼性と透明性を強化している間、2022年11月30日chatGPTが登場した。そして2023年3月14日にはGPT-4が公開された。chatGPTは最初から強烈だった。5日間で100万ユーザーを突破し、2か月で1億月間活性使用者(MAU)を確保した。どの点がchatGPTを人気にさせたか。筆者はこれを3月16日Satya NadellaマイクロソフトCEOのスピーチからある程度推測できる。「我々はオートパイロット(Autopilot)からコパイロット(Copilot)に移動している。」つまり、我々が人工知能に望んでいるのは人間がある程度コントロールできるコパイロットの形でchatGPTはこのような要求事項を理解して適用している事実に注目する必要がある。

【▲ 100万ユーザー達成にかかった時間 (参考：Statista)】

生成型AIは人間が説明したようにマシンラーニングから予測した結果を数字ではなく、文字で説明してくれる。これは既存の分類/予測モデル、説明可能なAIからは不足していたセキュリティ専門官と人工知能の壁を崩した。
前述したように既存の二つのモデルが使用している環境から生成されたデータを基盤としたら、生成型AIは外部のデータつまり大容量の言語データを基盤として生成されたモデルといえる。従って、生成型ＡＩの適用はローカルのデータに外部のデータを学習してセキュリティを強化することになる。これはまるでセキュリティ分野からのデータ活用が既存のローカルから収集されるデータ(SIEM)に外部の脅威インテリジェンス(CTI)データを連携してセキュリティを強化するモデルと類似していることである。このように情報セキュリティ分野からchatGPTのような生成型AIは人工知能適用に変化を持ってくると考えられる。
初期にはchatGPTのような単一AIに対するAPIやWebインターフェースの形で適用されるだろう。しかし、近いうちに多様なGPTモデルが登場し、セキュリティ担当者は多様なGPTモデルの中で一つを選んだり、多様なGPTモデルを並列に適用できると思う。
そして次は内部からGPTモデルを自ら作って使用するだろう。これはセキュリティの特徴で外部のGPTモデルを使用することが難しい環境に適用されるだろう。特に、セキュリティはプライベートで構成される場合が多いため、セキュリティに最適化されたGPTモデルが作られると思う。

04.chatGPTを適用する際の注意事項

このようにGPTモデルを適用する際に注意事項もある。
一つ目は、GPTモデルは生成型AIであるため、間違った回答をする可能性がある。また、chatGPTは2021年09月までのデータを学習したため、さらにその可能性は高い。そして最新データまで学習したとしても間違った結果を出せる可能性は十分にある。これがもしかしたら検索エンジンとの一番の違いかもしれない。GPTは文章をうまく書けるAIであってそれが100％事実とは言えない。
二つ目は生成型AIを使用するためにはデータをを送信する必要があり、セキュリティデータをそのまま送信してしまうと悪用される可能性がある。そのため、生成型AIに送信するデータは非識別化処理をしてから生成する必要がある。
三つ目はうまく作成された質問が必要である。生成型AIモデルから結果(アウトプット)を生成するためには質問(インプット)が必要である。このように高品質の結果を得るためには高品質の質問が必要である。

05.chatGPTのような生成型AIはセキュリティ分野人工知能のゲームチェンジャーになれるのか？

「ゲームチェンジャー(Game Changer)」はある分野からいきなり戦略を変えてゲームの規則を変えたり、市場を大きく変化させる人もしくは技術を意味する。つまり、ゲームチェンジャーは今までの状況とは違って新たな方法で仕事を処理したり、新たなアイデアで新分野を作る役割をする。

まだ断言することは難しいが、生成型AIは人と人工知能の間を埋められると思う。そしてその方法をMSが先に人工知能を触ってコントロールできることをみせながら市場を主導している。しかし、生成型AIはユーザーの特定要求に従って結果を生成する人工知能である。セキュリティ分野のように正確性と信頼性が要求される分野には適切しないという異見もある。しかし、人工知能を適用することはただ一つのモデルだけ適用するのではない。セキュリティ監視プロセスは多様な詳細業務で構成されている。このようなプロセスを完成するためには既存の正確性を基盤とした分類/予測モデルと人工知能結果をセキュリティ専門家に明確に説明するための説明型AI、そして非専門家中心の人工知能結果を説明するための生成型AIの活用ができるのではないかと思う。そしてこの風がただすれ違う風ではなくセキュリティ分野を変える新たなゲームチェンジャーになることを願う。