ニュース

Jul 07, 2023

チームメイトが機械の場合: CISO が AI について尋ねるべき 8 つの質問

AI の必然性により、多くのサイバーセキュリティ リーダーは AI が敵か味方かの判断を迫られています。 チームメイトとして扱うことが究極の解決策かもしれないが、CISO には多くの鋭い質問がある

AI の必然性により、多くのサイバーセキュリティ リーダーは AI が敵か味方かの判断を迫られています。 チームメイトとして扱うことが究極の解決策かもしれませんが、CISO が尋ねるべき鋭い質問が数多くあります。

人工知能は私たちのあらゆることのやり方を変えています。私たちがどこに行っても、以前は人間が行っていたタスクを機械が実行するようになりました。 これらの AI を活用したインスタンスは、自動運転車から顧客サービス ボットまで、人間が現場に立つ前にナビゲートする必要があるあらゆる範囲を実行します。 サイバーセキュリティにおいて、AI は急速に敵対者の味方であると同時に戦力の増大にもなりました。 好むと好まざるにかかわらず、マシンをチームメイトとして見ることは、CISO が受け入れることを学ばなければならない現実となっていますが、AI の相棒を引き受ける前に、多くの質問をする必要があります。

この概念は新しいものではありません。 2019年、65人の共同研究者からなる国際チームは、「共同研究者の適格な意見に基づいて、共同研究者が設計されたマシンチームメイトの予想される効果を調査するために使用できる研究課題を提供する」ことを目的として、このテーマに関する819の研究質問を作成した。 疑いもなく、共同科学者チームから発展した研究ポイントの一部は、米国国防総省の責任ある AI 原則とガイダンスに取り入れられました。このガイドラインでは、AI が使用を許可される前に満たさなければならない 5 つのデータ ポイントが記録されています。追跡可能、信頼性が高く、管理可能です。

行動中のチームメイトとしての AI の概念を思い描くには、自律僚機として機能する戦闘ドローンと F-35 多用途戦闘機を組み合わせることで F-35 多用途戦闘機の有効性を高めるという米空軍の計画を見るだけで十分です。 AI で強化されたドローンと連携することで、航空機は人間の能力を超えた速度で情報を収集できます。 元CIA職員で小説家のJRシーガー氏によると、これにより「監視、方向転換、決定、行動（OODA）ループをスピードと機敏に実行することができ、その結果、リアルタイム情報の受信者がより賢明になる」という。 。

StrikeReady CEO の Anurag Gurtu 氏は、AI は効果的に自動化プロセスの拡張となり、大幅に拡大された情報の幅と範囲を明らかにし、複雑さをますます高速に評価できるようになると述べています。 「AI は、CISO が生産性を向上させ、熟練したアナリストの能力を増強し、作業負荷の一部を軽減し、従業員を維持したいと考えているときに最も効果を発揮します」と Gurtu 氏は言います。

私たちは「ペダルを踏んでいるだけでブレーキがかかっていない」ように感じることが多いかもしれませんが、Gurtu 氏は次のように述べています。「AI は、プロセスを高速で実行する能力を支援し、検出作業を強化し、標的にされたり攻撃されたりする事象の確率を分析する人。」

以前は、意思決定ツリーとルールベースのモデルにより、脅威と脆弱性の検出はかなり手間のかかるプロセスになっていましたが、「AI を使用すると、異種のデータセットを取り込み、アナリストの『説明可能性』を向上させることができます」と Gurtu 氏は述べ、ローカルの解釈可能なモデルを付け加えました。不可知論的説明 (LIME) と SHAP (Shapley Additive exPlanations) はどちらも説明可能性の作業に役立ちます。

「生成 AI を組み込むエンティティがますます増えており、『幻覚』の増加に備えなければなりません。その増加に伴い、大規模な幻覚が出現します」とグルトゥ氏は言います。 生成 AI の結果における幻覚を回避する手段は、グラフ AI 言語モデルの使用である、と彼は言います。

この点を説明するには、AIチャットボットの助けを借りて書かれた法廷に提出された最近の弁護士の準備書面を見ればわかるが、その内容は、実際の事例が見つからなかったにもかかわらず、存在しない判例法を「幻覚」させたものだった。 その結果、裁判官は、AIを使用して作成された準備書面はすべて人間によって識別され検証されるようにするという恒久的な命令を出した。 「グラフ手法を利用することで、AI はユーザーにコンテキストを理解するための非常に優れた能力を与えます」と Gurtu 氏は言います。 「それがなければ、前述したように、[結果は]大規模な幻覚です。」