投稿者: MyEix

  • AIが脆弱性を探して直す時代へ 企業のサイバー防御はどう変わるか

    AIが脆弱性を探して直す時代へ 企業のサイバー防御はどう変わるか

    AIがサイバー攻撃を助けるだけでなく、コンピューターの弱点を見つけ、攻撃方法を考え、修正まで進める段階に近づいています。

    OpenAIとGoogleは9月、こうした高度なAIを一般向けとは分け、防御側の企業や政府などへ提供する動きを相次いで発表、AIの性能向上とともに「誰に、どこまで使わせるか」が重要になってきています。

    AIは「弱点を教える」から「自分で探す」段階へ

    これまでAIをセキュリティに使う場合、専門家がAIにコードを見せ「この部分に問題はないか」「どう直せばいいか」と質問する形が主流だったのですが、ここ最近AIエージェントの能力が高まってきたことから事情が変わってきます。

    AIエージェントは、人間が一つひとつ指示しなくても、目的に向かって複数の作業を続けて実行するAIであり、「このシステムに弱点がないか調べる」と指示した場合、AIがコードを読み、問題になりそうな場所を探し、実際に試し、結果を確認し、別の方法を試すといった作業を連続して行ってくれます。

    9月1日、OpenAIは新モデルAstraについて、同社の基準で初めて「Critical」と呼ぶ高度なサイバー能力に達していて、OpenAIの評価では、既に知られている脆弱性から攻撃コードを作るテストで100%を記録。

    さらに2026年6〜8月に公開された高深刻度の脆弱性20件を使った社内評価では、評価中に2件の未知の脆弱性を発見し、攻撃に利用したのだそうです。

    これらについては、あくまでもOpenAI自身による評価であり、第三者が同じ結果を確認したわけではありませし、テストで100%だったからといって、現実のシステムへ100%侵入できるという意味でもありません。

    それでも重要なのは、AIの役割が変わり始めていることであり、AIは、人間に聞かれたことへ答えるだけでなく、自分で弱点を探して次の作業へ進む存在になりつつあります。

    攻撃AIが強くなるなら、防御側も「早く直す」必要がある

    AIが弱点を探す能力を高めれば、企業にとっては当然、心配事も増えることに。

    これまで脆弱性を見つけて攻撃するには、専門知識と時間が必要だったのですが、AIがその作業を短時間で進められるようになれば、攻撃側の作業も一段と速くなる可能性があります。

    そこで重要になるのが防御側のスピードで、弱点が見つかってから攻撃されるまでに時間があるなら、その間に修正すれば被害を防ぐことができますし、「攻撃されないようにする」だけでなく、「弱点を見つけたら、攻撃される前に直す」ことが重要になってきます。

    AIが脆弱性を見つけるだけでなく、修正まで担う段階へ

    Googleは9月3日、サイバーセキュリティ向けの「Gemini 3.8 Flash Cyber」を発表し、この特徴は、弱点を探すだけではなく、見つかった問題に対し、修正用のパッチを作ることにも重点が置かれいます。

    Googleによれば、20種類のプログラミング言語を対象とした社内評価で、脆弱性の検出成功率は70%を超え、またChromeでは、大規模な商用モデルと比較して2.6倍の正確なパッチを生成したとしています。

    これもGoogle自身による評価なので、すべての企業やシステムで同じ結果になるとは限りませんが、それでもその方向性は分かります。

    AIの競争が「どれだけ弱点を見つけられるか」から、「見つけた弱点をどれだけ早く安全に直せるか」へ広がっているのです。

    だから「強いAI」を誰にでも渡すわけではない

    普通のAIなら、多くの人が同じモデルを使っても大きな問題にならないのでしょうけど、AIがコンピューターの弱点を探し、攻撃方法まで考えられるようになると話は変わってきます。

    便利な能力である一方、悪用されれば危険になるわけで、そのためOpenAIは、Astraの高度なサイバー能力を一般利用と同じ条件では提供せず、利用範囲を限定しています。

    これは、Googleも同様で、Googleは「Fairwind Program」を開始し、政府機関、重要インフラ事業者、セキュリティ企業など、防御を目的とする組織へ高度なサイバーAIを優先的に提供していくそうで、Googleによれば、参加パートナーは650を超えているのだとか。

    ここからAIサービスの考え方が変わり始めていることが示されています。

    これまでは「高性能なAIを作り」「できるだけ多くの人に提供する」という考え方が基本となっていたのですが、これからの高度なサイバー能力については、「高性能なAIを作り」「誰が使うのか確認し」「目的に応じて使える能力を決める」という仕組みが必要になってきます。

    つまり、AIの性能だけでなく、AIへの「入場制限」も製品の一部になり始めたということです。

    企業にとっては「AIを使うか」より「何をさせるか」が重要に

    この変化は、セキュリティ専門家だけ話ではなく、企業がAIエージェントを仕事で使ううえでも、同じ問題が出てきます。

    例えば、社内の文章を検索するだけのAIなら、比較的リスクは小さいのでしょうけど、「社内システムを調べる」「プログラムを書き換える」「ファイルを削除する」「外部サービスを操作する」といった権限までAIに与えれば、できることは大きく増え、その分、AIが間違えたときの影響も大きくなってしまいます。

    そのため企業では、AIを導入すること自体よりも、AIにどこまで権限を与えるのかが重要になり、特に重要なシステムでは、AIが作った修正をそのまま反映させず、人間が確認してから実行する仕組みが必要になるでしょう。

    操作記録を残したり、問題が起きたときに元へ戻せるようにしたりすることも重要であり、これは「AIを信用するか、信用しないか」という話だけでなく、AIに任せる仕事が増えるほど、AIが間違えても被害を広げない仕組みが必要になるということです。

    私たちの生活では「AI」よりインフラの防御力が変わる

    一般の利用者が、Astraや高度なサイバーAIを直接使うことはないでしょうけど、それでも無関係とは言い切れません。

    私たちが日常的に使っている銀行、病院、自治体、水道、電力などのシステムも、サイバー攻撃の対象になりますし、もしAIによって古いプログラムの弱点を短時間で見つけられ、修正まで早くできるようになれば、こうしたサービスの防御力を高められていくはずです。

    「見つける」だけでは防御にならない

    今回のOpenAIとGoogleの動きで、サイバー防御の考え方は明確に変わり始めています。

    これまでAIによるセキュリティ対策では「人間より多くの脆弱性を見つけられるか」が大きなポイントでしたが、脆弱性を見つけるだけでは防御は完了しません。

    弱点が見つかれば、その情報をもとに攻撃される可能性があり、だからこそ重要になるのが、発見した弱点をどれだけ早く修正できるかということ。

    Googleが発表したGemini 3.8 Flash Cyberは、脆弱性を探すだけでなく、修正用のパッチ作成までAIに担わせており、OpenAIもAstraによる高度な脆弱性発見と、Daybreakを通じた防御側への提供を進めています。

    つまり、AIの役割は「弱点を教えるところ」で止まらず、弱点を見つけ、修正するところまで広がっているわけです。

    これから企業のサイバー防御で問われるのは、脆弱性が発見されてから修正が完了するまでの時間。

    人間が調査し、原因を確認し、修正方法を考え、コードを書き、テストしていた作業をAIが短縮できれば、攻撃者に与える時間を減らすことができます。

    逆に、AIが未知の脆弱性を発見できても、修正に時間がかかるなら、防御側の優位にはつながりません。

    サイバー攻撃では、「いつ攻撃されるか」を完全に予測することはできません。

    だからこそ、防御側がコントロールできるのは、弱点を見つけてから塞ぐまでの時間の短縮であり、AIによってこの時間を大幅に短縮できるなら、サイバー防御の仕組みそのものが変わっていくはずです。

  • AIエージェント時代、「AI利用料を管理する仕事」が生まれ始めた

    AIエージェント時代、「AI利用料を管理する仕事」が生まれ始めた

    AIで仕事を自動化する話をしていたはずなのに、企業のIT部門や財務部門が「AIにいくら使ったのか」を管理するための機能が相次いでいるようです。

    2026年8月、SalesforceはAI・APIのトラフィックとトークン消費を管理する「MuleSoft Omni Gateway」を日本市場で提供開始し、マネーフォワードも法人向けにAI利用コストと利用量を可視化する「マネーフォワード クラウドAIトークン管理」を始めました。

    IBMはAI関連支出とビジネス成果を結び付けて可視化する「IBM Apptio AI Value & ROI」を発表していますし、一社だけの提供であれば新しいサービスの登場として受け取れるのですが、複数社がほぼ同時期に「AIをどれだけ使ったか」「いくらかかったか」「その結果、何が得られたか」を管理する機能を打ち出していることは、今後の重要なファクターとなりつつあるようですね。

    AIを使って仕事を減らしたら、今度は「AIの利用料」を管理する必要が

    これまで企業がソフトウェアの予算を考えるとき、契約するサービスと利用者数、契約プランなどを基に決定することが多かったのですが、AIでは、利用するサービスによってトークンなどの消費量が費用に関係してくることになります。

    Salesforceの新しい仕組みは、AI・APIのトラフィックとトークン消費を追跡し、トークン制限やレート制限を適用しながらコストを可視化するもので、マネーフォワードもAIツールの利用量とコストをダッシュボードで把握し、AI関連支出を集約する仕組みを提供しています。

    つまり、AIを導入した後に「どのサービスを契約したか」だけでは十分ではなく、誰がどの程度使ったのか?そしてどんな処理に費用が発生したのかまでの利用実態が、管理する対象になってきています。

    これはAIエージェントの使い方が、従来のソフトウェア利用よりも変動しやすいことと関係してきています。

    AIエージェントの料金が難しいのは「使った量」が一定ではないこと

    AIエージェントは、決められた一つの操作をするだけとは限りませんし、仕事の途中で情報を取得したり、ツールを呼び出したり、処理を繰り返したりし、その結果、同じような仕事を頼んでも、実際に消費する計算資源が同じになるとわけではありません。

    この点は、Microsoft Researchの研究でもかなり具体的に表れていて、同研究はSWE-bench Verifiedを使い、8種類の最先端LLMによるエージェント型コーディングのトークン消費を分析したのですが、その結果、同じタスクでも実行ごとの総トークン数が最大30倍異なるケースがあったようですが、そのトークン消費量の多さが、そのまま高い精度につながるわけでもなかったのだとか。

    問題となるのは「AIをたくさん使ったから損をした」という単純な話ではなく、むしろ難しいのは、使った量だけでは、そのAI利用が高かったのか安かったのかを判断できないこと。

    たとえば、ある業務でAIの利用量が増えたとしても、その結果として人間が行っていた作業が大きく減ったなら、その支出には意味があるのですが、反対に、トークンを大量に消費しても成果がほとんど変わらなければ、利用方法を見直す必要があります。

    だから「AI利用料を減らす」という発想だけでは、管理の目的を取り違えやすい。

    「何円使ったか」から「何を得たか」へ

    この変化を象徴しているのがIBMの取り組みで、IBMが発表した「IBM Apptio AI Value & ROI」は、AIトークン利用コストを含むAI関連支出を、売上、コスト、スピード、生産性、リスクといったビジネス上の成果と結び付けて可視化し、2026年8月18日時点では、既存顧客向けにパブリック・プレビューとして提供され、一般提供は2026年第3四半期予定とされています。

    ここに、AIの管理が次の段階へ進もうとしていることが表れていて「AIに月いくら払ったか」だけなら、経費の管理範疇なのですが、そこへ「その費用で何が変わったか」が加わってくると、AI投資そのものの評価となり、判断が難しくなってくる。

    この違いは重要なことで「AIは便利だから使う」という段階では、利用量が増えること自体、歓迎されやすいのですが、企業の中でAIエージェントが複数の業務に入り込めば、利用量の増加はそのまま成果を意味しなくなっていきます。

    そのため、AIを管理する側が見るべき数字も変わり、利用量を抑えたかどうかではなく、必要な仕事に必要なだけAIを使い、その費用に見合う成果が出ているか?

    AI導入の評価は、そこへ近づいていくでしょう。

    AIを導入するとき、先に決めるべきなのは「どのAIを使うか」だけではない

    この話は、大企業のIT部門だけのものではない。

    会社で生成AIを使う個人にとっても、AIサービスを増やすことが目的になると、いつの間にか「便利そうだから使う」ようになっていくのですが、今後必要になってくるのは、AIを使う対象と範囲を決めること。

    • どの仕事をAIに任せ、どこまで自動化するのか
    • その仕事にAIを使った結果、何が改善すれば成功なのか

    こうした基準があれば、利用量が増えたときにも、それが無駄な消費なのか、必要な投資なのかを考えられる。

    Salesforceがトークン消費の可視化と制限を、マネーフォワードが利用量と支出の一元管理を、IBMが支出と成果の対応付けを製品として打ち出しているのは、まさにこの管理の必要性を企業向けの仕組みに落とし込もうとする動きで、今回確認できた製品発表だけから「すべての企業でAI利用料が大きな経営問題になった」とまでは言えませんが、今後のAI利用においては避けては通れない問題となっていきそうです。

    複数の企業がAIの利用量、コスト、成果を管理する機能を相次いで提供している事実には意味があって、AIを仕事に組み込むほど、「どのAIが一番優秀か」というこれまでの判断基準は終わりを告げ、このAIにいくら使い、その費用で仕事の何が変わったのか?ここまでを見通さなければならないように変わっていきます。

    「AIエージェントをうまく使えているかどうか」という人の判断が、またひとつ増えてくるわけです。

  • AIは人間を丸ごと代替しない。「工程を切り出す」自動化が現実解になる

    AIは人間を丸ごと代替しない。「工程を切り出す」自動化が現実解になる

    AI導入で見るべきなのは、人を何人減らせるかではなく、どの工程なら、人間から切り離して任せられるかどうか。

    Meta、ExxonMobil、Anthropicの事例を並べると、この違いがはっきりと見えてきます。

    AIに仕事全体を渡す方法と、工程を限定して自動化する方法。

    この二つでは、実装の難しさが大きく異なります。

    Metaで起きたのは「生成量」と「成果」のズレ

    Metaでは2026年、AIエージェントを前提とした組織再編が進められ、社内ではAIを使った大幅な人員削減も検討されていたようです。

    5月には約10%の人員削減が実施されたのですが、その後に想定されていた追加の大規模削減は見送られたようです。

    問題は、AIがコードを書けなかったことではなく、コードなどの生成量を増やしても、それが製品改善や安定性にそのまま結びつくわけではないようで、そもそも企業の仕事には、コードを書く前後にも行うべき作業があるんです。

    仕様を決め、関係者と調整し、例外を処理する。そして完成した機能を検証し、問題が起きれば原因を探して修正。

    AIが一つの工程を高速化すると、別の工程がボトルネックになる場合があり「AIが何件処理したか」だけでは、組織全体の生産性は測れず、Meta自身も別の領域では、対象を絞ったAIエージェントを導入しています。

    インフラの性能問題を発見・修正する仕組みにおいては、調査時間を数時間から数分へ短縮されたようで、同じMetaでも、自動化する範囲によって結果は変わっているのです。

    ExxonMobilは危険な工程をロボットへ渡す

    工程を限定する考え方は、ソフトウェア以外でも運用されており、ExxonMobilは、米Permian Basinの掘削現場で自動化を進めています。

    同社は30基以上の掘削リグを運用しており、そのうちの2基には、すでにロボット設備が導入されていて、2028年までに約半数を自動化する計画となっています。

    対象の一つが、重量約2,000ポンドの鋼管を動かす作業で、従来は人間が事故リスクの高いリグ床で対応していたようですが、ロボットアームなら人を危険区域から分離させることができます。

    ここでは「掘削作業員をAIで丸ごと代替する」という設計ではなく、危険で、動作を定義できる工程を機械へと渡していて、人間は次の作業計画など別の役割へ移る形となっています。

    これは人員代替を先に決める方法と比べて、自動化する対象と評価基準が明確となっていますね。

    AnthropicもAIと機械の間に「決められた操作」を置く

    Anthropicが2026年8月に公開した「Model Hardware Standard(MHS)」も、工程単位の自動化を考える材料になり、MHSは、AIエージェントが顕微鏡や液体処理装置、ロボットアームなどを操作するための共通仕様となっていて、重要なのは、AIに機械を自由に触らせる仕組みではないこと。

    機器の状態を読み取る操作や設定を書き込む操作などを共通化し、Anthropicが紹介した実証では、液体処理装置、ロボットアーム、測定装置をClaudeが連携させているようです。

    別の事例では、実験設備の統合作業を短縮しており、ここでも、自動化される対象は具体的で、実験設計や結果の解釈まで含めた研究者の仕事と、機器を動かして実験を実行する工程は同じではありませんので、AIが研究者そのものになる話とは分けて考える必要があります。

    自動化しやすい仕事には共通条件がある

    Meta、ExxonMobil、Anthropicでは、使われるAIも目的も違いますが、自動化する工程には共通点があります。

    入力を定義でき、実行できる操作を決められ、結果を確認できる。

    この条件がそろうほど、工程を人間から切り離しやすくなり、反対に難しいのは、途中で前提が頻繁に変わる仕事。

    顧客との交渉や複数部署との調整がその典型ともいえ、例外が発生するたびに判断基準が変わるなら、AIに渡す範囲を広げるほど管理も難しくなります。

    その場合は、人間を完全に外す設計よりも「AIが処理し、人間が承認する」形のほうが現実的ですし、エラー時に誰へ戻すのかも決めておく必要があります。

    この分野はAIの性能だけでは解決できない部分といってもいいでしょう。

    「何人減らせるか」より「どこを渡せるか」

    AIによる仕事の代替を考えると、大規模な人員削減が目立ちますが、企業が実際に自動化を進めるなら、先に見るべき場所は業務フローです。

    一人の仕事を丸ごとAIへ渡す必要はありませんし、むしろ無理な話といってもいいでしょう。

    資料の下書きだけを渡す。コード生成だけを渡す。設備の監視を渡す。決められた機械操作を渡す。

    残った承認、例外処理、調整、最終確認は人間が担当すべき業務であり、この設計なら、AIの担当範囲と失敗時の責任範囲を区別することができます。

    働く側にとっても同じで「自分の職業がAIに消されるか」だけを見ると、実際の変化を捉えにくくなりますから、まずは自分の仕事を工程に切り分けてみましょう。

    その中で、入力、手順、合否判定を明確にできる工程はどこか?そこが、最初にAIへ渡る可能性が高い仕事となります。