最近、同社はM12とMoore Strategic Venturesが主導する5000万ドルのシリーズAラウンドを受け取り、Booz Allen Ventures、IBM Ventures、Capital One Ventures、Ten Eleven Ventures(シードラウンドを主導)が参加しました。
Chris Sestito氏は、市場機会について「現在、ほぼすべての企業がさまざまな形でAIを使用していることはわかっていますが、セキュリティなしでこれほど広く採用されたテクノロジーは他にないこともわかっています。 私たちは、この満たされていないニーズを満たすお客様のために、市場で最も摩擦のないセキュリティソリューションを作成することをお約束します。 "
Chris Sestito氏はテクノロジーについて、「多くのデータサイエンティストは、分析時間を短縮し、テストを簡素化し、複雑なデータセットから洞察を引き出すために、事前にトレーニングされたオープンソースまたは独自の機械学習モデルに依存しています。 公開されている事前トレーニング済みのオープンソースモデルを使用すると、組織が公開されているモデルで改ざんされた学習攻撃を転送する可能性があります。
当社のプラットフォームは、AIモデルを敵対的な攻撃、脆弱性、悪意のあるコードインジェクションから保護するためのツールを提供します。 AI システムの入力と出力を監視して、デプロイ前にモデルの整合性をテストします。 独自のモデルにアクセスすることなく、モデルの入力とモデルによって生成された出力のベクトル(または数学的表現)のみを観察する手法を使用します。 "
AIセキュリティを完全に保護するために、HiddenLayerはシリーズAの資金調達で5,000万ドルを受け取りました
元のソース: アルファコミューン
AIモデルのセキュリティは、AIアプリケーション企業と、AIアプリケーションを使用するユーザーおよび顧客の両方にとって非常に重要です。 AI企業にとって、AIモデルのセキュリティを保護しながら、不要な作業コストを増加させずに元のデータとアルゴリズムを漏洩から保護する機能にも注意を払う価値があります。
HiddenLayerという会社は、AIモデルレベルで不必要な複雑さを追加したり、生データやアルゴリズムにアクセスしたりすることなく、プラグアンドプレイのAIセキュリティを提供する包括的なセキュリティプラットフォームを構築しました。
最近、同社はM12とMoore Strategic Venturesが主導する5000万ドルのシリーズAラウンドを受け取り、Booz Allen Ventures、IBM Ventures、Capital One Ventures、Ten Eleven Ventures(シードラウンドを主導)が参加しました。
HiddenLayerは、金融やサイバーセキュリティなどの分野でフォーチュン100企業数社が使用するAI/MLモデルの保護を支援してきました。
また、IntelおよびDatabricksとも戦略的パートナーシップを結び、RSACの最も革新的なスタートアップやSC Mediaの最も有望な初期段階のスタートアップなどの称賛を受けています。 同社は昨年、従業員をほぼ4倍に増やし、今年末までに従業員を50人から90人に増やし、研究開発にさらに投資する予定です。
AIに対する攻撃に遭遇した後、シリアルアントレプレナーは機会を見いだします
Gartnerによると、2022年のすべてのAIサイバー攻撃の5つの組織のうち2つがAIプライバシー侵害またはセキュリティインシデントに見舞われ、それらの攻撃の4分の1は悪意のあるものでした。
英国のサイバーセキュリティ機関である国家サイバーセキュリティセンターも、「攻撃者はChatGPTなどの大規模言語モデルのチャットボットを攻撃して機密情報にアクセスし、不快なコンテンツを生成し、意図しない結果を引き起こしている」と警告しています。 "
HiddenLayerが委託したForresterの調査では、86%の人が組織の機械学習モデルのセキュリティについて「非常に懸念または懸念している」と回答しています。
回答した企業の大多数は、現在、AIモデルの脅威に対抗するために手動プロセスに依存していると述べており、回答者の80%は、今後12か月以内にMLモデルの整合性とセキュリティを管理するソリューションに投資することを期待しています。
サイバーセキュリティは他の分野と比較して特に技術的で専門的であり、フォーチュン誌の以前の調査によると、世界のサイバーセキュリティ市場は2027年までに4,030億ドルに達し、2020年から2027年にかけて12.5%のCAGRで成長すると予想されています。
HiddenLayerのCEO兼共同設立者であるChris Sestito氏は、「私たちが確保した機械学習モデルが当社の製品を通じて直接攻撃された後、私たちは救助活動を主導し、これが当社の製品に機械学習モデルを展開する組織にとって大きな問題になることに気付きました。 私たちは、この重大な脅威について企業を教育し、攻撃に対する防御を支援するためにHiddenLayerを作成することにしました。 "
セスティトはサイランスで脅威調査を主導し、バラードはサイランスのデータキュレーションチームの責任者であり、バーンズは脅威研究者でした。
Chris Sestito氏は、市場機会について「現在、ほぼすべての企業がさまざまな形でAIを使用していることはわかっていますが、セキュリティなしでこれほど広く採用されたテクノロジーは他にないこともわかっています。 私たちは、この満たされていないニーズを満たすお客様のために、市場で最も摩擦のないセキュリティソリューションを作成することをお約束します。 "
Chris Sestito氏はテクノロジーについて、「多くのデータサイエンティストは、分析時間を短縮し、テストを簡素化し、複雑なデータセットから洞察を引き出すために、事前にトレーニングされたオープンソースまたは独自の機械学習モデルに依存しています。 公開されている事前トレーニング済みのオープンソースモデルを使用すると、組織が公開されているモデルで改ざんされた学習攻撃を転送する可能性があります。
当社のプラットフォームは、AIモデルを敵対的な攻撃、脆弱性、悪意のあるコードインジェクションから保護するためのツールを提供します。 AI システムの入力と出力を監視して、デプロイ前にモデルの整合性をテストします。 独自のモデルにアクセスすることなく、モデルの入力とモデルによって生成された出力のベクトル(または数学的表現)のみを観察する手法を使用します。 "
M12のマネージングパートナーであるTodd Graham氏は、「敵対的AI攻撃に関する自身の経験に触発されて、HiddenLayerの創設者は、AIおよびMLテクノロジーを使用するあらゆるビジネスに不可欠なプラットフォームを構築しました。
これらの攻撃に関する彼らの直接の経験は、彼らのビジョンと斬新なアプローチと相まって、同社はこれらのモデルを保護するための頼りになるソリューションになっています。 創業者との最初のミーティングから、これがセキュリティ分野における大きなアイデアであることはわかってい、彼らの拡大を支援したいと考えていました。 "
AIのセキュリティを包括的に保護するMLSecプラットフォームを構築
HiddenLayerの主力製品である機械学習駆動型システム(MLSec)に対するサイバー攻撃を検出および防止するためのセキュリティプラットフォームは、企業とその顧客を新たな攻撃ベクトルから保護する業界初のMLDR(機械学習検出および応答)ソリューションです。
MLSec プラットフォームは、HiddenLayer MLDR、ModelScanner、およびセキュリティ監査レポートで構成されています。
MLDRソリューションは、機械学習ベースのアプローチを採用して、毎分数十億のモデルインタラクションを分析し、ユーザーのMLモデルや機密トレーニングデータにアクセスしたり、事前の知識がなくても悪意のあるアクティビティを特定します。 MLモデルに対する攻撃を検出して対応し、知的財産と企業秘密を盗難や改ざんから保護し、ユーザーが攻撃されないようにします。
HiddenLayerは、脅威評価を実施し、顧客のサイバーセキュリティおよびDevOpsスタッフをトレーニングし、顧客の防御が意図したとおりに機能することを確認するための「レッドチーム」訓練を実施できる敵対的機械学習(AML)専門家のチーム向けのコンサルティングサービスも提供しています。
HiddenLayerのMLSecプラットフォームが保護できる攻撃の種類
推論/抽出: 抽出攻撃では、攻撃者がモデル入力の操作、出力の分析、決定境界の推論を行って、トレーニング データの再構築、モデル パラメーターの抽出、またはターゲットに近似する代替モデルのトレーニングによるモデルの盗難を実行します。
機械学習モデルを盗む: 攻撃者は高価な機械学習フレームワークの成果を盗みます。
トレーニングデータの抽出:攻撃者は、機械学習モデルのパラメーターにアクセスすることなく、その出力を観察するだけでメンバー推論攻撃を実行できます。 ターゲット モデルが機密情報でトレーニングされている場合、メンバーの推論によってセキュリティとプライバシーの懸念が生じる可能性があります。
データ ポイズニング: ポイズニングは、攻撃者が特別に変更された新しいデータをトレーニング セットに挿入するときに発生します。 これは、機械学習モデルをだましたり破壊したりして、不正確、偏った、または悪意のある結果を提供します。
モデルインジェクション:モデルインジェクションは、秘密、有害、または望ましくない動作を導入する悪意のあるモジュールを挿入することにより、機械学習モデルを変更することに依存する手法です。
モデルハイジャック:この攻撃は、既存のPyTorchモデルに悪意のあるコードを挿入し、現在のディレクトリ内のすべてのファイルをリモートサーバーに盗み出す可能性があります。
HiddenLayer は、次の特定のサービスを提供します
脅威モデリング: 検出インタビューとシナリオベースのディスカッションを通じて、全体的な AI/ML 環境と資産リスクを評価します。
ML リスク評価: 顧客の AI 運用ライフサイクルの詳細な分析を実施し、顧客の最も重要な AI モデルをドリルダウンして、現在の AI/ML 投資の組織に対するリスクと、改善に必要な取り組みや制御を判断します。
エキスパート トレーニング: データ サイエンス チームとセキュリティ チームに終日のトレーニングを提供し、AI に対するこれらの攻撃や脅威に対する保護を支援します。
レッドチーム評価:敵対的機械学習研究(AMLR)チームは、攻撃者の攻撃をシミュレートして、既存の防御を評価し、脆弱性にパッチを適用します。
AI/ML モデル スキャン: HiddenLayer のモデル整合性スキャナーを使用して、既存の AI/ML モデルを脅威 (マルウェアなど) や改ざんに対してテストおよび検証します。
ML検出および対応(MLDR)実装サービス :*HiddenLayerのMLDR製品をAI/ML環境に専門的に実装および統合し、データサイエンスチームとセキュリティチームに、攻撃の防止、応答時間の改善、モデルの有効性の最大化に必要な機能と可視性を提供します。
エコロジカル建設を強化するための巨人との協力
製品とプラットフォームの構築に加えて、HiddenLayer には強力なパートナーもおり、Databricks は Databricks データ レイクに AI モデルをデプロイするエンタープライズ ユーザーが MLSec プラットフォームを利用できるようにするためのパートナーシップを結んでいます。 これにより、データレイクレベルからAIにセキュリティが組み込まれます。
これら2つの戦略的協力により、HiddenLayerのエコシステム全体がより完全になり、金融や政府の分野でいくつかの大口顧客を獲得した顧客の支持も得られました。
AIは実用的な段階に入り、AIに安全な起業家の機会が出現しました
特にモデルレベルでのAIのセキュリティはすでに明確なニーズであり、AIモデルセキュリティを専門とするProtect AIは、Evolution Equity PartnersとSalesforce Venturesが主導する3500万ドルのシリーズA資金調達ラウンドを以前に受け取っています。
HiddenLayerの創設者であるSestito氏によると、AI市場が成長するにつれて、AIセキュリティ市場は同時に成長し、Protect AIとHiddenLayerに加えて、Robust Intelligence、CalypsoAI、Halcyon、Troj.ai などの企業もAIセキュリティの分野で働いています。
たとえば、HiddenLayerの初期投資家であるTen Eleven Venturesは、AIソフトウェアのユーザーが攻撃を防ぎ、攻撃から迅速に回復するのに役立つAIランサムウェア防御ツールに焦点を当てているHalcyonからの2,000万ドルのシードラウンドにも投資しました。
このAIの波がコンセプトの誇大宣伝段階から実際のアプリケーション段階に移行し、大規模モデルの起業家精神からAIアプリケーションの起業家精神に移行するにつれて、AIの安全性はますます重要になっています。 AIモデルのセキュリティを確保する場合でも、AIアプリケーションのセキュリティを保護する場合でも、AIセキュリティの開発により、ToC側とエンタープライズ側でのAIの浸透がさらに深まる可能性があります。
海外にはすでに多数のAIセキュリティスタートアップがあり、中国市場でも同様の需要が存在しており、現地の優秀な起業家がこの重要な起業家分野に移行することを期待しています。