時間
2024年6月〜9月
業界
ハイブリッドワーク
チーム
クロスチームコラボレーション
役割
研究者
プロダクトデザイナー
Loccus.ai は、ISV（独立系ソフトウェアベンダー）としてHP Future of Work Incubationに関連し、声のディープフェイク検出のためのAIモデルを提供することを専門としています。
アライアンスの紹介
Loccus.aiは、独立系ソフトウェアベンダー（ISV）であり、ディープフェイク音声詐欺を検出するAIモデルの開発を専門としています。
HP Future of Work Incubationは、Loccus.aiのようなISVのHPエコシステムへの統合を促進し、ハイブリッドワークソリューションを強化します。
ズームは、HP Inc.およびHPポリと提携し、シームレスに統合されたハイブリッドワークエコシステムを構築します。
＋
＋
0.23
0.12
0.03
0.32
ディープフェイクが検出されました
信頼度 = 0.98
モデルの仕組みはどうなっていますか？
loccus.aiのモデルは音声ストリームを監視し、ディープフェイク検出の信頼度スコアを提供します
0.0 〜 1.0
デスクリサーチ
私はディープフェイク音声技術のユースケースについてデスクリサーチを行いました。この研究では、Loccus.aiが検出において重要となりうるディープフェイクの最も有害な2つの領域を強調しました。そこで、私はこの2つのシナリオに集中し、課題を特定し、その技術を応用することにしました。
なりすまし詐欺
攻撃者はディープフェイク技術を使用して声や外見を模倣し、経営者や従業員、個人を装って詐欺行為を働きます。
ターゲット
企業環境、金融機関、内部コミュニケーションシステム。
ダメージ
金銭的損失（詐欺による数百万ドル）。
組織内での信頼の喪失。
法的および評判上の潜在的な被害。
就職面接詐欺
誤報
ディープフェイクは、偽のメディア（ビデオや音声）を作成し、フェイクニュースやプロパガンダを広めたり、世論を操作したりするために使用されます。
ターゲット
ソーシャルメディアプラットフォーム、ニュースウェブサイト、政治キャンペーン。
ダメージ
メディアや機関に対する公共の信頼の低下。
社会的および政治的混乱。
有害なストーリーの増幅が公共秩序を乱す。
2つの課題に集約される
会議の安全性
バーチャル会議におけるリアルタイムの本人確認が欠如しているため、ディープフェイク攻撃者は信頼を悪用し、セキュリティ対策を回避し、意思決定を操作することが可能になります。
オンライン閲覧の安全性
急速なコンテンツ共有はディープフェイクによる誤報を増殖させ、公の認識に影響を与える前に欺瞞的な物語の拡散を制御することを困難にしています。
頻繁にオンラインでのディープフェイクコンテンツへの接触があるため、安全なコンテンツと危険なコンテンツを区別する明確な基準が必要です。不要な中断を最小限に抑えつつ
これらのリスクレベルをHP AIアシスタントの警告システムと整合させる必要があります。
リスク管理
私は、サイバーセキュリティの脅威の深刻度を低（グリーン）から重度（レッド）まで評価する「CISアラートレベル情報」システムを参照し、HP AIアシスタントに合わせたソーシャルエンジニアリング攻撃専用のアラートシステムを設計しました。
アラートシステム（ソーシャルエンジニアリング）
HP AIアシスタントのアラートに整合
プロトタイプ
AIアシスタントはリスクレベルを検出し、さまざまな状況に基づいて警告を表示します。Zoomのようなソフトウェアとのより深い統合は、シームレスなセキュリティ対策を提供することでユーザーエクスペリエンスを向上させます。
異なるユースケースをサポートするために、私はZoomプラグイン（会議アプリ統合）とHP AIアシスタントアラート（システム統合）の2つのバージョンの警告システムを設計しました。異なるユースケースをよりよくサポートします。
特徴 01
会議の安全性
Zoomプラグイン
ボイスIDでディスカッションの参加者を確認できます
参加者を簡単に削除し、レポートを作成します
ユーザーは、アプリケーションウィンドウが最小化されるとシステムアラートを受け取ります。
機能 02
オンラインブラウジングの安全性
HP AIアシスタントシステム統合アラート
AIはコンテンツを評価し、さまざまなレベルでアラートを発信します。
アウトラインは、ディープフェイクを含むコンテンツであることをユーザーに明確に通知します。
インパクトと学び
Loccus.ai（HPインキュベートスタートアップ）、Zoom、HP AIコンパニオンのチームと協力して、Zoomのプラグインを設計しました。
このプラグインは、ミーティング中のディープフェイク詐欺を検出し、ユーザーのセキュリティと仮想コラボレーションの信頼性を向上させます。
UXの観点から、ユーザーの疲労を避けつつ、リスクを効果的に伝えるためにセキュリティアラートのバランスが重要であることを学びました。輝くアウトラインのような視覚的な手がかりは、ワークフローを邪魔することなくディープフェイクの脅威を迅速に伝えるのに役立ちました。さらに、ユーザーはカスタマイズ可能なアラート感度とAIの決定の透明性を好み、信頼と関与を構築します。