MIT、悪意のある AI 編集から画像を保護する PhotoGuard 技術を発表

脚本: アンドリュー・タラントラ

出典：エンガジェット

画像の出典: Unbounded AI ツールによって生成

Dall-E と安定拡散は始まりにすぎません。 AI 生成システムの人気が高まり、企業が自社製品を競合他社との差別化に努めるにつれ、Shutterstock や Adobe などの企業が先頭に立って、インターネット上のチャットボットに画像の編集や作成機能が備わってきています。しかし、これらの新しい AI 機能は、既存のオンライン作品や画像の不正な改ざんや完全な流用など、よくある問題も引き起こします。透かし技術は後者の問題を軽減するのに役立ちますが、MIT CSAIL によって開発された新しい「PhotoGuard」技術は前者の問題を防ぐのに役立ちます。

PhotoGuard は画像内の一部のピクセルを変更することで機能し、それによって AI が画像の内容を理解する能力を破壊すると報告されています。研究チームがこれらの「摂動」と呼んでいるものは、人間の目には見えませんが、機械にとっては容易に読み取ることができます。これらのアーティファクトを導入する「エンコーディング」攻撃手法は、ターゲット画像のアルゴリズム モデルの基礎となる表現、つまり画像内の各ピクセルの位置と色を記述する複雑な数学をターゲットにしており、本質的に AI がそれが何であるかを理解するのを妨げます。を見てます。 (注: アーティファクトとは、スキャンされたオブジェクトには存在しないが、画像上に現れるさまざまな形式の画像を指します。)

さらに、より高度で計算量が多い「拡散」攻撃手法は、AI の目には画像を別の画像として偽装します。ターゲット画像を定義し、その画像内の摂動がターゲット画像と同様になるように最適化します。 AI がこれらの「免疫」画像に加えようとする編集は、偽の「ターゲット」画像に適用され、本物に見えない画像が生成されます。

「エンコーダ攻撃により、モデルは（編集対象の）入力画像が他の画像（グレースケール画像など）であると認識します」と、MITの博士課程の学生で論文の筆頭著者であるハディ・サルマン氏はEngadgetに語った。 「拡散攻撃により、拡散モデルはターゲット画像の一部を編集するように強制されます。これにはグレー画像やランダムな画像も含まれる可能性があります。」 リバース エンジニアリング用に画像を保護します。

「モデル開発者、ソーシャルメディアプラットフォーム、政策立案者が関与する協力的なアプローチは、画像の不正操作に対する効果的な防御策となり得る。この差し迫った問題に対処することは今日極めて重要である」とサルマン氏はリリースで述べた。 「このソリューションに貢献できることに興奮していますが、この保護を実用化するためにはやるべきことがまだたくさんあります。これらのモデルを開発している企業は、これらの AI ツールが堅牢な免疫工学にもたらす可能性のある脅威をターゲットにするために投資する必要があります」 。」