App Store の調査: 数回クリックするだけでポルノのディープフェイクが作成可能

Apple は、App Store で入手可能なアプリケーションを厳格に管理していることで知られています。 Apple 社は常にセキュリティとユーザーのプライバシーの尊重を優先してきました。まだ、404 Media からの最近のレポート主要な用途から逸脱し、Apple の警戒を逃れたと思われるアプリケーションの存在が明らかになりました。

人工知能による画像の変更は新しいものではありません。 2017年にはすでに可能になっていた私たちの顔の外観を変えるためにFaceswap で思い通りに。当時の結果はすでに素晴らしいものでしたが、2024 年には新たな課題を考慮する必要があります。

この件に関する新しいレポートが 404 Media から発表されました。という事実に関する事実情報を発見したのも彼らのジャーナリストの一人でした。私たちの iPhone のマイクが宣伝目的で盗み見されています。

数回クリックするだけでポルノディープフェイクが作成可能

404 Media は本日、顔交換アプリを特集しています。のために月額 20 ドル、それは許可しますディープフェイクを簡単に生成関係者の同意を得ることなくポルノ的なもの。あなたがしなければならないのは、被害者の写真を提供し、統合されたブラウザを使用して、それを埋め込みたいビデオにアクセスすることだけです。この調査の著者であるジャーナリストのエマニュエル・マイバーグ氏は、この件について次のように述べています。

「私がしなければならなかったのは、偽りたい人物の画像を提供し、アプリ内の Web ブラウザーを使用して、その人物に出演してもらいたいビデオに移動することだけでした。 Reddit で見た広告が示唆していたように、特定の Pornhub ビデオに移動すると、アプリが自動的にビデオを取得し、私が提供した画像内の人物のディープフェイク ポルノを作成しました。 »

の結果は 5 分以内に得られます、のです当惑するような品質。このアプリケーションは、Apple の禁止にもかかわらず、App Store でポルノ コンテンツを提供するバックドアの方法であるようです。

Appleは新たな課題に直面している

クパチーノの会社がポルノアプリケーションを認可しない場合、その規則を巧妙に回避するこれらの二重用途アプリケーションに対して特に警戒する必要がある。

Apple が Image Playground ジェネレーターに関して予防策を講じていることを思い出してください。第一に、フォトリアリスティックな画像の作成を妨げ、第二に、生成されたコンテンツに体系的にタグ付けします。