Lyftドライバーが車両損傷をAIで偽造し清掃費を請求
原題: Lyft driver caught blatantly using Gemini AI (with watermark) to fake damage to his car and charge riders extra for cleaning fees
なぜ重要か
AI画像生成技術の悪用が現実のサービスで発生し、プラットフォーム企業の対策強化が急務となっている
米フロリダ州でLyftドライバーがGemini AIを使用して車内損傷画像を偽造し、10代利用者に75ドルの清掃費を請求した事件が発生。被害者の父親が画像にGeminiのロゴを発見し詐欺が発覚。Lyftは返金処理とドライバー利用停止を実施した。
5月16日、フロリダ州在住のBert Gorさんの14歳と15歳の娘2人がビーチ帰りにLyftを利用した際、ドライバーから車内損傷の清掃費として75ドルを請求される事件が起きた。ドライバーは後部座席に飲み物やフライドポテトの散乱、大きな黄色いシミが付いているとする写真をLyftに提出した。娘たちは車内で飲食していないと否定し、Gorさんが料金を争った結果、Lyftから提出写真を受け取った。娘の一人が写真を確認したところ、右下にGeminiのAIロゴが入っていることを発見した。GeminiはGoogleのAIプラットフォームで、リアルな偽画像生成が可能なツールを含む。Gorさんが画像のAI生成について指摘すると、Lyftは調査の結果AI生成画像と認定し、謝罪と返金を行い、該当ドライバーのアプリ利用を停止した。Lyftは損傷請求について適切に対処するとの声明を発表した。