隨著 AI 圖像生成可以做到以假亂真，許多不肖分子試圖以此來進行詐騙，但也不乏手段太差而被立刻識破的，例如近期美國佛州就有一位網路共享汽車司機使用 Gemini 生成偽造圖片來敲詐，卻連最基本的浮水印都沒去掉，馬上遭到識破。
根據美國電視台 WPBF 25 News 的報導，一位佛州的美國知名網路共享汽車平台 Lyft 司機，利用 Gemini 生成車內遭到乘客飲料與食物破壞的圖片，試圖想透過平台申訴管道，向乘客敲詐 75 美元的賠償。
然而乘客回想當天是去海灘，只有海灘用品，並沒有攜帶餐點上車，於是向平台提供證據照片，結果乘客女兒一眼就發現圖片的右下角有 Gemini 圖片生成必有的星形浮水印，讓這場企圖用科技進行的騙局瞬間就被揭穿。
Gemini 圖片生成的圖片在右下角都有浮水印
事後，Lyft 向乘客致歉與提供賠償，同時吊銷該駕駛在該平台繼續工作的資格，還可能因為詐欺未遂吃上官司。
由於 AI 生圖、修圖的效果太強大，社會確實已經出現許多人藉此進行敲詐，如在中國就出現大量 用 AI 把圖片改成商品、餐點毀損的樣子，以此向平台要求賠償。
然而在這邊需要提醒大家，千萬不要以為把圖片上「看得到」的浮水印去掉就能瞞天過海，實際上各大企業的 AI 圖片在產出之後，都會嵌入肉眼看不到的編碼浮水印，存在於照片的像素以及檔案程式碼本身，廠商現在也都逐漸加入檢測軟體來反制，千萬不要因為一時貪念以身試法。
:quality(60):no_upscale()/https%3A%2F%2Fimg.4gamers.com.tw%2Fpuku-clone-version%2Fc2cc00f82c67ab81dbdea56e324bc1ce667b5f6d.png)
:quality(60):no_upscale()/https%3A%2F%2Fimg.4gamers.com.tw%2Fpuku-clone-version%2Fa4f075108762d9d7fe2381253d4b034e81596efd.jpg)