文章详情

OpenAI 最近推出的图像生成模型4o 在生成图片内部文本方面表现惊人，尤其是在制作虚假文件方面，成为一些用户的 “新宠”。虚假收据、假处方和伪造护照等问题层出不穷，令人担忧。

在社交媒体上，Menlo Ventures 的投资人 Deedy Das 发布了一张假收据的照片，这张收据显示了他在旧金山一家知名牛排馆的奢华用餐账单。Das 在推文中写道:“你可以使用4o 生成假收据。” 这句话引发了广泛关注，因为许多真实世界的验证流程依赖于 “真实图像” 作为凭证，而现在，这一切都发生了变化。

这张假收据乍一看非常真实，包含了详细的多道菜品清单、正确的小计和小费计算。更有用户利用该模型生成的图像进行进一步编辑，添加了逼真的滤镜和食物污渍，真可谓是为花费欺诈提供了完美工具。

随着技术的发展，OpenAI 的图像生成能力显著提升，以前的模型在重现字母时常常出现乱码和搞笑的短语，但4o 的能力让这些问题几乎不复存在。用户们不仅可以生成奢华晚餐的假收据，甚至可以制作控制药物如佐洛复的假处方。

这一现象引发了对 AI 生成虚假文件的广泛担忧。生成假文件的能力为一系列违法活动提供了便利，包括伪造税单、银行支票、身份证和出生证明等。面对这一潮流，现有的文件检测手段能否有效应对仍然是个未知数。尽管一些 AI 公司已开始尝试采用附加元数据或水印来识别生成的图像，但这些防护措施似乎难以完全阻止欺诈行为的发生。

根据2015年的一项调查，85% 的受访者承认曾经为了获取更多报销而撒谎。这些欺诈案件往往由于缺乏内部控制和存在缺陷的应付账款流程而未能被及时发现。换句话说，在这个时代，你几乎无法相信网上看到的任何内容。

划重点:  

📄  OpenAI 的新图像生成模型4o 能够轻松制作虚假收据和处方，令人担忧。  

💻  之前的图像生成模型难以生成文字，但4o 的能力显著提升。  

🛡️  虚假文件的制作能力引发了对现有检测手段有效性的质疑。