文章详情

ChatGPT最新推出的4o模型图像生成功能正在引发安全忧虑，尤其是在生成逼真文本方面的进步可能为欺诈者提供新工具。社交媒体上已经出现多个用户利用该功能创建假餐厅收据的案例，这些收据看起来足以假乱真。

风险投资家Deedy Das在X平台上展示了一张使用4o生成的旧金山牛排馆假收据，强调:"现实世界中有太多验证流程依赖'真实图像'作为证据。那个时代已经结束了。"其他用户也成功复制了类似结果，有些甚至添加了食物污渍以增加真实感。

测试后发现，虽然AI生成的收据仍存在明显缺陷（如使用逗号代替小数点、计算错误等），但这些问题可以通过简单的照片编辑或更精确的提示轻松修正。这一技术简化了伪造收据的过程，为"报销"虚假费用等欺诈行为创造了可能性。

对此，OpenAI发言人Taya Christianson表示，所有ChatGPT生成的图像都包含表明其AI来源的元数据，并称公司会对违反使用政策的行为"采取行动"。当被问及为何允许生成虚假收据时，Christianson解释称OpenAI的"目标是给予用户尽可能多的创作自由"，并指出AI收据可用于非欺诈场合，如金融教育、艺术创作和产品广告。