这周 AI 圈有几件值得细看的事。
Sam Altman 曾邀请美国作家 Dave Eggers(代表作《圆圈》)给 OpenAI 全员做分享。本来以为他会讲讲创作心得,结果他一开口就把全场人教育了一顿。
据 Financial Times 报道,Eggers 告诉 OpenAI 的员工:
"ChatGPT 对教育工作者生活的冲击是灾难性的。不管你们是不是故意的,你们让每个老师都成了作弊的帮凶。"
他还说:ChatGPT 正在"让整整一代人失去真正的读写能力"——因为学生可以用 AI 完成所有写作作业,久而久之就真的不会写了。
Eggers 是谁?写小说、写剧本、创办文学杂志 McSweeney's、建学校……在写作圈是响当当的人物。他的批评不是普通用户的抱怨,而是来自一个真正关心"写作这件事本身"的人。
这件事背后有一个更大的矛盾:AI 让"写作"变得更快了,但也让"会写作"这件事变得不那么必要了。Eggers 担心的不只是教育系统,而是整个社会会不会因此失去一批真正会深度思考和表达的人。
TikTok 本周宣布,正在测试一款新工具:让创作者可以主动检测平台上是否有其他账号使用了他们的 AI 生成脸型(deepfake)。
这个工具怎么用:
这个功能解决什么问题:
AI 生成视频的门槛越来越低,用别人的脸型生成虚假内容越来越容易。但之前的解决方案主要是"事后举报"——等别人已经用你的脸型做了视频,你再去投诉。
TikTok 的思路是"主动防御":不等别人用了你的脸再去投诉,而是主动扫描、提前发现。
局限性:
这是一个好的开始,但 AI 内容的身份验证仍然是一个没有根本解决方案的行业难题。
上周旧金山检察官向苹果和 Google 发出了停止令,要求下架 13 款可以生成非自愿裸照的 AI 应用。本周,苹果正式确认:已下架相关应用,并终止了相关开发者的账号。
苹果发言人在声明中说:
"我们始终严格禁止设计用来生成、分发或消费色情内容的应用。'nudify' 类应用违反我们的应用审核指南,我们已经主动拒绝了大量此类应用,并通过用户举报下架了更多。"
苹果做了什么:
Google 的情况:
Google 暂停了 5 款被提及的 Android 应用,表示 Play Store 不允许含色情内容的应用。但暂停不等于永久下架,后续如何处理还有待观察。
这是 AI 应用监管落地的又一个案例。随着 AI 生成内容工具的普及,应用商店正在成为事实上的内容守门人。
每天 3 条深度解读,看懂 AI 行业的真实变化。
评论区