AI 与写作2022reclaimthenet.org
美国政府计划开发能识别匿名作者身份的 AI
US Government plans to develop AI that can unmask anonymous writers
导读
文章报道美国政府计划开发可识别匿名写作者身份的 AI,评论区的讨论反而更像一堂「文风指纹」课:用词习惯、罕见词组、标点偏好就能把一个人认出来,而文体计量学(stylometry)其实已有二三十年历史。对写作者来说,这既提醒你风格是可测量、可追踪的痕迹,也提供了「刻意改写风格」这种反向练习。
可以直接用的写作要点
- 01
你反复使用的罕见词组、句式长度和标点偏好(比如真的破折号)会构成一枚「文风指纹」,写作时不妨有意识地检查自己的重复套路。
- 02
想保护匿名性或单纯想练笔,可以刻意做风格转换:用改写工具把同一段话换一种腔调重写,体会哪些词句是「你的」,哪些是可替换的。
- 03
文风是可以通过统计特征量化的,这意味着模仿和学习他人风格有可操作的抓手:从句长、高频词、标点习惯入手拆解范文。
- 04
涉及匿名写作的技术一旦公开宣称存在,即使不准也会产生寒蝉效应,写作者要意识到表达渠道本身也是有风险的。
- 05
注意区分:风格识别并不神秘,二十多年前就用于文学研究,只是过去难以大规模应用。
- 06
如果你在意匿名性,与其等它成熟,不如现在就开始改变自己的写作习惯。
HN 评论精选
个人用词与标点的独特习惯就是可识别的文风指纹,不必等 AI 成熟。
「计划」?我以为早就有很多人在做这事了。训练数据到处都是,而且我怀疑大多数人只要用几个罕见的三词组和句子统计特征就能被认出来。我在公司写的文字能被认出来,就是因为里面用了真正的破折号——很少有人会打这个符号。
dehrmann查看英文原文
Plans? I assumed lots of people were already working on this. There's already a lot of training data out there, and I suspect most users can be identified by use of a handful of uncommon trigrams and sentence stats. I know you can recognize things I've written at work because they have real em dashes—people rarely type with those.
真正的问题不是技术本身而是谁掌握它,公开宣布会带来寒蝉效应。
作为一个认为这事几年前就该发生了的人(也许没挂「AI」的名头,但那不重要),我更震惊的是他们居然公开宣布。它的寒蝉效应会非常真实。如果它有效,基本等于给每一次线上互动强制配上国家身份证;如果它不太准,那就是既如此、又多了被随机误判的风险。对社会来说我看不到任何收益;这技术确实已经出了潘多拉魔盒,但这不代表我们不该用文化、法律手段去禁止或约束它。任何人在地下室今天就能做出这个东西,但它只有在警察和情报机构掌握时才成为问题——这意味着这里做有效监管的空间比其他技术更大。(补充了关于监管的观点)
black_puppydog查看英文原文
As someone who expects this to have happened years ago (maybe not under the moniker of AI but who cares) I'm more shocked by the fact that they'd publically announce this. The chilling effects of this will be all too real. If this works it's pretty much the equivalent of a mandatory state ID on every online interaction. If it doesn't work very well, then it's going to be that, plus the risk of randomly being flagged. As a society I don't think we have anything to gain from it; it's certainly tech that's put of Pandora's box, but that doesn't mean we shouldn't use all our cultural/legal means to prohibit/control it. Anyone in their basement could build this today, but it only becomes a problem if that person has control over police and intelligence forces. Which means the potential for good regulation is bigger than with other tech. Edited to add point about regulation
用语言模型主动改写自己的文风,是一种可操作的防护与练笔方式。
防范这类去匿名化最好的办法是趁还来得及现在就动手。可以借助语言模型改变自己的文风,把原文改写成风格不同的新文本。比如想把文字变成某个逝去时代那种华丽铺陈的腔调,可以看下面这个项目。
lwneal查看英文原文
The best protection against this type of de-anonymization is to take measures now, while you still have time, to prevent it. It is possible to change the style of one's writing by using a language model which alters the original text in order to create a new piece with a different style. For example, to translate your text into the grandiose and flowing diction of a bygone era, you might consider the project below. [1] https://github.com/lwneal/victorianhackernews
文体计量学并非新事物,早已在文学研究中用于作者归属判定。
这套方法在二三十年前就已经能用了,只是没有大规模应用,主要用于文学作品。
Animats查看英文原文
That was working 20-30 years ago.[1] But not at scale. Mostly it was used on literary works. [1] https://en.wikipedia.org/wiki/Stylometry
同类还值得读
我是肯尼亚人：不是我把 ChatGPT 写成了我，而是它写起来像我
I'm Kenyan. I don't write like ChatGPT, ChatGPT writes like me
一位肯尼亚作者反驳“我写得太像 AI”的指责：不是他写得像 ChatGPT，而是 ChatGPT 写得像他——那种平滑、无地域色彩、貌似中立的英语，本来就是殖民教育与精英阶层塑造…
AI 与写作2025 · 799 分 · 504 评4 条写作要点编辑精选使用 AI 助手完成论文写作任务会累积认知债务
Accumulation of cognitive debt when using an AI assistant for essay writing task
这篇论文研究的是：在完成议论文写作任务时使用 AI 助手，是否会让写作者积累"认知债"——也就是把本应由自己承担的思考外包出去，短期省力、长期削弱写作与思考能力。
AI 与写作2025 · 391 分 · 426 评4 条写作要点编辑精选学生使用 ChatGPT 写作指南
A Student's Guide to Writing with ChatGPT
这是 OpenAI 面向学生的一份写作指南，讲的是如何把 ChatGPT 用作写作过程中的辅助工具，而不是替你写完作业的"枪手"。
AI 与写作2024 · 323 分 · 309 评4 条写作要点编辑精选Grammarly，你也背叛了我？
Et Tu, Grammarly?
本次输入里只给了标题和链接，正文和评论都是空的，所以没法据实写出导读。
AI 与写作2025 · 279 分 · 74 评编辑精选用 GPT-3 进行创意小说写作
GPT-3 Creative Fiction
Gwern 的长文系统考察 GPT-3 在创意小说写作上的能力与边界：它能维持人设、写出讽刺腔调，也会整段复述训练数据里的歌词。
AI 与写作2020 · 234 分 · 97 评4 条写作要点编辑精选