语言与文风2015tech.grammarly.com
如何拆分长句
How to Split Sentences (2014)
导读
这是 Grammarly 技术博客的一篇旧文,讲如何把一段文本正确切分成句子:真正难的不是普通句号,而是缩写、小数点、引号、省略号等会造成边界歧义的情况。写作者值得一读,因为它提醒我们,句子在哪里结束直接决定读者如何解析语义和节奏;标点放错位置,读者就得回头重读。
可以直接用的写作要点
- 01
句子边界不只是语法问题,它是读者断句的第一条线索;一个句号放错位置,整段都要被重新解析。
- 02
难点永远在少数边缘情况:带缩写的句子、带数字和小数点的句子、引号收尾的句子;普通陈述句反而最容易写对。
- 03
检验自己标点是否可靠的办法是做极端测试:把所有句号都当作句子结尾通读一遍,看哪里会读错、会歧义。
- 04
人即使在没有标点的文本里也能判断句子边界,说明边界主要靠语义和结构支撑,标点只是把它显性化。
HN 评论精选
真正的考验在边缘情况,普通句占绝大多数会掩盖工具的缺陷。
我在做自己的规则分词器时比较过多种句子切分工具,结果放在 README 里。这篇博客接近了关键点:在我看来,重要的是测试所有边缘情况。常用测试语料的通病是 80%–90% 的句子都是同一种普通句,也就是以句号结尾的常规句,所以一个简单到“见句号就切”的工具也能拿到 80%–90% 的准确率。这正是我要建立一套标准化边缘案例集的原因。
diasks2查看英文原文
I did an analysis of different sentence segmentation tools when I was working on my own rule-based segmenter. The results can be found in this README (https://github.com/diasks2/pragmatic_segmenter). I think this blog post almost hits on the key in the middle - in my opinion it is important to test (all of) the edge cases. The problem with most corpora typically used to test segmenters is that 80-90% of the sentences are the same (i.e. a regular sentence ending in a period). Thus if a segmenter just simply split the sentence at every period it would still show a 80-90% accuracy rate. This is why I am trying to develop a standardized set of edge cases: https://github.com/diasks2/pragmatic_segmenter#the-golden-rules
句子边界不只依赖标点,缺标点时人仍能靠语义判断边界,说明标点只是边界的显性标记。
有没有人知道能处理标点缺失、写得很差的英语的句子切分器?比如聊天记录里的文本。这对普通句子切分也许有用:也就是说,先不管标点,能不能照样判断出句子的边界。
andrewtbham查看英文原文
is anyone aware of a sentence segmenter for poorly written english that is missing some punctation? like from chat sessions? it could be useful for normal sentence segmentation. i.e. if you forget about the punctuation, can you detect the boundaries of the sentence anyway.
同类还值得读
像说话一样写作
Write like you talk
这篇短文主张写作应像说话一样自然、清晰,避免装腔作势的书面腔。
语言与文风2015 · 647 分 · 272 评4 条写作要点编辑精选法律语言难懂源于写作不佳,而非专业概念
Poor writing, not specialized concepts, drives difficulty with legal language
这是一项认知科学研究:法律文本难懂,主要不是因为充斥专业术语,而是因为写作者把句子写得又长又绕、修饰语层层嵌套、回指距离过远。
语言与文风2022 · 559 分 · 322 评5 条写作要点编辑精选写得简单
Write Simply
保罗·格拉汉姆在这篇短文里主张:好文章应该写得简单——用日常词汇、短句、直白的结构,不为显得聪明而堆砌复杂表达。
语言与文风2021 · 484 分 · 330 评4 条写作要点编辑精选Tortured phrases:科学写作中出现的一种可疑文风
Tortured phrases: A dubious writing style emerging in science
《自然》新闻报道了一种在科学论文中蔓延的怪现象:原本标准的术语被同义替换软件改写成了古怪说法,比如把 "cloud computing" 写成 "haze figuring"。
语言与文风2021 · 329 分 · 256 评4 条写作要点编辑精选乔治·奥威尔 1940 年对《我的奋斗》的书评
George Orwell's review of Mein Kampf (1940)
这是奥威尔1940年对《我的奋斗》的书评。
语言与文风2014 · 305 分 · 240 评4 条写作要点编辑精选