科学网 › 标签 › 词典主义

标签: 词典主义

相关帖子	版块	作者	回复/查看	最后发表

没有相关内容

相关日志

【李白梁之49：同一个战壕的两条道路之辨】: liwei999 2017-6-17 18:28; 小词负载结构　vs. 　模式专家词典白：我举的例子“这个字他是不会写错的”意思是“他不会写错这个字”。李：【是 …的】小词筐式结构里面包了一个谓语表示肯定的语气。如果没有 “的” 那么通常 “是” 就转为强调小词（emphasis particle）依然是肯定语气（affirmative mode）。如果没有 “是” 只有 “的” 那还是肯定语气但似乎弱了一点。我吃素: 我是吃素的我吃素的我是吃素我不吃素: 我不是吃素的我是不吃素我不吃素的 “不是吃素的”　是熟语半路杀出一个程咬金　有黑箱义与通常的白箱义两种。“不吃素” 不是成语只有白箱子语义。这算是个小插曲，是个案。白: “应付这种局面他有准备的” 李：应付这种局面他有准备: 应付这种局面他是有准备的应付这种局面他是有准备　＝＝　“应付这种局面他的确有准备” 三种变式都是肯定语气不同程度而已　给基式增加一点语气色彩不改变逻辑语义。白: 好办，这种“是”，直接标成S+，“的”直接标成+S。bingo 李: Bingo ? “是”、“的” 还有很多其他用法。都靠 wsd 去选？假如只有一种 pos 自然没问题。白: “是”还能做N+ 李：假如 pos/wsd 模块可以准确输出一种 pos 也自然没问题。第一个假如只有到理想世界寻，譬如世界语或计算机语言。第二个假如是传统系统架构的误区。铁路警察各管一段听起来干净利落模块清晰实际不知道误导了多少良家上进男女青年学子。前置状语性材料 S+ ，后置状语性材料 +S，哪个语言都有，标注这个不难。但这种标注难以匹敌模式：１【Subj 是 Pred 的】２【Subj Pred 的】３【Subj 是 Pred】这些变式才是这类现象的真正的distribution 才能一一对应到细微的语义计算表达语气的差别（nuances）。都是从基式【Subj Pred】（or 【NP VP】）加小词 derive 出来的。基式： Subj Pred 变式： 1 Subj 是 Pred 的 2 Subj Pred 的 3 Subj 是 Pred 1 最常见是一种缓和的肯定语气。2 更加口语化语气与 1 接近。3 就是强调语气。捕捉这些细微差别对于对话机器人有意义。梁: 记得，我们做过规则：是 VP 的 -- VP, 我是爱你的 -- 我爱你李: Thanks. I did not know that Moi 奥see @梁 kidding .... 梁:　 @wei :=) 对，语气略有不同。老外若问我，我会告诉他。其实，外国人学汉语，这种小词的细微差异最难。 2 Subj Pred 的，她卖菜的。 “卖菜的”是不是职业的意思，就是说”她的职业是卖菜“？李: 这 2 本来是通用的肯定语气，但恰好又与表达职业的独立的 “的字结构” 搅和在一起。梁：我拥护你的。加强了肯定语气。李: 1 我拥护你 --》我拥护你的 2 拥护你的不占多数 1 遵循的变式需要主谓齐全，而且不局限于 human action；2 里面的的字结构不需要主语的条件 “的字结构”做的也不是谓语，而是np，并且必须是 human action，常表达职业。这是两条道上跑的车但可能撞车。白: “这信写的连个落款都没有。” “等我有空的看怎么收拾你。” “这雨下的都没脚脖子了。” “那几天雨下的什么心情都没有。” 李: 一个一个来，先细看：“这信写的连个落款都没有。” 我的设想是将来应该可以学出很多词典化模式（lexicalized patterns or word-driven rules），不必做太多的 generalization。全句分析就是对这些词典化模式的拼接譬如上句。模式1：【这 O Vt de-buyu】模式2：【连个 O 都没有】　或者　【连个 O 都 Vt-negative】语言中这类模式成千上万。所谓一个人学会一个语言学得地道，就是这个人记住了这些模式，下意识的还是明意识的。总之是词典化模式烂熟于心，才可以像 native speakers那样自如。非词典化的语法实际上很少：主要就是规定这些细小模式如何拼接譬如上两个模式拼接：one form of de-buyu is de + S, so we can connect the 2 patterns: 【这 O Vt de-buyu】＋ S【连个 O 都没有】＝＝》“这信写的连个落款都没有。” 梁: 连个被子都叠不好！连个衣服都不会穿。白: 还是没说，如果没有词典化模式救驾，主谓宾又不齐全，“的”就一定不是+S？李: 那是另一回事。词典化模式是累积的。不是一开始就是 logically complete。梁: 不是一开始就是 logically complete 同意！李： “的” 的其他用法最后或者融化（或被表达）在与其搭配的词的词典化模式中，或者表达在它自身的模式中。最后由于其万能词的特性也可以作为直接量表达在少数的抽象规则模式中，即非词典化的语法模式规则中。白: 那还不如先都当同一个“的”用。后面再分。至少不会错。李: 这一点我一直持与白老师相反的意见：对于用法繁多的小词包括介词，我一直以为不要只围着小词本身做，而是应该各个击破负担分开来。小词本身只负担最后的标配用法。其他的搭配词承载小词也是举手之劳题中应有之义，而且小词也常是这些模式的必要（obligatory）或可预测（optional）的因素。白: “瞧把你得瑟的” 梁: “瞧把NP AP的” 瞧把她美的！李: @梁对就是这个思路。这里的 “把” 不再引导宾语而是引导主谓结构。放在模式里就一目了然这才是语义计算的真谛。梁: 我们人脑善于做 puzzle （拼板游戏）。白: 这不是问题，唯一一个坑，怎么引导也是它。小词就是模式的状态转换开关，这也不是问题。李: 词典模式不怕冗余越多越好。要说冗余和死记谁能比得上机器以及机器学习的ngrams，人会抽象，自然可以稍微聪明一点，但切记过度，聪明反被聪明误。梁: 好几个词一起做了一个坑，把 NP AP 套进去。白: 没有模式能做而小词不能做的，没有模式能识别而小词的特殊pos不能识别的。李: 需要各自保留意见了。即便能力等价，也还有其他层面的考量：直观性、可维护性、与语言直觉的距离，等等。白: 那是UI的问题。谁说定义在小词，界面也必须显示小词的词条？李: 是语言资源的可读性。模式我认为是最可读的。小词在 pos 层面做抽象影响了可读性和可维护性。白: 语言资源就是给机器读的，遇到要呈现给人的时候有一万种办法让人可读，这个根本无需操心。李: 小词没必要分类。白: 记得当年做XBRL标准，有人就拿可读性说事儿，我们就搞了屏幕取词转换，搞了把机读格式隐藏在用户友好界面中的工具，攻击的人从此闭嘴。所谓分类是字面意义的误导。我们要做的实际是告诉这个词的周边，有多少插座，有多少插头，什么制式的。哪怕这种标记是这个词独有的，也要这样标，并不因为独特性而偷工减料。分类这个说法似乎是给语言学家自己看的，其实不然。标记是给这个词的周边看的。有些插座和插头就是为模式准备的。在给人看的时候，自会转换成人最方便接受的样子。但是插头插座虽然不是人最方便接受的样子，却是词们彼此勾搭最方便的样子。梁: 我懂白老师想把“词负载语义”进行到底。李: “哪怕这种标记是这个词独有的，也要这样标”？白: 不这样标就会影响它与周边词的关系。李: 标记的必要性是别处要用，是用直接量不能表达或不能概括的部分。如果独有就没有必要因为直接量就是标注，这是其一。其二如果所标记的 pos 或 subcat，是为了自己的模式而不是别人用，也无必要，因为可以词典化。白: 标小词就是在做模式词典化，只不过模式不显性出现。举个例子，“连N都V”，连就是N+，都就是S+，顺顺当当吃掉，但是里面实际上在做状态转换。李: 形式都在模式里面了，还标注个啥。直接量多直观。白: 不是特意为模式标的。李: 我在词典主义和专家词典里面浸润太久，感觉上受益太多，不忍心抽象化。白: 直接量想要就有啊，表示是等价的。这是个UI问题。我这才是词典主义，除了词典不剩啥。李: 不太一样。你的词典主义貌似是词典标注主义，我的词典主义主体是规则词典化。专家词典（expert lexicon）里面全是模式，不怕冗余。与句法变换有接口，所以也不是完全没有抽象性。白: 不对，在插销和插座结合的时候，有个东西叫状态转换，它比模式更容易被机器接受，计算上更简洁。给人看是totally another story，跟实时计算没有一毛钱关系，根本是在编辑态下工作的。 “连”这个N+和N结合的时候，N这个位置上的状态是要发生变化的，某个开关打开。“都”这个S+和S结合的时候，S这个位置上的状态也是要发生变化的，某个开关关闭。其实准确地说“连”应该是X+，混混。李: 具体说说，哪个变化什么开关？我套用白老师：没有小词负载的结构不可以用模式去识别的。最多不过是冗余。冗余换来的是接地气。一眼看模式就可以知道背后的语言现象。模式的最原始形式就是 ngram，那就是直接给语言拍照。当然我们比ngram高明太多，但继承了其接地气的特性。白： subcat有静态和动态两种。静态的词典说啥是啥，动态的随着分析动作而变。动态subcat实际上就是状态。它们跟着词，但是不属于cat。也就是说，词负载结构不等于仅cat负载结构。subcat也在分担负载结构。但这部分subcat已经跟怎么画依存关系脱钩了，直接对接语义，所以不画出来。李: 从词义到逻辑语义的 subcat，最完美的体现是董老师的知网。白: 其实，模式与纯粹的二元关系本来就捏不到一起。模式往往代表多元关系，而多元关系是二元关系的组合。用动态subcat，可以借二元关系的壳，把多元关系重组起来。 Me: Me: 从词到句法的subcat最粗糙的体现在牛津朗曼词典里面。纽约大学的两部词典（COMPLEX and NOMLEX）稍微好一些，那是一帮爱打瞌睡动机不专的语言学博士生在名导督促下编制。显然没有nlp历练纯粹为交差。句法subcat最完美的体现自然是：立委牌2017新版语言学专家词典。白: 我觉得判别标准不能混淆。计算上怎么精准方便是一回事，人看了是否感觉优雅是另一回事。两者之间不能两全的时候，计算语言学要优先考虑“计算”，人看到什么，是可以用UI来转换弥补的。二元关系在计算上的优势，不用足了天理不容。李：模式也是有限状态怕啥。专家词典不仅仅是有限状态，而且专家词典还可以建立索引来提效。其实在绕过了中心嵌套的陷阱（我把它叫作乔老爷圈套）以后计算优势在其他几个指标中已经退居后位。除非是用在大数据实时处理的现场计算的考量不是紧要的。所谓二元关系vs模式匹配的关系说到底就是 bigram 与 ngram 的对比。有点像排列和组合的对比。只要这个n 是相当有限的通常不过五元，最常用的模式在三元左右。由于mult-level的模块化效应，三元左右的模式就可以涵盖几乎所有的远程（long-distance）句法。因此计算通常不会成为系统应用的瓶颈。【相关】【语义计算：李白对话录系列】【置顶：立委NLP博文一览】《朝华午拾》总目录【李白之50：符号战壕的两条道路之辩（续）】; 个人分类: 立委科普|4190 次阅读|0 个评论

【语义计算沙龙：坐而论道 on 中文 parsing】: liwei999 2016-12-6 18:42; 董: 刺死前妻男友男子获刑5年死者系酒醉持刀上门 -- 百度新闻 Stabbed her boyfriend man jailed for 5 years, the drunken knife door --百度翻译 Stabbed his ex-boyfriend boyfriend was sentenced to death for 5 years the Department of drunken knife door -- 谷歌翻译不知道这样结果是什么智能？ -- 人工？鬼工？骗工？白: 也是醉了董: 我主要是要探讨“连动”--酒醉，持刀，上门。这三个动词在知网词典里都是有的。酒醉 -- {dizzy|昏迷:cause={drink|喝:patient={drinks|饮品:{addict|嗜好:patient={~}}}}} 持刀 -- {hold|拿:aspect={Vgoingon|进展},patient={tool|用具:{cut|切削:instrument={~}},{split|破开:instrument={~}}}} 上门 -- {visit|看望} 酒醉的上位可达：“状态”；持刀的上位可达“行动”，但它与“拿”不同，它是“拿着”，所以定义描述里多了“aspect=Vgoningon”;最后是“上门” 它是“行动”。于是我试下面的规则： DefineVP1 0712 CN ;L1 $L1 @chunk(CN,L1)# // 酒醉持刀上门； DefineVP1 0722 CN ;L1 $L1 @chunk(CN,L1)# // 酒醉持刀上门；心里还是不踏实，因为没有大数据的支持。想听你们的意见。其他例子如：骑车上街买菜遇到一个老同学；白: 直观感觉，状态的标签不是太好贴。比如，拿着刀子砍人，拿着是状态；抡起斧子砍人，抡起就不是状态？隔着玻璃射击，隔着是状态；打开窗户通风，打开算不算状态？买菜和遇到老同学，谁是前景，谁是背景？谁是主线谁是旁岔，很难说。像伟哥这样一律next最省事。打开保险射击，打开保险就不是状态我: 伟哥于是成为懒汉的同义语。工业界呆久了想不懒都不成。我曾经多么勤勉地一条道走到黑啊。Next 的好处是拖延决策或者无需决策。可以拖延到语义中间件，有时也可以一直拖延到语义落地。更多的时候拖延到不了了之这就是无需决策的情形。白: 董老师说的就是语义落地啊。花五毛钱打酱油，花五毛钱打醋。花五毛钱该贴啥标签？要不是语义落地谁费这事儿。我: 花 money vp 这个是 subcat 可以预测的模式。凡是subcat可明确预测的句型通常都不是事儿。给标签于是成为 system internal 的内部协调。白: 关键是不知道该有多少标签，如何通过粒度筛选、领域筛选、时空背景筛选，快速拿到最有用的标签。我: 通常的给法是：money 是 o （object），vp 是 c （complement），这是句法。句法之上这几个节点如何标签逻辑语义也可以由 subcat 输出端强行给定。譬如可以给 vp 一个【结果】的标签，vp 是 “花钱” 的结果。 subcat 的实质就是定义输入端的线性模式匹配并指明如何 map 到输出端的句法和逻辑语义的结构。这种词典化的subcat驱动简化了分析算法而且包容了语义甚至常识。董: 我是因为首先要解决句法关系引起的。例如：欢迎参观；争取投资，就是VO关系，而不是参观游览。也就是说，两个或更多的动词连着时，如何排除歧义？试着只给两个标签：动宾、连动。我: 一般而言动宾是动决定的，连动可以是第一个动决定，也可以是随机的组合。后者有一个与conjoin区分的问题。 “欢迎” 在词典subcat 中决定了可以带 “参观” 这样的宾语，就事论事这个“欢迎-参观”的关系几乎是强搭配，与 “洗-澡” 类似。连动也有词典 subcat 决定的，譬如 “去” vp，“驱车” vp，“出门” vp。词典决定的东西没有排除歧义的问题就是词典绑架通过 subcat。只有随机组合才有歧义区分的问题。而动宾的本质是不随机，原则上不存在歧义一律是强盗逻辑本质就是记忆。可以假设人的动宾关系是死记在词典预测（expectation）里的，预测实现了动宾就构建了这符合 arg structure 的词典主义原则。董: 负责挖坑，负责浇水，负责填土。。。动宾关系；我: 负责 vp 为 vp 负责后者是变式董: 这么看来，动宾还是连动还是修饰（限定），都由词典解决了。统统做进词典里，就可以了。明白了。我: 词典主义。随机度太大的组合比较难做进词典。所以一方面尽量做进词典，另一方面来几条非词典化的规则兜个底。随机性而言似乎修饰大于连动连动大于动宾。白: 如果只有这三个标签，当然做进词典是首选，就怕落地时要的不止这三个。董：这是我刚才试的一个句子。我们为每个节点预留10个子节点。动词与动词也得包括这些。我: 进不进词典主要不是有几个标签而是这个标签的性质。语言学的理论比较文科，说的东西有些模糊，但大体还是有影子的。语言学理论中一个最基本的概念区分就是 complement vs adjunct，这是句法的术语，对应到较深的层面就是 argument vs modifier。一般而言，arguments or complements 都是词典的主导词可以 subcat 预测的。HowNet 从语义层面对 args 已经做了预测。语言学词典（譬如英语的计算词典，汉语的计算词典等）就是要相应地从具体语言的句法表达方式的角度把 subcat 预测的 complements 定义出来。至于 modifier 和 adjuncts，他们的组合性随机，词典就难以尽收。最典型的就是普世的时间地点状语等。世界上的所有事件都是在时间和地点中进行。白: 跑步去公园，去公园跑步。前者去公园的路上都在跑步，两个事件在时间上重合；后者只有到了公园才开始跑步，在时间上只是先后衔接。如果语义落地需要对此作出区分，该有什么标签？怎么词典化？动词为其他动词挖坑的情况都不难处理，难的是压根儿没有标配的坑。这是从ontology的事件根结点继承下来的。我: 跑步去公园，去公园跑步。先说第二句：【去 + NP + VP】这是可以词典预测的，万一预测不准，可以 fine-tune 条件，譬如：【去 + 地点 + 动作】，总之是词典预测的。既然词典预测了，那么该给什么标签就不是问题了。给什么都可以，要什么给什么。再看第一句：跑步去公园。去公园不是问题这是一个动宾 VP 是词典预测的：【去 + NP】或【去 + 地点】。问题于是就成为 “跑步” 与 VP（人类动作）之间的关系。这种关系在哪里处理，词典可以不可以预测？白: 吃口饭去单位，又是接续关系不是重叠关系了我: 这个的确有些 tricky 但不是无迹可寻。白: 跑会儿步去公园，也是接续关系了。我: 偷懒的办法就是有一条非辞典化的模糊的规则 Next 连接二者。费劲的办法也有：一个是 “跑步去” 词典化作为“去”的变体，“跑步”是对“去”的方式限定。白: 现在的问题是，句法上承认next，语义上细化next 我: 另一个词典化的做法是，在“跑步”词条下，预测 movement 的动词 VP, 【去NP】、【来NP】、【到达NP】等等都符合条件，可以跟在“跑步”后面。白: 为啥跑步加了时态，限定就失效？我: 这个预测的subcat里面的句法规定是： 1. 本词不许有显性时态，不许分离； 2. 后面的 VP 必须是 movement； 3. 输出端：本词作为后一个 VP 的限定方式（句法叫方式状语：adverbial of manner）。 Binggo! 至于为啥？这个问题，系统可以不回答，系统可以是数据驱动的。系统背后的语言学家可以一直为了 “为啥” 去争论下去，系统不必听见。总之是让 “跑会儿步去公园” 不能在此预测pattern中实现。词典化实现不了，那就只好找兜底的规则了，于是 Next 了。【限定】与【接续】的区别由此实现。前者是词典强盗，后者是句法标配。白: 在词典之外搞几个标签模版也不难，句法上都对着next，只不过依据前后subcat细化了，这有多困难，而且清爽。我: 亦无不可。差不多是一回事儿。一碗豆腐，豆腐一碗，就是先扣条件还是后补条件的区别而已。无论前后，总之是要用到词典信息，细线条的词典信息。白: 看上去不那么流氓我: 先耍流氓（注1），还是先门当户对，是两个策略。很多年前跟刘倬老师做专家词典。他是老一代无产阶级革命家，谆谆教导的是不能耍流氓，要门当户对，理想一致了才能结合成为革命伴侣。后来到了美国闹革命，开始转变策略，总是先耍了流氓再重新做人。其实都是有道理的。白: @董跑步和上班是先后关系，跑步和去是同时关系。董: 这句分析后，有两个“preceding”，不符合我们理想的结果。我们要的是“跑步”是“去上班”的manner 才好。因为我们要准备用户提出更多的信息要求。例如：系统要告诉用户，我平时是HOW去上班的。我: 刘老师做系统是在科学院殿堂里面，可以数年磨一剑，we can afford to 不耍流氓。来美国闹革命拿的是风投的钱，恨不能你明天就造出语言理解机器人出来，鞭子在上，不耍流氓出不了活。形势比人强，不养童养媳成不了亲，不抓壮丁打不了仗，于是先霸王，然后有闲再甄别。董: 是的，我们现在连科学院殿堂都不是，而是家庭作坊，可以慢慢磨。其实已经磨了20多年了。我: 我还记得当年我们为了一个不足100句的英语sample，翻来覆去磨剑磨了两三年，反复地磨平台、磨算法和磨规则。当时的董老师已经大数据（现在看也不是大数据了）开放集测试“科研一号”【注：中国MT划时代的第一款工业产品“译星”的前身】了。董: 我们给我们的现在开发的中文分析的目标是：看看能最大限度地挖掘出多少信息。我: 董老师20年磨出的 HowNet 打下了语言分析的牢固基础。现在是把普世的 HowNet 细化为具体语言的句法规定。路线上是一脉相承的。换个角度看，董老师在 HowNet 中已经把普世的 Subcat 的输出端统一定义了，现在是要反过来再进一步去定义具体语言的句法表达形式，也就是输入端的pattern和条件，然后把二者的映射关系搭上，大功即告成。先深层结构和 UG，然后回过头来应对每个语言的鸡零狗碎的形式。董: 这倒是的，我们这个中文系统还没到半年，就有点模样了。词典22万义项，规则近4000条。当然，要真正交给用户，那还有一段磨的。我: 蛮 impressive。我们开发四年多了，但绝对没有 8x 的规则量。董: 这回我们不做中英翻译，因为英语生成我们做不起，又没有大数据的。其实做出来也只是给别人添砖加瓦，多一个陪着玩的。这种事情我们不玩的。我: 对，MT 从大面上就拱手相让吧，数据为王。符号逻辑和规则路线现在的切入点就是应对数据不足的情境：其实数据不足比人们想象的要严重得多，领域、文体等等，大数据人工标注根本玩不起。不带标的 raw 数据哪里都不缺但那比垃圾也好不了多少。宋: 中国对蒙出口产品开始加征费用白: 这个哪里特殊？宋: 中国对(蒙出口产品)开始加征费用, (中国对蒙)出口产品开始加征费用白: 进口出口，应该站在自己立场吧宋: 出口是自己的立场，但也有两种解读：蒙古出口，中国对蒙古出口。我一开始理解为后者，看了内容才知道是前者。我: 这个 tricky，在争抢同一个介词“对”：对 np 征税；对 n 出口。远距离赢。白: 常识是保护自己一方的出口，限制非自己一方的进口我: 远距离原则有逻辑 scope 的根据。但是具体看很难说因为汉语的介词常常省略。scope 的起点用零形式并不鲜见。 “对阔人征税” 可以减省为 “阔人征税”；“对牛肉征税” 可以简化为 “牛肉征税”。但 “对蒙古出口”，不可简化为 “蒙古出口”。本来也可以简化的，但赶上了 “出口” ，逻辑主语相谐。“牛肉” 与 “征税” 没有这种逻辑主谓的可能，于是“对”可省而NP的逻辑语义不变。白: 势均力敌时，常识是关键一票宋: 这个例子在我所看到的语境下是远距离赢，在别的语境下则不一定。因此，分析器是否应当给出两个结果，然后在进一步的处理中再筛选？我: 给两个结果原则上没难度，但后去还是麻烦。白: 其实关键是什么时候定结果，几个倒在其次我: 中国对蒙出口产品开始被加征费用加了一个被字哈哈可能是蒙古对中国的反制。白: 两个对，有一个和被不兼容 ~~~~~ 【注1】所谓parsing耍流氓，指的是在邻近的短语之间，虽然他们之间句法语义关系的条件和性质尚不清晰，parser 先行把他们勾搭上，给个 Next 或 Topic 之类的虚标签，类似未婚同居，后去或确认具体关系，明媒正娶，或红杏出墙，另攀高枝，或划清界限，分手拉倒。中文处理 Parsing 【置顶：立委NLP博文一览】《朝华午拾》总目录; 个人分类: 立委科普|3373 次阅读|0 个评论

更多...

帐号		自动登录	找回密码
密码			注册

关闭 安全验证

标签: 词典主义

相关帖子

相关日志

关闭安全验证