很可惜 T 。T 您现在还不是作者身份，不能自主发稿哦～
如有投稿需求，请把文章发送到邮箱tougao@appcpx.com，一经录用会有专人和您联系
咨询如何成为春羽作者请联系：鸟哥笔记小羽毛（ngbjxym）
开局一张图
对数据应用感兴趣的朋友们好～古牧君这次跟大家分享一下，我们日常在网上的留言评论，都会被怎么分析利用，能产生哪些价值。这也正好对应了数据产品的一个子类——舆情数据产品
首先统一一下定义，我们在网上的各种留言评论包括弹幕，统统都可以归为舆情数据的范畴，只不过在不同人眼中，有不同的应用价值
舆情数据的应用可以粗略分为面子和里子：
面子，主要是政府和企业，想及时知道大家的看法，尤其是有没有骂的；以及如果有突发**件，需要尽快的知道，最好能在初始阶段就控制好源头，不要让事情闹大了
里子，主要是企业，想知道消费者对他的品牌或者产品有什么看法，好的坏的都可以，而且越具体越好。比如一款新车上市了，车企自我感觉良好，但消费者到底买不买帐？如果不买帐的话，到底是觉得哪儿有问题，告诉我们，我们好去改
这种事情在前互联网时代是怎么搞定的呢？主要靠调研咨询公司了。他们会拟定科学详尽的问卷调研方案，然后通过电话或者直接出街拉人头问问题，了解广大用户的心声
这种做法，肉眼可见的问题就是人工成本高，需要铺不少人力去打电话或者访谈；同时，周期也比较长，一般都是以月为单位计数；再有，就是操作空间比较大，毕竟中间隔着好几个人工环节，你懂的......
来到互联网时代，我们有专门针对舆情的数据产品来解决。一共5步，就可以产品化自动化的给出答案。这其中政府的事儿不好说，所以就只重点介绍下企业是怎么利用舆情数据，了解消费者对自家品牌or产品的看法
第一步就是构建一个图谱，叫行业知识库也行。这个图谱其实并没有很高级，一个初级的行业图谱，一个Excel文档可以搞定了。它的作用很简单，就是把那些非结构化的舆情数据，通过关键词映射到标签，转化为结构化的、可以被统计分析的数据
一般一个行业图谱，都会有品牌、产品、细分市场和关注点这4类
品牌顾名思义，就是一个行业里大部分品牌的叫法，这些关键词同时还能帮你框定一个行业的基本数据范围
细分市场你可以理解为是跟品牌进行交叉组合的一个维度or标签，比如汽车行业里，车型、产地、能源类型等都可以作为细分市场，它往往是每个行业独有的一种划分方式。比如宝马跟车型进行交叉组合，就可以有宝马的suv、宝马的轿车等不同的细分领域了
产品是比品牌更小的一个粒度，比如宝马x5、奥迪a6，它的粒度已经细化到没法再跟细分市场进行交叉组合了
最后是关注点，就是一般消费者会从哪些角度来评价一个品牌or产品。它可以有层级关系，比如汽车的外观，可以进一步下钻到具体的颜色啊、大灯啊、前脸啊什么的
具象一些，就是上面这个Excel截图示例了。最关键的就是第一列的关键词，品牌、产品、细分市场和关注点这4大类标签都是通过这些关键词进行匹配的。比如一句话是“奥迪a1在国内价格进一步走低”，那么它就会被打上品牌=奥迪、产品=奥迪a1、关注点=价格、车型=小型车、能源类型=传统能源、厂商属性=进口等一系列标签。可以发现，这里面有些标签映射关系是显性的，比如产品和关注点，字面上提到了哪些词，就会被打上对应的标签；而另外一些标签是隐性的，依靠的就是行业图谱，而这个行业图谱的结构基本都是依赖业务专家人工搭建，但关键词那列会需要很多技术支持。比如同样一个商品，官方有一种叫法，但消费者往往会赋予不同的昵称，如果漏掉后者，就会遗漏很多舆情数据
有了一个框架，我们就可以满世界的去爬数据了。正如上文演示，我们通过关键词去匹配数据，但也需要先把控一下数据的来源。一般情况，企业都会比较重视两微一抖，也就是微信、微博和抖音。微信指的是公众号，这是一个很大的舆情数据来源；微博虽然大家日常很少发言了，但对于品牌宣传来讲，仍然是一个兵家必争之地；抖音是新晋的广告品宣投放重地，自然也不能放过。除此之外，一些行业垂直性的论坛贴吧，也经常有高质量、大密度的讨论，自然也要搜罗进来
这些数据怎么来？对一些小厂商来说，只能靠爬虫了，而且还经常会被数据的拥有方通过各种反爬虫手段屏蔽。所以这是个体力活，而且爬下来的数据量级很大，比如微博、公众号、贴吧，很难做到全量的爬取，这就又要考验存储实力。所以你看，自己拥有这些数据，是多么省时省力
而且爬的时候也要挑，也有一定策略。比如微信公众号吧，这里面有大量的自媒体，文章的标题正文本身，就代表着作者的观点，能量不小。比如前两年的《腾讯没有梦想》，着实让腾讯的公关在梦里都得好好想想。同时，公众号下面的精选评论，也都是网民的态度。那么问题就来了，有些文章，人家标题就不会有汽车啊、奥迪啊这些词，但正文里满满的都是对品牌的品头论足，这种文章你爬不爬？还有些文章，标题党，蹭热门，但正文满不是那么回事儿，这种文章你爬不爬？还有些文章，本来是说奔驰的，结果评论翻车跑偏了，大家都聊奥迪去了，作为奥迪的厂商爸爸，这些评论你要不要？
诶......想想就头大是不是？
然而更头大的还在后面，数据清洗。行业图谱阶段，我们通过关键词，尽量多的囊括一个行业的舆情数据，但里面有很多噪音杂质，比如上面提到的标题党啊、还有各种广告水军，不把它们给清理干净，你就很难听到消费者真正的声音
像标题党，我们可以通过正文去辅助判断。交给机器学习就好了，只要文章字数够多，判断它是否这个行业的准确性就能足够高；但一些评论数据就会犯难了，因为它字数少，信息量小，这就需要用到上下文关系去判断了。一提到上下文语义识别，就很难了，机器目前真心没法像人一样读懂很多句子的潜台词以及上下的关联。这种例子不仅标题党，一词多义也是。比如红牛，它既是饮料、又是个F1车队、还是个球队的名称，这个词要是出现在一大段文字中还好办，也是就来一句“红牛不错”，你说你咋整？
好在，技术在不断的进步，而且大数据时代嘛，大家都追求用足够多的“好数据”淹没稀释那些“脏数据”，不影响大面儿上的结论就还好......
进一步，非常需要用情感模型来识别消费者的评价是好是坏。而且我们的目标更高阶一些，不仅仅要识别出消费者对品牌or产品的看法，还要具体到对品牌or产品的某个关注点的看法，这对情感模型也是一件颇有难度的事儿
比如“奔驰的外观比较大气稳重，要是价格也能像外观一样就好了”，这句话里既有品牌词（奔驰）、也有关注点词（外观、价格）、还有表达情感正负向的词（大气稳重）。我们人类是比较好识别出来，这句话是夸奔驰的外观，但对它的定价略有微词
可对机器就比较犯难了，首先机器需要能识别出，“大气稳重”这个褒义词跟“外观”是一对儿，而不是修饰“价格”的；其次，机器还需要能理解“要是xxx也能像xxx一样就好了”这种句式，稍有不慎就会把“价格”跟“好”凑成一对，那不就满拧了么？～
本文为作者独立观点，不代表鸟哥笔记立场，未经允许不得转载。
《鸟哥笔记版权及免责申明》 如对文章、图片、字体等版权有疑问，请点击 反馈举报
Powered by QINGMOB PTE. LTD. © 2010-2022 上海青墨信息科技有限公司 沪ICP备2021034055号-6
我们致力于提供一个高质量内容的交流平台。为落实国家互联网信息办公室“依法管网、依法办网、依法上网”的要求，为完善跟帖评论自律管理，为了保护用户创造的内容、维护开放、真实、专业的平台氛围，我们团队将依据本公约中的条款对注册用户和发布在本平台的内容进行管理。平台鼓励用户创作、发布优质内容，同时也将采取必要措施管理违法、侵权或有其他不良影响的网络信息。
一、根据《网络信息内容生态治理规定》《中华人民共和国未成年人保护法》等法律法规，对以下违法、不良信息或存在危害的行为进行处理。
1. 违反法律法规的信息，主要表现为：
1)反对宪法所确定的基本原则；
2)危害国家安全，泄露国家秘密，颠覆国家政权，破坏国家统一，损害国家荣誉和利益；
3)侮辱、滥用英烈形象，歪曲、丑化、亵渎、否定英雄烈士事迹和精神，以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉；
4)宣扬恐怖主义、极端主义或者煽动实施恐怖活动、极端主义活动；
5)煽动民族仇恨、民族歧视，破坏民族团结；
6)破坏国家宗教政策，宣扬邪教和封建迷信；
7)散布谣言，扰乱社会秩序，破坏社会稳定；
8)宣扬淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪；
9)煽动非法集会、结社、游行、示威、聚众扰乱社会秩序；
10)侮辱或者诽谤他人，侵害他人名誉、隐私和其他合法权益；
11)通过网络以文字、图片、音视频等形式，对未成年人实施侮辱、诽谤、威胁或者恶意损害未成年人形象进行网络欺凌的；
12)危害未成年人身心健康的；
13)含有法律、行政法规禁止的其他内容；
2. 不友善：不尊重用户及其所贡献内容的信息或行为。主要表现为：
1)轻蔑：贬低、轻视他人及其劳动成果；
2)诽谤：捏造、散布虚假事实，损害他人名誉；
3)嘲讽：以比喻、夸张、侮辱性的手法对他人或其行为进行揭露或描述，以此来激怒他人；
4)挑衅：以不友好的方式激怒他人，意图使对方对自己的言论作出回应，蓄意制造事端；
5)羞辱：贬低他人的能力、行为、生理或身份特征，让对方难堪；
6)谩骂：以不文明的语言对他人进行负面评价；
7)歧视：煽动人群歧视、地域歧视等，针对他人的民族、种族、宗教、性取向、性别、年龄、地域、生理特征等身份或者归类的攻击；
8)威胁：许诺以不良的后果来迫使他人服从自己的意志；
3. 发布垃圾广告信息：以推广曝光为目的，发布影响用户体验、扰乱本网站秩序的内容，或进行相关行为。主要表现为：
1)多次发布包含售卖产品、提供服务、宣传推广内容的垃圾广告。包括但不限于以下几种形式：
2)单个帐号多次发布包含垃圾广告的内容；
3)多个广告帐号互相配合发布、传播包含垃圾广告的内容；
4)多次发布包含欺骗性外链的内容，如未注明的淘宝客链接、跳转网站等，诱骗用户点击链接
5)发布大量包含推广链接、产品、品牌等内容获取搜索引擎中的不正当曝光；
6)购买或出售帐号之间虚假地互动，发布干扰网站秩序的推广内容及相关交易。
7)发布包含欺骗性的恶意营销内容，如通过伪造经历、冒充他人等方式进行恶意营销；
8)使用特殊符号、图片等方式规避垃圾广告内容审核的广告内容。
4. 色情低俗信息，主要表现为：
1)包含自己或他人性经验的细节描述或露骨的感受描述；
2)涉及色情段子、两性笑话的低俗内容；
3)配图、头图中包含庸俗或挑逗性图片的内容；
4)带有性暗示、性挑逗等易使人产生性联想；
5)展现血腥、惊悚、残忍等致人身心不适；
6)炒作绯闻、丑闻、劣迹等；
7)宣扬低俗、庸俗、媚俗内容。
5. 不实信息，主要表现为：
1)可能存在事实性错误或者造谣等内容；
2)存在事实夸大、伪造虚假经历等误导他人的内容；
3)伪造身份、冒充他人，通过头像、用户名等个人信息暗示自己具有特定身份，或与特定机构或个人存在关联。
6. 传播封建迷信，主要表现为：
1)找人算命、测字、占卜、解梦、化解厄运、使用迷信方式治病；
2)求推荐算命看相大师；
3)针对具体风水等问题进行求助或咨询；
4)问自己或他人的八字、六爻、星盘、手相、面相、五行缺失，包括通过占卜方法问婚姻、前程、运势，东西宠物丢了能不能找回、取名改名等；
7. 文章标题党，主要表现为：
1)以各种夸张、猎奇、不合常理的表现手法等行为来诱导用户；
2)内容与标题之间存在严重不实或者原意扭曲；
3)使用夸张标题，内容与标题严重不符的。
8.「饭圈」乱象行为，主要表现为：
1)诱导未成年人应援集资、高额消费、投票打榜
2)粉丝互撕谩骂、拉踩引战、造谣攻击、人肉搜索、侵犯隐私
3)鼓动「饭圈」粉丝攀比炫富、奢靡享乐等行为
4)以号召粉丝、雇用网络水军、「养号」形式刷量控评等行为
5)通过「蹭热点」、制造话题等形式干扰舆论，影响传播秩序
9. 其他危害行为或内容，主要表现为：
1)可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好影响未成年人身心健康的；
2)不当评述自然灾害、重大事故等灾难的；
3)美化、粉饰侵略战争行为的；
4)法律、行政法规禁止，或可能对网络生态造成不良影响的其他内容。
二、违规处罚
本网站通过主动发现和接受用户举报两种方式收集违规行为信息。所有有意的降低内容质量、伤害平台氛围及欺凌未成年人或危害未成年人身心健康的行为都是不能容忍的。
当一个用户发布违规内容时，本网站将依据相关用户违规情节严重程度，对帐号进行禁言 1 天、7 天、15 天直至永久禁言或封停账号的处罚。当涉及欺凌未成年人、危害未成年人身心健康、通过作弊手段注册、使用帐号，或者滥用多个帐号发布违规内容时，本网站将加重处罚。
三、申诉
随着平台管理经验的不断丰富，本网站出于维护本网站氛围和秩序的目的，将不断完善本公约。
如果本网站用户对本网站基于本公约规定做出的处理有异议，可以通过「建议反馈」功能向本网站进行反馈。
(规则的最终解释权归属本网站所有)