很可惜 T 。T 您现在还不是作者身份，不能自主发稿哦～
如有投稿需求，请把文章发送到邮箱tougao@appcpx.com，一经录用会有专人和您联系
咨询如何成为春羽作者请联系：鸟哥笔记小羽毛（ngbjxym）
这是彭文华的第110篇原创
以前分享过DMP（数据管理平台）的来龙去脉。DMP是互联网最挣钱的广告系统中的用户基础数据提供方。百度的凤巢、淘宝的直通车（阿里妈妈）还有腾讯的广点通，是老牌三大网络广告投放平台，现在多了一个头条的巨量引擎。
阿里妈妈曾经创造了阿里巴巴80%的现金收入。现在头条系的流量也起来了，巨量引擎给今日头条每年带来超千亿的广告收入！
简单来说，我们在互联网上看到的任何一个广告，再说一遍，是任何一个广告，背后都有一个DSP系统在支持着。
今天就给大家分享一下广告系统核心DSP（Demand Side Platform，广告需求方平台）的架构设计。
DSP就是广告主需求平台，是广告系统中最重要的系统，相当于电商系统中的交易平台一样。只不过呢，DSP是广告主在买展现的机会（广告位），卖家是广告展现位置的拥有者（媒体），商品就是用户的点击了（商机）。简单来说，DSP就是互联网公司用流量变现的超级利器！
互联网广告系统整体是这个样子的：
如图所示，整个广告系统作为平台，一边是广告主，一边是媒体提供的广告位。拥有广告位资源的媒体，通过接入SSP，将广告资源放在供应商平台上；想投放广告的广告主，则在DSP上制定投放计划，寻找投放资源，ADN广告网络和ADX广告交易市场则完成双方需求的匹配和投放。
所以广告系统的需求基本上就能列出来了：
要给广告主提供媒体端提供的广告位资源列表
要给广告主提供按需购买和展现广告的服务
要给广告主提供广告展示和点击的效果
要在广告费用用完的时候及时停止展示，同时给双方提供费用清单
既然整个广告系统已经摸的差不多了，咱就把DSP放大看看。按照信息系统建设的逻辑，先把DSP的业务流程梳理一下，然后再划分其各项功能，然后就能把数据逻辑和架构整理出来了。
我们先画出业务流程图，以百度推广为例，它的投放流程如下：
广告主在百度凤巢上的流程是这样的：先建立投放计划，计划中会建立投放单元，然后管理创意，选择关键词，对关键词进行竞价（出价），确认后完成投放计划。凤巢就会根据广告主设置的规则，进行广告投放。每当有人搜索一个关键词，就按照规则给他展示；有人点击，就给他计费；最后在广告主的页面上把统计结果展示出来。
既然业务流程弄清楚了，那就可以开始画系统的架构图了。DSP其实囊括了：
广告渠道接入能力，对接ADX；
用户标签数据接入能力，对接DMP；
投放策略管理能力，面向广告主的投放素材的投放策略管理，从需求侧（广告侧）增加点击概率；
算法能力，资源的智能匹配，让合适的人在合适的地方和时间看到合适的广告，从供应侧（用户侧）增加点击概率；
实时能力，实时监控，动态调整，不浪费一个展现机会，也不多展示一次；
统计展现能力，实时计算和统计，能长时间追溯和分析。
上图基本上就是DSP所需要的各项关键能力。底层需要有广告渠道和用户数据对接能力，核心是策略和算法能力，上层得有实时监控和数据统计展示能力。
系统架构有了，咱再画一下数据架构图。先整理一下思路：用户数据有DMP，广告资源有ADX，我们都不用管；算法和策略各自有一帮人负责，一方面那些都属于事务性，另一方面属于算法和策略方面，咱数据组也不用管，只需要考虑实时监测和数据统计展现就行了。
前面肯定得有实时数据采集，另外还得从DMP里拿到用户标签数据。中间得是两个应用，一个是广告资源列表，一个是广告购买（RTB），现在都是竞价购买的形式（这些不属于DSP，只是辅助理解业务）。后面则是数据统计和展示服务。整个系统大概就是这样的：
中间的广告业务应用就扔给业务开发团队，我们往下梳理数据架构图。前面的实时数据采集一般就是Nginx转发，后面可以用flume，但必须得用kafka进行分发，一边走实时，一边走离线。这里因为涉及到钱，可能要回溯很久的数据，所以建议Lambda架构，因为kappa回溯老数据的时候非常费劲。实时这边建议直接走flink+kafka，缓存用redis，持久用Hbase，算完之后数据建议直接扔实时数仓里。离线那边就随便了，用Hive + Spark就行；实时数仓可以用CK、Doris、Druid等；展示用Data V、Davinci等。所以数据架构图就出来了：
当然，这个架构图还很简单，很多细节还没细化，比如第三方的数据没及时到，该咋办？各个指标应该如何管理和计算？如何保证各个环节的exactly only、深分页等等。这些都是流失计费系统需要解决的问题。
数据不及时：FLink自身的Watermark机制，增加环节Retry，多等一会；
exactly only：两阶段递交、三阶段递交、paxos保证端到端exactly only；
深分页：分桶+谓词下推+并行查询。
百度凤巢用的是自研的Drios（原百度palo），17年开源，后来当时的创始人叶谦大佬带研发团队出来创业。现在已经是炙手可热的MPP类实时OLAP产品了。他们的公众号是DorisDB，大家可以关注一波，里面有美团、小米、京东等大厂的分享经验，我就不复制粘贴了。之前分享过一个进大厂的小秘籍，就是找一些只有大厂才会用的产品，会用了，练熟了，就好进大厂了
。这个秘籍一般人我不告诉他
！
阿里优酷用的是定制化的kylin，这个很有意思，Kylin本来是需要预计算的，按理来说不太适合实时场景，但是他们通过微批+预计算Rollup物化视图等手段保证数据构建效率，通过Blink分钟级微批计算，Kylin分钟级增量保证实时性。居然结果还非常不错~~~
头条的巨量引擎用的是Druid，这是一个基于时序的数据库。因为广告数据全部都是日志数据，天然有序，对于Druid来说非常匹配。基本能做到来一条算一条，这效率嗷嗷的。不过Druid不支持join，对场景和设计水平有比较高的要求。
对了，另外还给你准备了DSP的业务介绍书籍和计算广告领域经典书籍，还有优酷的DSP实践，各位可以瞅瞅。后台回复“DSP”即可下载。
配合以下文章享受更佳
我需要你的点赞，爱你哟
本文为作者独立观点，不代表鸟哥笔记立场，未经允许不得转载。
《鸟哥笔记版权及免责申明》 如对文章、图片、字体等版权有疑问，请点击 反馈举报
Powered by QINGMOB PTE. LTD. © 2010-2022 上海青墨信息科技有限公司 沪ICP备2021034055号-6
我们致力于提供一个高质量内容的交流平台。为落实国家互联网信息办公室“依法管网、依法办网、依法上网”的要求，为完善跟帖评论自律管理，为了保护用户创造的内容、维护开放、真实、专业的平台氛围，我们团队将依据本公约中的条款对注册用户和发布在本平台的内容进行管理。平台鼓励用户创作、发布优质内容，同时也将采取必要措施管理违法、侵权或有其他不良影响的网络信息。
一、根据《网络信息内容生态治理规定》《中华人民共和国未成年人保护法》等法律法规，对以下违法、不良信息或存在危害的行为进行处理。
1. 违反法律法规的信息，主要表现为：
1)反对宪法所确定的基本原则；
2)危害国家安全，泄露国家秘密，颠覆国家政权，破坏国家统一，损害国家荣誉和利益；
3)侮辱、滥用英烈形象，歪曲、丑化、亵渎、否定英雄烈士事迹和精神，以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉；
4)宣扬恐怖主义、极端主义或者煽动实施恐怖活动、极端主义活动；
5)煽动民族仇恨、民族歧视，破坏民族团结；
6)破坏国家宗教政策，宣扬邪教和封建迷信；
7)散布谣言，扰乱社会秩序，破坏社会稳定；
8)宣扬淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪；
9)煽动非法集会、结社、游行、示威、聚众扰乱社会秩序；
10)侮辱或者诽谤他人，侵害他人名誉、隐私和其他合法权益；
11)通过网络以文字、图片、音视频等形式，对未成年人实施侮辱、诽谤、威胁或者恶意损害未成年人形象进行网络欺凌的；
12)危害未成年人身心健康的；
13)含有法律、行政法规禁止的其他内容；
2. 不友善：不尊重用户及其所贡献内容的信息或行为。主要表现为：
1)轻蔑：贬低、轻视他人及其劳动成果；
2)诽谤：捏造、散布虚假事实，损害他人名誉；
3)嘲讽：以比喻、夸张、侮辱性的手法对他人或其行为进行揭露或描述，以此来激怒他人；
4)挑衅：以不友好的方式激怒他人，意图使对方对自己的言论作出回应，蓄意制造事端；
5)羞辱：贬低他人的能力、行为、生理或身份特征，让对方难堪；
6)谩骂：以不文明的语言对他人进行负面评价；
7)歧视：煽动人群歧视、地域歧视等，针对他人的民族、种族、宗教、性取向、性别、年龄、地域、生理特征等身份或者归类的攻击；
8)威胁：许诺以不良的后果来迫使他人服从自己的意志；
3. 发布垃圾广告信息：以推广曝光为目的，发布影响用户体验、扰乱本网站秩序的内容，或进行相关行为。主要表现为：
1)多次发布包含售卖产品、提供服务、宣传推广内容的垃圾广告。包括但不限于以下几种形式：
2)单个帐号多次发布包含垃圾广告的内容；
3)多个广告帐号互相配合发布、传播包含垃圾广告的内容；
4)多次发布包含欺骗性外链的内容，如未注明的淘宝客链接、跳转网站等，诱骗用户点击链接
5)发布大量包含推广链接、产品、品牌等内容获取搜索引擎中的不正当曝光；
6)购买或出售帐号之间虚假地互动，发布干扰网站秩序的推广内容及相关交易。
7)发布包含欺骗性的恶意营销内容，如通过伪造经历、冒充他人等方式进行恶意营销；
8)使用特殊符号、图片等方式规避垃圾广告内容审核的广告内容。
4. 色情低俗信息，主要表现为：
1)包含自己或他人性经验的细节描述或露骨的感受描述；
2)涉及色情段子、两性笑话的低俗内容；
3)配图、头图中包含庸俗或挑逗性图片的内容；
4)带有性暗示、性挑逗等易使人产生性联想；
5)展现血腥、惊悚、残忍等致人身心不适；
6)炒作绯闻、丑闻、劣迹等；
7)宣扬低俗、庸俗、媚俗内容。
5. 不实信息，主要表现为：
1)可能存在事实性错误或者造谣等内容；
2)存在事实夸大、伪造虚假经历等误导他人的内容；
3)伪造身份、冒充他人，通过头像、用户名等个人信息暗示自己具有特定身份，或与特定机构或个人存在关联。
6. 传播封建迷信，主要表现为：
1)找人算命、测字、占卜、解梦、化解厄运、使用迷信方式治病；
2)求推荐算命看相大师；
3)针对具体风水等问题进行求助或咨询；
4)问自己或他人的八字、六爻、星盘、手相、面相、五行缺失，包括通过占卜方法问婚姻、前程、运势，东西宠物丢了能不能找回、取名改名等；
7. 文章标题党，主要表现为：
1)以各种夸张、猎奇、不合常理的表现手法等行为来诱导用户；
2)内容与标题之间存在严重不实或者原意扭曲；
3)使用夸张标题，内容与标题严重不符的。
8.「饭圈」乱象行为，主要表现为：
1)诱导未成年人应援集资、高额消费、投票打榜
2)粉丝互撕谩骂、拉踩引战、造谣攻击、人肉搜索、侵犯隐私
3)鼓动「饭圈」粉丝攀比炫富、奢靡享乐等行为
4)以号召粉丝、雇用网络水军、「养号」形式刷量控评等行为
5)通过「蹭热点」、制造话题等形式干扰舆论，影响传播秩序
9. 其他危害行为或内容，主要表现为：
1)可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好影响未成年人身心健康的；
2)不当评述自然灾害、重大事故等灾难的；
3)美化、粉饰侵略战争行为的；
4)法律、行政法规禁止，或可能对网络生态造成不良影响的其他内容。
二、违规处罚
本网站通过主动发现和接受用户举报两种方式收集违规行为信息。所有有意的降低内容质量、伤害平台氛围及欺凌未成年人或危害未成年人身心健康的行为都是不能容忍的。
当一个用户发布违规内容时，本网站将依据相关用户违规情节严重程度，对帐号进行禁言 1 天、7 天、15 天直至永久禁言或封停账号的处罚。当涉及欺凌未成年人、危害未成年人身心健康、通过作弊手段注册、使用帐号，或者滥用多个帐号发布违规内容时，本网站将加重处罚。
三、申诉
随着平台管理经验的不断丰富，本网站出于维护本网站氛围和秩序的目的，将不断完善本公约。
如果本网站用户对本网站基于本公约规定做出的处理有异议，可以通过「建议反馈」功能向本网站进行反馈。
(规则的最终解释权归属本网站所有)