今日頭條技術架構到底多強?從各角度分析今日頭條

  • A+
所屬分類:科技
摘要

一、產品背景今日頭條是為用戶提供個性化資訊客戶端。下面就和大家分享一下當前今日頭條的數據(據內部與公開數據綜合):

今日頭條技術架構到底多強?從各角度分析今日頭條
一、產品背景

0170;085;頭條是為用戶提供個性化資訊客戶端。下面3601;和大家分享一下當前今日頭條的數據(據內部與公開數據綜合):

  • 5億註冊用戶
  • 2014年5月1.5億,2015年5月3億,2016年5月份為5億。幾乎為成倍增長。
  • 日活4800萬用戶
  • 2014年為1000萬日活,2015年為3000萬日活。
  • 日均5億PV
  • 5億文章瀏覽,視頻為1億。頁面請求量超過30億次。
  • 用戶停留時長超過65分鐘以上

1、文章抓取與分析

我們日常產生原創新聞在1萬篇左右,包括各大新聞網站和地方站,另外還有一些小說,博客等文章。這些對於工程師來講,寫個Crawler並非困難的事。

接下來,今日頭條會用人工方式對敏感文章進行審核過濾。此外,今日頭條頭條號目前也有為數不少的原創文章加入到了內容遴選隊列中。

接下來我們會對文章進行文本分析,比如分類,標籤、主題抽取,按文章或新聞所在地區,熱度,權重等計算。

2、用戶建模

當用戶開始使用今日頭條後,對用戶動作的日誌進行實時分析。使用的工具如下:

  • Scribe
  • Flume
  • Kafka

我們對用戶的興趣進行挖掘,會對用戶的每個動作進行學習。主要使用:

  • Hadoop
  • Storm

產生的用戶模型數據和大部分架構一樣,保存在MySQL/MongoDB(讀寫分離)以及Memcache/Redis中。

隨著用戶量的不斷擴展大,用戶模型處理的機器集群數量較大。2015年前為7000台左右。其中,用戶推薦模型包括以下維度:

  • 1 用戶訂閱
  • 2 標籤
  • 3 部分文章打散推送

此時,需要每時每刻做推薦。

3、新用戶的“冷啟動”

今日頭條會通過用戶使用的手機,操作系統,版本等“識別”。另外,比如用戶通過社交帳號登錄,如新浪微博,頭條會對其好友,粉絲,微博內容及轉發、評論等維度進行對用戶做初步“畫像”。

分析用戶的主要參數如下:

  • 關注、粉絲關係
  • 關係
  • 用戶標籤

除了手機硬件,今日頭條還會對用戶安裝的APP進行分析。例如機型和APP結合分析,用小米,用三星的和用蘋果的不同,另外還有用戶瀏覽器的360;籤。頭條會實時捕捉用戶對APP頻道的動作。另外還包括用戶訂閱的頻道,比如電影,段子,商品等。

4、推薦系統

推薦系​​統,也稱推薦引擎。它是今日頭條技術架構的核心部分。包括自動推薦與半自動推薦系統兩種類型:

1) 自動推薦系統

  • 自動候選
  • 自動匹配用戶,如用戶地址定位,抽取用戶信息
  • 自動生成推送任務

這時需要高效率,大並發的推送系統,上億的用戶都要收到。

2)半自動推薦系統

  • 自動選擇候選文章
  • 根據用戶站內外動作

頭條的頻道,在技術側劃分的包括分類頻道、興趣標籤頻道、關鍵詞頻道、文本分析等,這些都分成相對獨立的開發團隊。目前已經有300+個分類器,仍在不斷增加新的用戶模型,原來的用戶模型不用撤消,仍然發揮作用。

在還沒有推出頭條號時,內容主要是抓取其它平台的文章,然後去重,一年幾百萬級,並不太大。主要是用戶動作日誌收集,興趣收集,用戶模型收集。

資訊App的技術指標,比如屏幕滑動,用戶是不是對一篇都看完,停留時間等都需要我們特別關注

今日頭條技術架構到底多強?從各角度分析今日頭條
5、數據存儲

今日頭條使用MySQL或Mongo持久化存儲+Memched(Redis),分了很多庫(一個大內存庫),亦嘗試使用了SSD的產品。

今日頭條的圖片存儲,直接放在數據庫中,分佈式保存文件,讀取的時候採用CDN。

6、消息推送

消息推送,對於用戶: 及時獲取信息。對運營來講,能夠提⾼⽤用戶活躍度。比如在今日頭條推送後能夠提升20%左右的DAU,如果沒有推送,會影響10%左右DAU(2015年數據)。

推送後要關注的ROI:點擊率,點擊量。能夠監測到App卸載和推送禁用數量。

今日頭條推送的主要內容包括突發與熱點咨訊,有人評論回复,站外好友註冊加入。

在頭條,推送也是個性化:

  • 頻率個性化
  • 內容個性化
  • 地域
  • 興趣

比如:

按照城市:遼寧朝陽發生的某個新聞事件,發給朝陽本地的用戶。

按照興趣:比如京東收購一號店,發給互聯網興趣的用戶。

推送平台的工具和選擇,需要具備如下的標準:

  • 通道,首先速度要快,但是要可控,可靠,並且節省資源
  • 推送的速度要快,有不同維度的策略支持,可跟踪,開發接口要友好
  • 推送運營的後台,反饋也要快,包括時效性,熱度,工具操作方便
  • 對於運營側,清晰是否確定推薦,包括推送的文案處理

因此,推送後台應該提供日報,完整的數據後台,提供A/B Test方案支持。

推送系統一部分使用自有IDC,在發送量特別大,消耗帶寬較嚴重。可以使用類似阿里雲的服務,可有效節省成本。

二、今日頭條系統架構

今日頭條技術架構到底多強?從各角度分析今日頭條

今日頭條技術架構到底多強?從各角度分析今日頭條

今日頭條技術架構到底多強?從各角度分析今日頭條

今日頭條技術架構到底多強?從各角度分析今日頭條
三、頭條微服務架構

今日頭條通過拆分子系統,大的應用拆成小應用,抽象通用層做代碼復用。

今日頭條技術架構到底多強?從各角度分析今日頭條
系統的分層比較典型。重點在基礎設施,希望通過基礎設施提高快速迭代、容災和一系列的工作,希望各個業務團隊能更快做業務上的迭代以及架構上的調整。

四、今日頭條的虛擬化PaaS平台規劃

通過三層實現,通過PaaS 平台統一管理。提供通用SaaS 服務,同時提供通用的App 執行引擎。最底層是IaaS 層。

IaaS 管理所有的機器,把公有云整合起來,頭條有一些熱點事件會全國推廣推送,對網絡帶寬比較高,我們藉助公有云,需要哪一種類型計算資源,統一抽象起來。基礎設施結合服務化的思路,比如日誌,監控等等功能,業務不需要關注細節就可以享受到基礎設施提供的能力。

五、總結

今日頭條重要的部分在於:

數據生成與採集

數據傳輸。Kafka做消息總線連接在線和離線系統。

數據入庫。數據倉庫、ETL(抽取轉換加載)

數據計算。數據倉庫中的數據表如何能被高效的查詢很關鍵,因為這會直接關係到數據分析的效率。常見的查詢引擎可以歸到三個模式中,Batch 類、MPP 類、Cube 類,頭條在3 種模式上都有所應用。

發表評論

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: