平台和字段映射

Whale 面向跨平台公开内容数据。不同平台的原始结构不同,但对外查询层保持统一抽象:消费方按平台、内容类型、时间、关键词、语义和结构化字段查询,不需要理解每个平台的采集实现。

本页目录

章节内容
平台范围第一版支持的平台枚举
内容类型对外可见的统一 content_type
通用字段跨平台稳定字段
平台案例典型平台的数据形态
指标口径播放、阅读、点赞、评论等指标如何映射
扩展字段平台特有字段如何保留

第一版平台范围

分组平台
中国内容平台douyin 抖音、kuaishou 快手、bilibili B 站、wechat_channels 视频号、xiaohongshu 小红书、weibo 微博、wechat_article 微信公众号、zhihu 知乎
中国交易平台案例xianyu 闲鱼
国际内容平台redditmediumlinkedininstagramtiktokyoutube
发现与网页google_searchgoogle_newsgoogle_trendswebsiterssnews

平台是否可用取决于数据产品授权、采集覆盖和合规策略。接口返回中以 source_platform 作为稳定平台枚举。

内容类型

content_type说明平台示例
post社交媒体帖子、动态、短内容微博、小红书、Reddit
article长文章、公众号、专栏Medium、微信公众号、知乎
video视频内容,可包含描述、字幕、转录YouTube、TikTok、B 站、视频号
comment评论、回复、楼层内容Reddit、微博、小红书
product商品或交易内容闲鱼
job_posting招聘职位LinkedIn
web_page普通网页、新闻页、RSS 文章website、news、rss

通用字段

字段含义
document_idWhale 内部文档 ID,用于读取详情、版本、快照
dataset_id数据产品或数据域,例如社媒、电商、招聘
source_platform平台枚举
external_content_id平台侧稳定内容 ID
canonical_url内容标准 URL
content_type统一内容类型
author作者、账号、频道、卖家或公司主体
content标题、正文摘要、URL、发布时间等标准内容
metrics互动和传播指标的当前投影
parts字幕、OCR、章节、规格、评论片段等多段内容
facts价格、公司、地点、技能等可筛选结构化事实
platform_payload平台特有字段

平台案例

平台对外内容形态重点字段说明
YouTubevideo标题、描述、频道、发布时间、播放、点赞、评论、字幕或音频转录视频没有正文时,可通过 parts.transcriptparts.audio_transcript 检索
TikTok / 抖音 / 快手video描述、作者、话题、播放、点赞、评论、分享短视频标题可能为空,正文通常来自描述、OCR 或转录
B 站 / 视频号video标题、简介、UP 主/账号、播放、点赞、收藏、弹幕等平台专有指标保留在扩展指标中
小红书 / Instagrampost标题/正文、图片、OCR、作者、点赞、收藏、评论图片文本可作为 parts.ocr 参与检索
微博 / Redditpostcomment正文、作者、发布时间、转发、评论、点赞适合舆情、话题和事件追踪
Medium / 微信公众号 / 知乎article标题、正文、作者、发布时间、阅读/点赞/评论长正文会被分块检索,详情接口读取完整正文
闲鱼product商品标题、价格、想要人数、地区、状态、卖家信息价格、状态、卖家售出/在售数量适合读取快照趋势
LinkedInjob_posting职位、公司、地点、薪资、技能、工作模式结构化字段进入 facts,便于筛选和聚合
Google / 网页 / RSS / 新闻web_pagearticle标题、摘要、URL、来源站点、发布时间适合公开网页发现、新闻跟踪和主题监测

指标口径

标准指标含义注意事项
view_count浏览、阅读或展示不同平台叫法不同,对外统一表示“被查看”
play_count视频播放视频平台优先使用
like_count点赞社媒通用
comment_count评论数帖子、视频、文章通用
share_count分享数平台不支持时为空
collect_count收藏、保存、想要小红书、B 站、闲鱼等平台含义接近但不完全相同
repost_count转发、转载微博等转发型平台
author_follower_count作者粉丝数快照属于作者状态,不是内容正文

随时间变化的指标会作为快照保存。消费方需要趋势时,应读取文档快照接口,而不是只看详情里的当前投影。

扩展字段

通用字段优先进入标准模型。只有无法跨平台稳定抽象的字段,才进入 platform_payloadplatform_metrics。例如:

  • B 站弹幕数、投币数。
  • 闲鱼卖家信用、芝麻信用、商品状态。
  • LinkedIn 申请数、职位级别、远程工作模式。
  • Google Trends 热度、区域分布。

使用建议

  • 需要跨平台检索时,优先使用 content_typesource_platformpublished_at 和关键词/语义查询。
  • 需要平台专有分析时,读取 factsplatform_payloadplatform_metrics
  • 需要趋势时,读取快照接口,按 snapshot_at 排序。
  • 需要完整正文、字幕或规格时,读取详情页的 contentpartsfacts