如何搭建一个case评测流程(一)

badcase,是互联网产品行业非常流行的一个术语,尤其是搜索、推荐策略产品领域经常会涉及到对badcase处理。

如何搭建一个case评测流程(一)

一个case可以区分为goodcase和badcase。顾名思义,badcase就是“坏例”,主要是指由于机制缺陷导致一些给用户、商家、平台带来较差体验的事件。它和bug的区别就在于badcase影响的是产品体验层面,对用户使用当前产品,享受正常的产品服务没有太大的影响。

也正是因为如此,包括我待过的公司,以及据身边很多同行的反馈,都缺少一个主动的、标准化的badcase处理流程。很多团队、PM对于badcase的处理还停留在发现一个问题,处理一个问题阶段,效率低到可怕。

策略不确定性

badcase为什么会主要在策略领域比较多,而在前端、功能类产品中比价少。这个其实本身是由策略产品的不确定性造成的。

我们做一个功能,上一个页面,其实整个交付结果是确认无疑的,包括功能背后的交互流程,业务逻辑,到一个页面的布局,用色都不能出现像素级别的差距,有错误,那就是bug!

但是策略就不一样了,它对应的结果通常是不确定的。比如搜索结果的排序,其背后是由很多策略模型共同作用决定的,比如价格模型,销量模型,转化预测模型等等。而且随着各种非规则,非约束类策略的应用,看起来就更像一个“黑盒”,源源不断的输出它的计算结果,很难定位到某个结果是由单一的策略导致的。

所以,每当有人反馈说“我们上了低价模型策略,为啥有些价格低的物品在搜索结果中还是没有排在前面”,这个其实就是策略的一种不确定性,低价策略并不能保证所有价格低的物品都排序靠前,它更多的是一种保证业务生态健康的考量。

怎么做

需要主动一点,为了发现badcase,本身就值得建立一个标准的case评测流程。

当前很多团队badcase都来源于“第三方”反馈,商家,业务,运营,或者用户,缺少主动反馈,发起自测的机制。

首先,真正的badcase本身就是策略缺陷导致的,因此这是一个非常好的策略迭代优化的触发点,要比竞品分析、产品规划更具象,迭代速度和效果反馈更快。

另外,仅仅接收第三方的反馈肯定是有一些局限性的。每方在反馈badcase的时候,都是基于各自的利益点阐述的,而策略产品则需要考虑的是整个大盘的方案。

如何完成一个完整的case的评测流程搭建?

01 评测标准制定

评测标准是case评测的唯一依据,也是保证评测结果质量的关键所在。它就类似一部法规,用来帮助判断各种case是否为badcase,及其严重程度,因此在建立case评测流程之前,首先就需要制定一个评测标准。

以搜索case评测为例。通常badcase标准包含两个方向的内容:召回和排序。

召回主要是规定判断召回结果与query的相关性的规则,一般分为精确相关,高相关,低相关,无关四种。

排序主要是规定判断召回结果中排序的合理性的规则。通常排序会与物品的质量度挂钩,因此这块还需要定义物品的质量度。比如质量度高排序靠后,质量度低排序靠前等都可以定义为badcase。

除了上述两大方面,还有很多细则需要单独进行定义,比如图片质量,标题质量等等。

这里需要注意的是如同法律法规会有刑事,民事,行政,经济等分类,评测标准也需要按照不同的业务领域进行个性化定制。比如商品和药品,判别的标准就会有区别,所以需要单独制定对应的评测标准。

下一篇会讲一下评测的具体流程。

不知道大家对这个主题是否感兴趣,感兴趣的点个赞或者在看。

业界动态

想成为优秀的B端产品经理,要学什么?

2020-7-4 9:34:26

业界动态

腾讯广告终于迎来全面整合

2020-7-4 9:52:24

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索