评论

0.63baseline:基于DeepCTR实现的多任务学习模型MMOE【更新关于复现不出0.63的问题】

完整代码及说明详见github:https://github.com/zanshuxun/WeChat_Big_Data_Challenge_DeepCTR_baseline

各位小伙伴们大家好,经主办方同意,楼主开源了基于DeepCTR实现的多任务学习模型MMOE

完整代码及说明详见github:https://github.com/zanshuxun/WeChat_Big_Data_Challenge_DeepCTR_baseline

【更新】关于复现不出0.63的问题

群里有很多小伙伴提出无法复现0.63,跑出来结果只有0.5多。下面是我这边具体的环境,麻烦大家再试下(应该是tf版本不同导致的):

deepctr==0.8.5
numpy==1.16.4
pandas==0.24.2
tensorflow==1.12.0
scikit_learn==0.24.2

目前来看 tf 1.12.0或1.13.1是可以正常复现出0.63的。以下是一些同学的反馈:


方案说明

  • 特征:本方案关注于模型,仅使用以下6个较为基础的原始特征:[‘userid’, ‘feedid’, ‘authorid’, ‘bgm_song_id’, ‘bgm_singer_id’, ‘videoplayseconds’]

  • 线上结果:

    得分 查看评论 点赞 点击头像 转发
    0.633475 0.612465 0.613346 0.700479 0.643898

运行环境

python 3.6
deepctr==0.8.5
tensorflow-gpu(tensorflow)
pandas
scikit-learn

deepctr安装说明

  • CPU版本
    $ pip install deepctr==0.8.5
    
  • GPU版本
    先确保已经在本地安装tensorflow-gpu,版本为 tensorflow-gpu>=1.4.0,!=1.7.*,!=1.8.*,然后运行命令
    $ pip install deepctr==0.8.5 --no-deps
    

运行说明

  1. 新建data目录,下载比赛数据集,放在data目录下并解压,得到wechat_algo_data1目录

  2. python run_mmoe.py
    

运行时间

在Tesla P40 24G GPU、E5-2650 v4 CPU机器上,训练时间为205s/epoch(6708846条样本)。

训练时显存占用为695MiB,内存占用为2.2G。

预测时间如下:

4个目标行为421985条样本预测耗时(毫秒):352.331
4个目标行为2000条样本平均预测耗时(毫秒):1.670

关于DeepCTR

DeepCTR是一个易用、可扩展的深度学习点击率预测算法包,基于tensorflow深度学习框架。

添加特征时,仅添加feature_columns即可,无需改动模型;

模型方面,DeepCTR包含20多个CTR模型(如DeepFM、xDeepFM、DCN、AutoInt、DIN、FiBiNET等),可直接通过模型名调用。如需自定义模型,DeepCTR中也有很多高复用性的模块(例如DNN、FM、BiInteractionPooling、CIN、CrossNet等)。更多使用方法请参考DeepCTR文档

DeepCTR也有pytorch版本:DeepCTR-Torch: https://github.com/shenweichen/DeepCTR-Torch
(想用torch版的小伙伴在下方评论区扣1,人数多的话,后面实现一波torch版的MMOE)。

其他

楼主之前做比赛,从很多前辈的分享或开源中学到了很多,现在希望自己也能贡献一些。希望本文可以帮助大家降低深度学习CTR模型的门槛,普及这些算法技术。

预祝大家在本次大赛中取得好成绩!

最后一次编辑于  2021-05-23  
点赞 11
收藏
评论

22 个评论

  • 武欣
    武欣
    2021-05-22

    1


    2021-05-22
    赞同 1
    回复
  • 🚽
    🚽
    发表于移动端
    2021-05-22
    1
    2021-05-22
    赞同 1
    回复
  • 起个什么昵称呢
    起个什么昵称呢
    2021-05-22

    1

    2021-05-22
    赞同 1
    回复
  • 🌻
    🌻
    2022-08-28

    请问已经有pytorch版本了吗

    2022-08-28
    赞同
    回复
  • 🌻
    🌻
    2022-08-28

    1

    2022-08-28
    赞同
    回复
  • .
    .
    2022-04-10

    楼主,文中说的tensorflow1.12.0和1.13.1是指CPU版本吗?还是说是GPU版本?我安装的CPU版本1.12.0,运行代码报错:AttributeError: module 'tensorflow._api.v1.compat' has no attribute 'v1'

    2022-04-10
    赞同
    回复
  • 👀
    👀
    2021-06-04

    大佬后续有尝试用那个512feed embedding数据吗? 加了后效果如何?

    2021-06-04
    赞同
    回复
  • 👀
    👀
    2021-06-04

    大佬后续有尝试过往模型里面放那个512维的feed_embeddings吗? 可以指导下小白怎么处理那个吗?

    2021-06-04
    赞同
    回复
  • 趋势追随者
    趋势追随者
    2021-06-01

    1

    2021-06-01
    赞同
    回复
  • 林锴
    林锴
    发表于移动端
    2021-05-25
    1
    2021-05-25
    赞同
    回复

正在加载...

登录 后发表内容