你的网站尚未备案 根据东莞疫情最新通告
特征处理
1. 特征工程的一般步骤什么？什么是特征迭代
特征工程一般包含：
- 数据获取，分析数据的可用性（覆盖率，准确率，获取容易程度）
- 数据探索，分析数据业务含义，对特征有一个大致了解，同时进行数据质量校验，包含缺失值、异常值和一致性等；
- 特征处理，包含数据处理和特征处理两部分。数据处理主要做清洗工作（缺失值、异常值、错误值、数据格式处理等），特征转换即对连续特征、离散特征、时间序列进行转换，常用标准化、归一化、区间缩放、二值化、哑变量编码等，便于入模；
- 特征构建，构建与目标变量相关且区分度较好的特征，常用方法有特征交叉、四则运算、业务理解的处理等；
- 特征筛选，特征维度过高不仅会导致模型训练效率低下，特征鲁棒性也不强，要做特征降维，常用方法有过滤法，包装法，嵌入法；
特征工程迭代：
- 特征提取：根据具体问题分析，从数据中查找可以提出信息的关键数据；
- 设计特征：可以自动进行特征提取，也可以手动进行特征构建；
- 特征选择：从多个维度判断特征是否可以放入模型；
- 计算模型：计算模型在改特征上所提升方准确率；
- 上线测试：通过在线测试来评估特征是否有效；
2. 时间序列特征、连续特征、离散特征怎么转换
- 时间序列特征：按时间变量的维度进行离散（年、月、日、时、分），或者与位置变量进行结合衍生出新的特征；
- 连续特征：表转化、归一化、区间缩放、离散化。离散化常用的方法有卡方分箱、决策时分箱、等频和等距分箱；
- 离散特征：如果类别不是很多，做哑变量处理；对于无需离散变量用都热编码，有序李淑娜使用顺序编码。如果类别较多，可用平均数编码；
3. 特征衍生方法有哪些
常用的特征衍生方法包括：
- 基于业务理解构造特征，比如电商平台用户的购买和时间关系；
- 特征交叉；
- 分解类别特征，如对缺失特征可以分解成是否有这个类别的二值化特征，或者将缺失特征作为一个类别；
- 重构数值，如单位转换等
- 特征四则运算，如平均、最大最小、加减乘除等；
4. 特征筛选的目的和需求
目的：
- 简化模型，增加模型的可解释性，降低过拟合风险
- 缩短模型训练时间
- 避免维度灾难
需求：
- 可解释性好，与目标变量在业务上有解释
- 时间维度上稳定
- 有较好的覆盖度；
5. 特征筛选方法和各自的优缺点
Filter 过滤法：按照发散性、相关性对各个特征进行评分，设定阈值进行选择；
- 方法有相关系数、方法（对连续变量）、卡方校验（类别变量）、信息熵、IV。实际过程主要基于相关系数和IV；
- 优点：算法通用性强，复杂度低，适用于大规模数据集提出不相干变量，可以作为特征预筛选；
- 缺点：由于算法评价标准独立于特征学习算法，特征子集在分类准确方面较低；
Wrapper封装法：利用学习算法的性能评价特征子集的好坏，wrapper法需要一个分类器。
- 方法有完全搜索法、启发式搜索，随机搜索。工作中常用的是启发式搜索，如卡方分布的逐步逻辑回归进行评选；
- 优点：相对于filter法能找到分类性能更好的特征子集
- 缺点：算法复杂度高，当改变学习算法时，需要重新进行特征筛选；
Embedded嵌入法：先使用机器学习算法和模型进行训练，得到各个特征的权值系数，然后按照系数大小进行筛选。
- 常用方法包括基于惩罚性的岭回归、Lasso回归，L1/2正则化，和基于树模型输出的特征重要性。工作中场景的基于随机森林、xgboost和lightgbm。
- 优点：效果好，速度快，模式单调；
- 缺点：参数设置，以及需要对模型算法原理有较好理解；
6. 如何发现和处理特征缺失值
在风控建模过程中，首先要了解缺失值产生的原因，是数据本身采集问题还是用户本身缺少这个属性，以及缺少属性对风险有无影响；
其次，对于缺失率较高的特征，尤其是评分卡模型，大于25%就不建议采用，在10%以内可用中位数或者随机森林来填充，区间内的可以考虑当做一个特殊类别来处理；
7. 特征异常值发现和处理
异常值的发现可采用如极差、四分位间距、均差、标准差等，还可以通过等距方法来检验异常点。，如欧式距离、绝对距离等
对于异常值处理，先判断是否是真正的错误。如果是错误数据，清理掉就行。如果无法判断，则看异常值是否较多，若较多可以采用单独类处理，如果不做也可不做处理。
8. 如何处理特征不平衡问题
- 好坏样本比例不平衡，先确定好坏样本的定义；
- 基于定义尝试扩大数据集，比如信贷中拉长时间线；
- 对数据进行抽样，一种是欠采样，通过减少大类样本呢来降低不平衡；另一种是过采样，通过增加小数据样本来降低不平坦。实际工作中常用SMOTE方法来实现过采样。
- 尝试用xgboost和lightgbm等对不平衡数据处理效果好的模型。
9. 特征离散化和特征交叉