12本内部电子书文末自取~

1、常用的评估指标，AUC计算方式、TPR、FPR

AUC (Area Under the ROC Curve)：AUC是用于评估二分类问题中模型性能的常见指标。ROC曲线是以真正例率（TPR，True Positive Rate）为纵轴，假正例率（FPR，False Positive Rate）为横轴绘制的曲线。AUC表示ROC曲线下的面积，取值范围在0到1之间，越接近1表示模型性能越好。

TPR (True Positive Rate)：也称为召回率，表示正类别样本中被正确分类为正类别的比例。计算方式：TPR= (TP+FN)/TP ，其中TP是真正例的数量，FN是假负例的数量。

FPR (False Positive Rate)：表示负类别样本中被错误分类为正类别的比例。计算方式：

FPR= (FP+TN)/FP，其中FP是假正例的数量，TN是真负例的数量。

2、uplift model评估指标

Uplift Model是用于评估营销策略效果的模型，通常使用以下指标来评估：

• Uplift Score：Uplift Score是衡量不同营销策略对目标变量（如购买行为）的影响的分数。它可以通过比较不同策略的目标变量概率来计算。
• Conversion Uplift：Conversion Uplift是目标变量在使用策略后与未使用策略的相对差异。它表示了策略的有效性。

3、数据量很大怎么平衡AUC计算速度和准确性；

当面对大规模数据集时，可以采取以下方法平衡AUC计算速度和准确性：

• 子采样（Subsampling）：对于大规模数据集，可以随机抽取子样本进行AUC计算，而不是使用整个数据集。这会显著降低计算成本，但可能会引入采样误差。
• 并行计算：利用多核处理或分布式计算架构，将AUC计算任务并行化，以提高计算速度。
• 近似计算：使用近似算法来估计AUC，如MinHash和HyperLogLog等。这些方法可以在一定程度上降低计算复杂度，但可能牺牲一些准确性。
• Online计算：如果数据流式传入，可以使用在线AUC计算方法，避免在内存中保存整个数据集。

4、xgb的优点

XGBoost（Extreme Gradient Boosting）的优点：

• 高性能：XGBoost是一种高性能梯度提升框架，采用了多线程和稀疏感知技术，能够在大规模数据集上进行高效训练和预测。
• 可扩展性：XGBoost支持分布式计算，可以在分布式计算环境下训练大规模模型。
• 正则化：XGBoost引入了L1和L2正则化来防止过拟合，提高模型泛化能力。
• 自动处理缺失值：XGBoost能够自动处理数据中的缺失值，无需手动填充。
• 特征重要性分析：XGBoost提供了特征重要性分析工具，可以帮助选择最重要的特征进行建模。
• 支持多种损失函数：XGBoost支持多种损失函数，包括分类、回归和排序等任务。

5、Transformer结构

Transformer是一种用于处理序列数据的深度学习模型，其核心结构包括：

编码器-解码器结构：Transformer通常由编码器和解码器组成，用于各种序列到序列任务。编码器用于将输入序列编码为表示，解码器用于生成输出序列。

• 自注意力机制（Self-Attention）：Transformer中的自注意力机制允许模型在编码和解码阶段关注序列中不同位置的信息，从而捕捉全局依赖关系。
• 多头注意力（Multi-Head Attention）：多头注意力允许模型关注不同子空间的信息，提高了模型的表示能力。
• 前馈神经网络（Feed-Forward Network）：用于每个编码器和解码器层的前馈神经网络，用于进行非线性变换。
• 残差连接（Residual Connection）：残差连接允许信息在层之间流通，有助于避免梯度消失问题。
• 位置编码（Positional Encoding）：为了将位置信息引入模型，Transformer引入了位置编码，使模型能够理解序列中不同位置的元素。

6、transformer为什么用layer norm

Transformer中使用Layer Normalization来规范化每个子层的输入。Layer Normalization有以下优点：

与Batch Normalization不同，Layer Normalization不需要在小批量数据上计算统计信息，因此更适用于序列数据处理。在Transformer中，Layer Normalization有助于缩放输入向下层，以避免梯度爆炸或梯度消失问题，提高模型训练的效率和稳定性。

7、介绍xgb，介绍二阶展开

XGBoost：XGBoost是一种梯度提升树（Gradient Boosting Tree）算法，它结合了梯度提升和决策树的强大性能，用于解决分类和回归问题。XGBoost具有高性能、可扩展性、正则化、特征重要性分析等优点。

二阶展开：在机器学习和优化中，二阶展开（Second-Order Expansion）是一种用于拟合和优化非线性函数的方法。它涉及到对目标函数进行泰勒级数展开，通常包括一阶导数和二阶导数。在XGBoost中，二阶展开用于构建损失函数的近似，以提高模型的训练效率。通过精确计算一阶导数和二阶导数，XGBoost能够更准确地确定每次迭代中的树节点分裂，从而提高了模型的性能。

看完本篇如果对你有用请三连，你的支持是我持续输出的动力，感谢，笔芯~
↓ ↓ ↓以下12本书电子版免费领，直接送 ，想要哪本私我下说声，我发你↓ ↓ ↓

以上8本+《2022年Q4面试题-69道》、《2022年Q3面试题-83道》、《2023年Q1面试题-65道》、《2023年Q2面试题-103道》共12本，免费送