本书是关于机器学习的内容全面的教科书，其中有些内容在一般的在机器学习导论书中很少介绍。主要内容包括监督学习，贝叶斯决策理论，参数、半参数和非参数方法，多元分析，隐马尔可夫模型，增强学习，核机器，图模型，贝叶斯估计和统计检验。 ...

在统计学的世界里，参数估计一直是数据分析的核心任务之一。 极大似然估计（MLE）作为一种经典的参数估计方法，被广泛应用于各种领域。 然而，极大似然估计并非只有一种实现方式，它在频率学派和贝叶斯学派中有着不同的理论基础和应用场景。 本文将探讨这两种学派的区别，并通过实际代码示例展示它们在极大似然估计中 ...

“鱼书”《深度学习入门：基于Python的理论与实现》作者又一力作。手把手带你创建深度学习框架，直击现代深度学习框架本质！ 深度学习框架中蕴藏着惊人的技术和有趣的机制，本书旨在揭开这些技术和机制的神秘面纱，帮助读者正确理解技术，体会它们的有趣之处。为此，本书会带领读者从零开始创建一个深度学习框架—... ...

本篇笔记总结了最基本，同时也是推导比较容易理解的机器学习中线性模型的部分。 许多非线性模型也是在线性模型的基础上做了结构等方面的补充和引入。 本笔记随学习进度的跟进将持续更新：） 基本形式 \[f(\bf{x}) = \bf{\omega^T x + b} \]线性回归 主要内容：主要是学得\(\o ...

目录前言简介详细解读Mosaic and MixupMixupMosaicDecoupled Headanchor freeSimOTAin_boxes 和 in_center计算cost矩阵dynamic_k_matching算法网络架构参考资料 前言 提出时间：2021年 作者单位：旷视科技 旷 ...

在SVM中，软间隔是一个重要的概念，它允许模型在一定程度上容忍误分类，从而提高模型的泛化能力。 本文将详细介绍软间隔的定义、与硬间隔的区别、损失函数的作用，最后使用 scikit-learn 进行实际演示。 1. 软间隔 vs 硬间隔 在支持向量机中，软间隔是指允许某些数据点违反分类边界（即误分类） ...

在机器学习领域，支持向量机（SVM）是一种强大的分类算法，而核函数则是其核心组件之一。 核函数的本质是一个「空间映射工具」。 当原始数据在低维空间中线性不可分时（如环形、月牙形数据），核函数能将数据隐式地映射到更高维的特征空间，使得在高维空间中数据变得线性可分，同时避免直接计算高维特征的爆炸性计算量 ...

在机器学习的广阔领域中，决策树一直是一种备受青睐的算法。它以其直观、易于理解和解释的特点，广泛应用于分类和回归任务。 然而，随着数据复杂性的不断增加，传统决策树的局限性逐渐显现。 本文将深入探讨多变量决策树这一强大的工具，它不仅克服了传统决策树的瓶颈，还为处理复杂数据提供了新的思路。 1. 基本概念 ...

在机器学习中，决策树算法因其简单易懂、可解释性强而被广泛应用。 然而，现实世界中的数据往往复杂多变，尤其是连续值和缺失值的存在，给决策树的构建带来了诸多挑战。 连续值（如年龄、收入）无法直接用于决策树的离散分裂点，需要转化为“离散区间”。 缺失值（如用户未填写的问卷项）可能导致信息损失或模型偏差。 ...

在机器学习的世界里，决策树是一种简单而强大的算法，但它的 “任性生长” 却常常让数据科学家陷入 “过拟合的困境”。 想象一下，一棵决策树如果无限生长，它可能会完美地拟合训练集中的每一个数据点，但当面对新的数据时，却可能表现得像一个“陌生人”——预测完全失效。 这种现象背后的原因在于模型过于复杂，对训 ...

机器学习是计算机科学与人工智能的重要分支领域。本书作为该领域的入门教材，在内容上尽可能涵盖机器学习基础知识的各方面。为了使尽可能多的读者通过本书对机器学习有所了解，作者试图尽可能少地使用数学知识。 ...

在机器学习的广阔森林中，决策树（Decision Tree）是一棵独特而强大的“智慧树”。 它是一种监督学习算法，既可以用于分类任务，也能用于回归任务，通过树形结构模拟人类决策过程。 这篇文章会带你了解决策树，从基础概念开始，一步步讲解如何构建决策树、常用的算法以及它的实际应用。 1. 概述 决策树 ...

正文 从AE说起 AE是一个特征提取模型，通过编解码的形式重构输入，完成低维特征表示工作 推导 存在一个输入\(x\)，构造AE编码器\(p_\theta(x)\)，得到离散低维特征\(z\)； 通过AE解码器\(q_\phi(z)\)，重构回\(\hat{x}\)； 通过正则项\(\Vert x- ...

一、deepseek的备案情况 （一）算法备案情况 在算法备案系统网站上，北京深度求索人工智能基础技术研究有限公司和杭州深度求索人工智能基础技术研究有限公司分别进行了两个算法备案。从公司名称来看，正如创始人梁文锋所说，这两家公司专注于人工智能前沿技术的基础研究。 具体信息如下： 北京公司备案的“De ...

在机器学习领域，数据是模型训练的基础，而数据的分布情况往往会对模型的性能产生重要影响。 不平衡样本数据是我们在实际项目中经常会遇到的问题，它可能导致模型对多数类过度拟合，而对少数类的预测能力不足。 本文将详细介绍不平衡样本数据的常见场景、处理方法以及在实践中需要注意的问题，帮助你在模型训练前有效地进 ...

本文作为AI可解释性系列的第二部分，旨在以汉语整理并阅读归因方法（Attribution）相关的论文，并持续更新。 归因方法主要研究如何解释深度神经网络的决策过程，通过识别输入特征对模型输出的贡献程度，对模型的决策过程输出为人类可以理解的图像或者量化指标，帮助我们理解模型的决策依据。 ...

一、Prompt编排技术原理 1. 结构化Prompt设计JBoltAI通过领域驱动设计（DDD）将业务需求拆解为原子化指令单元，构建三层结构： 业务意图层：定义核心目标（如营销转化、风险拦截） 场景规则层：注入行业知识（如金融合规条款、医疗术语库 交互执行层：集成多模态输出模板（文本/表格/流程图 ...

在机器学习的世界里，分类问题无处不在，而多分类问题更是其中的常见挑战。 无论是识别手写数字、分类新闻主题，还是预测客户购买的产品类别，多分类问题都扮演着重要角色。 线性模型，以其简洁高效的特点，成为了应对多分类问题的有力工具之一。 本文将探讨线性模型解决多分类问题的原理、策略以及优缺点，并通过代码示 ...

在机器学习领域，线性判别分析（Linear Discriminant Analysis，简称LDA）是一种经典的算法，它在降维和分类任务中都表现出色。 LDA通过寻找特征空间中能够最大化类间方差和最小化类内方差的方向，实现数据的降维和分类。 本文主要介绍LDA的基本原理，展示其如何解决分类问题，以及 ...

github：https://github.com/icey-zhang/SuperYOLO article：https://www.sfu.ca/~zhenman/files/J12-TGRS2023-SuperYOLO.pdf 环境： PyTorch 2.5.1 Python 3.12(ubun ...