learning专题

Broad Learning System (BLS) 宽度学习系统

宽度学习（Broad Learning System, BLS）是一种有效的神经网络学习框架，旨在通过扩展网络的宽度而不是深度来提高学习能力和效率。与传统的深度学习相比，宽度学习通过堆叠多层特征节点和增强节点来构建网络，从而避免了深度学习中常见的梯度消失和复杂的训练过程。 BLS结构以及增量算法宽度学习系统在 RVFLNN 基础上做出了改进。首先，宽度学

学习RaphaelJS矢量图形包--Learning Raphael JS Vector Graphics中文翻译（一）

前面3篇博文里面，我们讲解了一本叫做《Instant RaphaelJS Starter》的书，那本书里我们将RaphaelJS里面的基本内容都进行了比较详细的讲解。但是，坦白的说，那本书通俗易懂却太过浅显。现在我们下一本叫做《Learning Raphael JS Vector Graphics》的书，算是上一本的进阶。当然，它里面大部分篇幅也是基本内容。因为一本书不能去讲一个写复杂的业务问

[斯坦福CS229课程整理] Machine Learning Autumn 2016

https://www.jianshu.com/p/0a6ef31ff77a

Online RL + IL : TGRL: An Algorithm for Teacher Guided Reinforcement Learning

ICML 2023 Poster paper Intro 文章设定一个专家策略，给出两种优化目标。一个是基于专家策略正则的累计回报，一个是原始累计回报。通过比较二者动态的衡量专家策略对智能体在线学习的影响程度，进而实现在线引导过程。 Method 原始的RL目标是最大化累计奖励: π ∗ = arg ⁡ max ⁡ π J R ( π ) : = E [ ∑ t = 0 ∞ γ t r t

机器学习中的超参数(Hyperparameters in machine learning)

https://www.quora.com/Machine-Learning/What-are-hyperparameters-in-machine-learning

【论文阅读】Machine Learning, Linear Algebra, and More: Is SQL All You Need?

文章目录摘要一、介绍二、SQL算法原语2.1、Variables2.2、Functions2.3、Conditions2.4、Loops2.5、Errors 三、案例研究3.1、对数据库友好的SQL映射3.2、性能结果四、结论以及未来工作摘要尽管SQL在简单的分析查询中无处不在，但它很少用于更复杂的计算，如机器学习、线性代数和其他计算密集型算法。这些算法通常以过程

Imitation Learning学习记录（理论例程）

前言最近还是衔接着之前的学习记录，这次打算开始学习模仿学习的相关原理，参考的开源资料为 TeaPearce/Counter-Strike_Behavioural_Cloning: IEEE CoG & NeurIPS workshop paper ‘Counter-Strike Deathmatch with Large-Scale Behavioural Cloning’ (github

论文《From Facial Parts Responses to Face Detection: A Deep Learning Approach》笔记

论文：From Facial Parts Responses to Face Detection A Deep Learning Approach.pdf 实现：暂无这篇论文发表于ICCV2015，很有借鉴意义，论文提出了一个新的概念deep convolutional network (DCN) ，在FDDB数据集上达到了目前世界领先水准，这篇论文可以与之前《Joint Cascad

Coursera吴恩达深度学习专项课程01: Neural Networks and Deep Learning 学习笔记 Week 03

Neural Networks and Deep Learning Course Certificate 本文是学习 https://www.coursera.org/learn/neural-networks-deep-learning 这门课的笔记 Course Intro 文章目录 Neural Networks and Deep LearningWeek 03: Sh

论文《Deep graph tensor learning for temporal link prediction》阅读

论文《Deep graph tensor learning for temporal link prediction》阅读论文概况IntroductionRelated work动态图表示学习图张量表示 Preliminary张量生成建模深度图张量学习模型A.基于图紧凑的空间表示B.时间模式表示C.时空特征聚合D.损失函数实验消融实验总结论文概况本文是2024年Inf

吴恩达机器学习笔记：第 9 周-17大规模机器学习(Large Scale Machine Learning)17.3-17.4

目录第 9 周 17、大规模机器学习(Large Scale Machine Learning)17.3 小批量梯度下降17.4 随机梯度下降收敛第 9 周 17、大规模机器学习(Large Scale Machine Learning) 17.3 小批量梯度下降小批量梯度下降算法是介于批量梯度下降算法和随机梯度下降算法之间的算法，每计算常数𝑏次训练实例，便更新一

2D3D-MatchNet: Learning to Match Keypoints Across 2D Image and 3D Point Cloud

整体网络架构是这样：基本上是堆积起来的网络，一共三条分支 1:image 2d feature 提取 2:正样本point cloud pointnet feature提取，3：负样本point cloud pointnet feature 提取，最后直接soft-margin triplet loss。 2d输入的是image 的patches， 3d输入的是volum

GoodPoint: unsupervised learning of keypoint detection and description∗

主要提供了一种无监督的deep feature的提取方式 good point应该满足： they should be distributed more or less evenly throughout the image; have good repeatability between different view- points; be recognizable a

深度主动学习（Deep Active Learning）——基于pytorch和ALipy工具包实现双向GRU模型

前言在ALipy的官网说ALipy只支持sklearn和tensorflow模型，模型对象应符合 scikit-learn api。但是alipy提供了ToolBox的工具箱，里面包装了多种查询策略，计算指标等工具，几乎具有Alipy的全部功能，虽然不能使用ALipy提供的AlExperiment直接加载pytorch模型进行训练，但是可以使用ALipy中提供的ToolBox调用查询策略，计

Learning Skill

IT前辈的学习方法 @ 开涛's iteye blog

Cmake-learning

可以把cmake看成一款自动生成 Makefile的工具，所以编译流程就变成了：cmake—>make–>可执行文件在哪个目录执行cmake +txt位置就会在哪个目录生成构造文件和可执行文件 project(HELLO): 非强制，指明项目名称 add_executable(hello ./main.c): add_executable(目标bin名字源函

Online learning系列：从RDA、FOBOS到FTRL

前言在一般的机器学习任务中，往往是通过batch的训练方法进行离线训练，然后线上进行预测，通常离线模型更新的时间在1天以上，这就使得模型不能及时学到实时的特征；另一方面，如果要进行实时训练的话，需要特征尽量稀疏，因为大规模的机器学习往往伴随着大量的参数，如果做不到特征计量稀疏的话，实时预估时延就会很大，这个时候就要用到online learning的一些方法，其目的是在提高训练参数稀疏性的同时

Reinforcement Learning强化学习系列之五：值近似方法Value Approximation

引言前面说到了强化学习中的蒙特卡洛方法(MC)以及时序差分(TD)的方法，这些方法针对的基本是离散的数据，而一些连续的状态则很难表示，对于这种情况，通常在强化学习里有2中方法，一种是针对value function的方法，也就是本文中提到的值近似(value approximation)；另一种则是后面要讲到的policy gradient。值近似的方法值近似的方法根本上是使用一个

Reinforcement Learning强化学习系列之三：MC Control

引言前面一篇文章中说到了MC prediction，主要介绍的是如何利用采样轨迹的方法计算Value函数，但是在强化学习中，我们主要想学习的是Q函数，也就是计算出每个state对应的action以及其reward值，在这篇文章中，将会介绍。 MC control with epsilon-greedy 这一部分将会介绍基于 ϵ−greedy ϵ − g r e e d y \epsil

Reinforcement Learning强化学习系列之一：model-based learning

前言在机器学习和深度学习坑里呆了有一些时日了，在阿里实习过程中，也感觉到了工业界和学术界的一些迥异，比如强化学习在工业界用的非常广泛，而自己之前没有怎么接触过强化学习的一些知识，所以感觉还是要好好的补一补更新一下自己的知识库，以免被AI时代抛弃。强化学习初识强化学习要素强化学习可以用下面这张图表示：从上图可以看出，强化学习的要素是： 1. Agent（图中指大脑） 2.

Learning Continuous Image Representation with Local Implicit Image Function

CVPR2021https://github.com/yinboc/liif 问题引入图像普遍都是使用像素来表示的，而现实世界是连续的，所以本文借鉴3D中neural implicit representation的思想，以连续的方式表示图像；模型输入坐标值和坐标附近的特征，得到该坐标处的像素值，而坐标是连续的，从而得以连续的表示图像；因为连续的特性，使得可以以任意scale来完成超分辨率的