从头专题

C语言从头学05——头文件及库文件

我们写"Hello World!"程序时,一上来先写了一句代码: #include <stdio.h>        我们看上面这条代码,前面有个"#"号后边没有";"号,这样的代码不是普通的C语言代码,它属于预处理命令。这条代码的含义是包含"stdio.h"这个头文件。        我们编写C语言程序,程序要用到的功能肯定不都是我们从头写的,那样太麻烦了。许多功能C语言已经自

从头理解transformer,注意力机制(下)

交叉注意力 交叉注意力里面q和KV生成的数据不一样 自注意力机制就是闷头自学 解码器里面的每一层都会拿着编码器结果进行参考,然后比较相互之间的差异。每做一次注意力计算都需要校准一次 编码器和解码器是可以并行进行训练的 训练过程 好久不见输入到编码器,long time no see输入到解码器,按照transformer的编码和解码这个过程逐渐往上进行计算。 有交叉注

从头理解transformer,注意力机制(上)

深入理解注意力机制和Transformer架构,及其在NLP和其他领域的突破。 要想理解transformer,先从编码器解码器结构开始理解 基于transformer发展起来的llm 右边:只有解码器,强项是生成内容 左边:只有编码器,强项是学习和理解语言的内容 编码和解码的码究竟是什么码 图像领域 CNN 文字领域 RNN 从数学角度看,transformer和RNN是

C语言从头学04——介绍占位符和输出格式

占位符、输出格式都是与 printf() 相关的,当然其它函数也有用到占位符的。这里先介绍它们在 printf() 的使用。        一、先介绍占位符,所谓“占位符”通俗讲就是先占个位置,后边再找具体值(参数)代入进行显示的一种方法。先用一个例子说明使用方法: printf("这里有 %i 张桌子\n", 3); //输出结果:"这里有 3 张桌子"        语句中的

C语言从头学02——基本语法概念

这篇文章介绍几个编写C语言程序需要掌握的基本语法概念:   一、语句        C语言代码的组成单位是语句(statement),语句是构成程序的基本单位。C语言规定,语句必须使用分号结尾。但有例外,例如,预处理指令#include<stdio.h>结尾就没有";"。       举例:int a=0; //声明一个命名为 a 的整形变量并赋初值       一般一个语句占一行,也可以一行写几

2. 从头搞懂 Transformer模型(代码实现)

模型理论讲解: 1. 从头搞懂 Transformer模型(图解) 1、计算注意力分数 以下是自注意力在一个简单示例中的工作原理: 考虑一句话:“The cat sat on the mat.” 嵌入 首先,模型将输入序列中的每个单词嵌入到一个高维向量表示中。这个嵌入过程允许模型捕捉单词之间的语义相似性。 查询、键和值向量 模型为序列中的每个单词计算三个向量:查询向量、键向量和值向量

使用PyTorch从头实现Transformer

前言 本文使用Pytorch从头实现Transformer,原论文Attention is all you need paper,最佳解读博客,学习视频GitHub项目地址Some-Paper-CN。本项目是译者在学习长时间序列预测、CV、NLP和机器学习过程中精读的一些论文,并对其进行了中文翻译。还有部分最佳示例教程。如果有帮助到大家,请帮忙点亮Star,也是对译者莫大的鼓励,谢谢啦~ Se

复旦 北大 | 从头训练中文大模型:CT-LLM

引言 当前,绝大多数大模型(LLMs)基本上都是以英文语料库训练得到的,然后经过SFT来匹配不同的语种。然而,今天给大家分享的这篇文章旨在从头开始训练中文大模型,在训练过程中「主要纳入中文文本数据」,最终作者得到了一个2B规模的中文Tin LLM (CT-LLM) 。结果表明,该模型在中文任务上表现出色,且通过SFT也能很好的支持英文。 https://arxiv.org/pdf/2404

剑指offer--从头打印链表

题目描述 输入一个链表,按链表值从尾到头的顺序返回一个ArrayList。 代码实现(JAVA) /*** public class ListNode {* int val;* ListNode next = null;** ListNode(int val) {* this.val = val;*

从头开发一个RISC-V的操作系统(四)嵌入式开发介绍

文章目录 前提嵌入式开发交叉编译GDB调试,QEMU,MAKEFILE练习 目标:通过这一个系列课程的学习,开发出一个简易的在RISC-V指令集架构上运行的操作系统。 前提 这个系列的大部分文章和知识来自于:[完结] 循序渐进,学习开发一个RISC-V上的操作系统 - 汪辰 - 2021春,以及相关的github地址。 在这个过程中,这个系列相当于是我的学习笔记,做个记

从头开发一个RISC-V的操作系统(二)RISC-V 指令集架构介绍

文章目录 前提ISA的基本介绍ISA是什么CISC vs RISCISA的宽度 RISC-V指令集RISC-V ISA的命名规范模块化的ISA通用寄存器Hart特权级别内存管理与保护异常和中断 目标:通过这一个系列课程的学习,开发出一个简易的在RISC-V指令集架构上运行的操作系统。 前提 这个系列的大部分文章和知识来自于:[完结] 循序渐进,学习开发一个RISC-V上

从头学Java基础篇(二)

Java流程控制 用户交互Scanner 之前我们学习的基本语法中并没有实现程序和人的交互,但是Java给我们提供了一个这样的工具类,可以获取用户的输入。java.util.Scanner是Java5的新特性,可以通过Scanner类来获取用户输入。 基本语法: Scanner s = new Scanner(System.in); 通过Scanner类的next()与nextLine

从头学Java基础篇(一)

Java基础 注释 单行注释 //这是单行注释 多行注释 /*1这里是多行注释2这里是多行注释3这里是多行注释4这里是多行注释*/ 文档注释(JavaDoc) /*** @Description:HelloWorld* @Author:TheBeacon*/ 标识符 Java对所有的组成部分都需要名字。类名、变量名以及方法名都被称为标识符。 所有的标识符都

虚拟机-从头配置Ubuntu18.04(包括anaconda,cuda,cudnn,pycharm,ros,vscode)

最好先安装anaconda后cuda和cudnn,因为配置环境的时候可能conda会覆盖cuda的路径(不确定这种说法对不对,这里只是给大家的建议) 准备工作: 1.Ubuntu18.04,x86_64,amd64 虚拟机下载和虚拟机Ubuntu18.04配置流程地址 2.anaconda:Anaconda3-2022.10-Linux-x86_64.sh anaconda下载地址 3.

【MD】激光驱动原子动力学的全尺寸从头算模拟

Zeng Q, Chen B, Zhang S, et al. Full-scale ab initio simulations of laser-driven atomistic dynamics[J]. npj Computational Materials, 2023, 9(1): 213.核心研究内容: 本文研究了激光驱动的原子动力学的全尺度从头算模拟。研究的重点是探讨在极端条件下材料响

从头手搓一台ros2复合机器人(带机械臂)

一.前言            大家好呀,我们在上一小节进行了仿真,这节我们步入建图导航篇,我们需要对导航代码有一定的了解,知道是如何进行导航与定位,好了,话不多说,马上开始! 二.ros2学习          前18小节内容可订阅往期博客 19 Slam建图 19.1 地图分类 我们根据地图所表达信息的不同可以将地图分为三类: 1. 尺度地图(Metric Map) 尺度地图用

从头安装Arch Linux系统

目录 一 安装成果 二 疑难点 1 硬盘不足问题 2 Device or resource busy问题 3 下载失败问题 4 日期不是系统上海时间 5 安装微码 6  重启后不需要密码登录 三 参考链接 一 安装成果 二 疑难点 1 硬盘不足问题 需要设置分区挂载 cfdisk /dev/sdX # sdX为目标磁盘 2 Devi

Faster RCNN 推理 从头写 java (七) 坐标转换为原始图片维度

1. 图片预处理2. RPN网络预测3. RPN to ROIs4. Classifier 网络预测5. Classifier网络输出对 ROIs过滤与修正6. NMS (非最大值抑制)7. 坐标转换为原始图片维度 一: 输入输出 输入: boxes_on_resize: 最终提取出来的bbox,是在VGG16 输入图片维度上的坐标ratio: 原始图片与VGG16 输入图片的比例关系 输

Faster RCNN 推理 从头写 java (六) NMS (非最大值抑制)

1. 图片预处理2. RPN网络预测3. RPN to ROIs4. Classifier 网络预测5. Classifier网络输出对 ROIs过滤与修正6. NMS (非最大值抑制)7. 坐标转换为原始图片维度 一: 输入输出 输入: candidate_bboxes: shape 为 [M, 4]candidate_probs: shape 为 [M, ] 输出: bboxes

Faster RCNN 推理 从头写 java (四) Classifier 网络预测

1. 图片预处理2. RPN网络预测3. RPN to ROIs4. Classifier 网络预测5. Classifier网络输出对 ROIs过滤与修正6. NMS (非最大值抑制)7. 坐标转换为原始图片维度 一: 输入输出 输入: ROIs: RPN to ROI 后 没32个为一组的ROIs, shape为 [1, 32, 4]feature: RPN 层的输出, 也就是VGG16

Faster RCNN 推理 从头写 java (二) RPN网络预测

1. 图片预处理2. RPN网络预测3. RPN to ROIs4. Classifier 网络预测5. Classifier网络输出对 ROIs过滤与修正6. NMS (非最大值抑制)7. 坐标转换为原始图片维度 一: 输入输出 输入: omg: 经过预处理过的图像, shape为 [1, 600, 800, 3]. 输出: cls: 每个anchor在pixel上的概率, shape

Faster RCNN 推理 从头写 Java (一) 图片预处理

1. 图片预处理2. RPN网络预测3. RPN to ROIs4. Classifier 网络预测5. Classifier网络输出对 ROIs过滤与修正6. NMS (非最大值抑制)7. 坐标转换为原始图片维度 一: 输入输出 输入: 图像,shape为 [1080, 1440, 3] 输出: 图像,shape为 [1, 600, 800, 3] 二: 流程 图片BGR 格式转换为 R

Faster RCNN 推理 从头写 java 整体流程

一: 前言 项目中涉及大量的货车码表图片,目前需要运营同学人工提取出码表里程值,图片会随着项目的实施,会有大量的图片产生, 为了降本增效,需要我们从深度学习的角度来自动化的提取码表总里程值,该任务会分为三个流水线: 分类 (判断是否码表)检测 (检测码表坐标)识别(提取码表里程值) Faster RCNN 是该流水线第二步,检测的具体实现. 二: 测试效果 输入图片 输出图片 输

【仿真基本功】【PyTorch】从头安装PyTorch(GPU版本)【2024/03/03更新】

【仿真基本功】【PyTorch】从头安装PyTorch(GPU版本)【2024/03/03更新】 安装步骤1. 安装Anaconda2. 查看显卡对CUDA版本的支持3. 查看PyTorch的安装需求4. 安装PyTorcha) 配置新环境b) 进入新环境c) 按照CUDA版本要求,必须小于等于显卡支持的CUDA最高版本。d) 安装完成后,输入【python】,进入python控制台,然后输

UCSF DOCK 分子对接详细案例(04)-基于RDKit描述符的分子从头设计DOCK_D3N

欢迎浏览我的CSND博客! Blockbuater_drug …点击进入 文章目录 前言一、 软件及操作环境二、研究目的三、结构文件准备四、 DOCK/RDKit中 de novo design4.1 de novo design - refine_D3N4.2 对输出重新评分 总结参考资料 前言 本文是UCSF DOCK的使用案例分享,我们将使用DOCK 6.11