李沐讲座:大语言模型的实践经验和未来预测 | 上海交大

本文主要是介绍李沐讲座:大语言模型的实践经验和未来预测 | 上海交大,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

本文简介

本博客记录了李沐关于语言模型与职业生涯分享的精彩讲座,涵盖了大语言模型的核心要素、工程实践中的挑战,以及演讲者个人职业生涯中的心得体会。

李沐简介

李沐(Mu Li)是一位在人工智能与深度学习领域具有广泛影响力的计算机科学家。他拥有丰富的学术背景和产业经验,曾在百度和Amazon等知名科技公司工作,并有两次成功的创业经历。李沐以其在深度学习、分布式系统以及大规模机器学习方面的杰出贡献而闻名。他不仅在学术界有着深厚的研究积累,还致力于将前沿技术应用于实际场景,推动了许多关键技术的发展。

作为一位活跃的教育工作者和技术布道者,李沐在多个顶尖大学教授人工智能课程,并通过在线教育平台广泛传播人工智能与深度学习的知识。他的讲座和课程内容深受学生和工程师的欢迎,启发了众多年轻学者和开发者。

李沐在职业生涯中一直秉持着创新与实践并重的理念,积极探索和应用最新的技术,以应对全球范围内的技术挑战和商业机会。他的工作不仅推动了人工智能领域的进步,也对未来技术的发展方向产生了深远的影响。

视频地址

  • 讲座视频 url
    • https://www.bilibili.com/video/BV1dHWkewEWz/?vd_source=ab3bc32ecf95e626ff9c8dab4c9ec276
    • https://www.youtube.com/watch?v=ziHUcDh0DwM

语言模型

  • 语言模型最重要的三个模块:算法,数据,算力
    在这里插入图片描述
  • 水冷用来散热很重要。一个机架里面能放 72 张卡。带宽很重要。内存(应该就是显卡显存)目前能做到 192GB,未来大概率也超过不了 200G,因为工艺问题
    在这里插入图片描述
  • 一个芯片 1kW,很耗电。说是建个发电厂的价格可能比付电费低…
    在这里插入图片描述
  • 模型会变得越来越大、便宜、快
    在这里插入图片描述
  • 语言模型的训练数据量大概就是目前的 10-50T 量级了。模型大小大概率也是 100-500B
    在这里插入图片描述
  • video 生成比较贵,数据很重要,数据处理的成本可能比模型训练还要高
    在这里插入图片描述
  • 自动驾驶为什么能做好,认为是封闭路况里面开车相对来说比较简单,然后每个车上有大量的 sensor,能够采集大量的数据用于训练
    在这里插入图片描述
  • 目前能做文科的简单任务。理科只能做部分简单任务。蓝领工作目前做不了
    在这里插入图片描述
  • 只要有足够数据,就能被自动化
    在这里插入图片描述
  • 预训练是工程问题,后训练是算法问题,也很重要
    在这里插入图片描述
  • 垂类模型通用能力也不能差
    在这里插入图片描述
  • 自建机房更便宜。GPU 价格成本没区别,主要是存储会便宜很多
    在这里插入图片描述
  • 大语言模型没什么特别的,只是比ML model 大了 100 倍,工程和算法在模型大了之后有需要优化的地方
    在这里插入图片描述

个人职业生涯分享

  • 学习过的学校很多,工作过的大公司有百度和 Amazon,两次创业经历。
    加粗样式

工作、读博、创业的差别

  • 基本目标、要做的事、驱动力要求这三者是有区别的
    在这里插入图片描述

  • 打工人的好处和劣势,压力整体是最小的。有相对稳定的收入和空余时间
    在这里插入图片描述

  • PHD,写作演讲的能力很重要,读博能锻炼。很多公司要 PHD,也不是一定要 PHD 才行,只是市场上 PHD 量大管饱,所以就招 PHD。和导师不适应会很麻烦
    在这里插入图片描述

  • 创业有当海盗的乐趣,看哪里有船就去抢一把,抢到就爽一把,没抢到就死掉了。
    在这里插入图片描述

  • 从动机触发进行选择
    在这里插入图片描述

  • 持续提升自我的方法。多总结。
    在这里插入图片描述

  • 总结。认为会有很多新技术不断被发明出来,即便没有新技术,就是本代的 transformer 技术就已经能在未来几年给世界带来大的变革了。但也是最坏的时代,因为电梯上很多人,要更努力才行。
    在这里插入图片描述

这篇关于李沐讲座:大语言模型的实践经验和未来预测 | 上海交大的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/1128832

相关文章

深入理解Go语言中二维切片的使用

《深入理解Go语言中二维切片的使用》本文深入讲解了Go语言中二维切片的概念与应用,用于表示矩阵、表格等二维数据结构,文中通过示例代码介绍的非常详细,需要的朋友们下面随着小编来一起学习学习吧... 目录引言二维切片的基本概念定义创建二维切片二维切片的操作访问元素修改元素遍历二维切片二维切片的动态调整追加行动态

Go语言中make和new的区别及说明

《Go语言中make和new的区别及说明》:本文主要介绍Go语言中make和new的区别及说明,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1 概述2 new 函数2.1 功能2.2 语法2.3 初始化案例3 make 函数3.1 功能3.2 语法3.3 初始化

Go语言中nil判断的注意事项(最新推荐)

《Go语言中nil判断的注意事项(最新推荐)》本文给大家介绍Go语言中nil判断的注意事项,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录1.接口变量的特殊行为2.nil的合法类型3.nil值的实用行为4.自定义类型与nil5.反射判断nil6.函数返回的

Go语言数据库编程GORM 的基本使用详解

《Go语言数据库编程GORM的基本使用详解》GORM是Go语言流行的ORM框架,封装database/sql,支持自动迁移、关联、事务等,提供CRUD、条件查询、钩子函数、日志等功能,简化数据库操作... 目录一、安装与初始化1. 安装 GORM 及数据库驱动2. 建立数据库连接二、定义模型结构体三、自动迁

Go语言代码格式化的技巧分享

《Go语言代码格式化的技巧分享》在Go语言的开发过程中,代码格式化是一个看似细微却至关重要的环节,良好的代码格式化不仅能提升代码的可读性,还能促进团队协作,减少因代码风格差异引发的问题,Go在代码格式... 目录一、Go 语言代码格式化的重要性二、Go 语言代码格式化工具:gofmt 与 go fmt(一)

Go语言中泄漏缓冲区的问题解决

《Go语言中泄漏缓冲区的问题解决》缓冲区是一种常见的数据结构,常被用于在不同的并发单元之间传递数据,然而,若缓冲区使用不当,就可能引发泄漏缓冲区问题,本文就来介绍一下问题的解决,感兴趣的可以了解一下... 目录引言泄漏缓冲区的基本概念代码示例:泄漏缓冲区的产生项目场景:Web 服务器中的请求缓冲场景描述代码

Go语言如何判断两张图片的相似度

《Go语言如何判断两张图片的相似度》这篇文章主要为大家详细介绍了Go语言如何中实现判断两张图片的相似度的两种方法,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 在介绍技术细节前,我们先来看看图片对比在哪些场景下可以用得到:图片去重:自动删除重复图片,为存储空间"瘦身"。想象你是一个

Go语言中Recover机制的使用

《Go语言中Recover机制的使用》Go语言的recover机制通过defer函数捕获panic,实现异常恢复与程序稳定性,具有一定的参考价值,感兴趣的可以了解一下... 目录引言Recover 的基本概念基本代码示例简单的 Recover 示例嵌套函数中的 Recover项目场景中的应用Web 服务器中

详解如何使用Python从零开始构建文本统计模型

《详解如何使用Python从零开始构建文本统计模型》在自然语言处理领域,词汇表构建是文本预处理的关键环节,本文通过Python代码实践,演示如何从原始文本中提取多尺度特征,并通过动态调整机制构建更精确... 目录一、项目背景与核心思想二、核心代码解析1. 数据加载与预处理2. 多尺度字符统计3. 统计结果可

SpringBoot整合Sa-Token实现RBAC权限模型的过程解析

《SpringBoot整合Sa-Token实现RBAC权限模型的过程解析》:本文主要介绍SpringBoot整合Sa-Token实现RBAC权限模型的过程解析,本文给大家介绍的非常详细,对大家的学... 目录前言一、基础概念1.1 RBAC模型核心概念1.2 Sa-Token核心功能1.3 环境准备二、表结