KAN2.0来了:符号+连接双驱动下的AI4S

2024-08-22 14:20
文章标签 连接 驱动 符号 ai4s kan2.0

本文主要是介绍KAN2.0来了:符号+连接双驱动下的AI4S,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

看吧~在经历了今年4月末KAN发布之初带给业界的惊艳,再到学术与产业间的各种争鸣甚至最后演变成了某种学术诚信上的“诋毁”,“KAN”团队仍保持初心,终迎来了KAN 2.0。

b5f42cb898894cf78911362496b74749.jpg

记得当初自己在某号/某乎/某薯上也发表或记录或解答了关于KAN的一些观点、想法和问题,并与一作小帅哥也产生了些许互动和碰撞,但着实也遇到一些不是很纯粹的“comment”..呃.我呢也都该怼怼过..但有的怼有收获,有的怼就是一种无意义的消耗和浪费了~喜欢看热闹的伙伴也可以访问之前历史笔记或文章,也许会有意外发现哈哈~

2e4dd56671ef41e684736e004c8b2854.jpg

在粗读了这篇KAN 2.0之后,整体感觉相比1.0在所谓的符号化层面的“精雕”上更近了一步,在将符号化与神经网络的链接上也更多元和巧妙~

6548e059470c47dfbcd29d73aab5780b.jpg

包括在“AI4S”上以「好奇心驱动的科学」的洞察视角上尝试将符号化本身进一步的拆解、表征甚至是“符号化”(读起来有点绕..),然后再与KAN网络优雅的集成起来。如文中作者探讨了三种将领域知识整合到KAN中的归纳偏置,从最粗略(最简单/相关性)到最精细(最困难/因果关系):重要特征、模块化结构和符号公式。

同时,本篇论文KAN 2.0在原始KAN 1.0网络的基础上,引入了一种称为MultKAN的新模型,其核心改进是引入额外的乘法层进行增强,侧面的将Kolmogorov-Arnold表示定理提出的“任何连续高维函数都可以分解为单变量连续函数和加法的有限组合“扩展到了在科学和日常生活中的普遍存在的“乘法”上,更清楚地揭示了数据中的乘法结构,以期增强可解释性和表达能力。(当然这背后一定包含了更进一步的理论证明)

除此之外,文中除了进行原理层面的说明,论文还讲解了多个AI4S具体案例,如何将KAN融入到现实的科学研究中,比如发现新的物理概念和定律。包括:守恒量、拉格朗日量、隐藏对称性和本构方程等…

ac8062a2088d4383b6753ad3bdfdde28.jpg

鉴于这篇文章包含的信息量和数学理论背景较复杂,且仅通过一篇笔记和记录就草草了事也是不能够的,后续将分几篇来分别给大家带来分析和观点分享,望大家持续关注~

最后再说一下回归第一性原理的自总结:KAN采用了一种巧妙而优雅的方法将抽象的符号化表征思想带入到神经网络中,从而实现了符号主义与连接主义的某种平衡~ 

不同于以往MLP的简单粗暴,甚至与火极一时并在AIGC大行其道的《The bitter lesson》或「scaling law」在思想上大相径庭。

 

这篇关于KAN2.0来了:符号+连接双驱动下的AI4S的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1096517

相关文章

Java+AI驱动实现PDF文件数据提取与解析

《Java+AI驱动实现PDF文件数据提取与解析》本文将和大家分享一套基于AI的体检报告智能评估方案,详细介绍从PDF上传、内容提取到AI分析、数据存储的全流程自动化实现方法,感兴趣的可以了解下... 目录一、核心流程:从上传到评估的完整链路二、第一步:解析 PDF,提取体检报告内容1. 引入依赖2. 封装

Mac电脑如何通过 IntelliJ IDEA 远程连接 MySQL

《Mac电脑如何通过IntelliJIDEA远程连接MySQL》本文详解Mac通过IntelliJIDEA远程连接MySQL的步骤,本文通过图文并茂的形式给大家介绍的非常详细,感兴趣的朋友跟... 目录MAC电脑通过 IntelliJ IDEA 远程连接 mysql 的详细教程一、前缀条件确认二、打开 ID

Go语言连接MySQL数据库执行基本的增删改查

《Go语言连接MySQL数据库执行基本的增删改查》在后端开发中,MySQL是最常用的关系型数据库之一,本文主要为大家详细介绍了如何使用Go连接MySQL数据库并执行基本的增删改查吧... 目录Go语言连接mysql数据库准备工作安装 MySQL 驱动代码实现运行结果注意事项Go语言执行基本的增删改查准备工作

python连接sqlite3简单用法完整例子

《python连接sqlite3简单用法完整例子》SQLite3是一个内置的Python模块,可以通过Python的标准库轻松地使用,无需进行额外安装和配置,:本文主要介绍python连接sqli... 目录1. 连接到数据库2. 创建游标对象3. 创建表4. 插入数据5. 查询数据6. 更新数据7. 删除

在 Spring Boot 中连接 MySQL 数据库的详细步骤

《在SpringBoot中连接MySQL数据库的详细步骤》本文介绍了SpringBoot连接MySQL数据库的流程,添加依赖、配置连接信息、创建实体类与仓库接口,通过自动配置实现数据库操作,... 目录一、添加依赖二、配置数据库连接三、创建实体类四、创建仓库接口五、创建服务类六、创建控制器七、运行应用程序八

解决hive启动时java.net.ConnectException:拒绝连接的问题

《解决hive启动时java.net.ConnectException:拒绝连接的问题》Hadoop集群连接被拒,需检查集群是否启动、关闭防火墙/SELinux、确认安全模式退出,若问题仍存,查看日志... 目录错误发生原因解决方式1.关闭防火墙2.关闭selinux3.启动集群4.检查集群是否正常启动5.

在Linux系统上连接GitHub的方法步骤(适用2025年)

《在Linux系统上连接GitHub的方法步骤(适用2025年)》在2025年,使用Linux系统连接GitHub的推荐方式是通过SSH(SecureShell)协议进行身份验证,这种方式不仅安全,还... 目录步骤一:检查并安装 Git步骤二:生成 SSH 密钥步骤三:将 SSH 公钥添加到 github

Redis客户端连接机制的实现方案

《Redis客户端连接机制的实现方案》本文主要介绍了Redis客户端连接机制的实现方案,包括事件驱动模型、非阻塞I/O处理、连接池应用及配置优化,具有一定的参考价值,感兴趣的可以了解一下... 目录1. Redis连接模型概述2. 连接建立过程详解2.1 连php接初始化流程2.2 关键配置参数3. 最大连

Linux之platform平台设备驱动详解

《Linux之platform平台设备驱动详解》Linux设备驱动模型中,Platform总线作为虚拟总线统一管理无物理总线依赖的嵌入式设备,通过platform_driver和platform_de... 目录platform驱动注册platform设备注册设备树Platform驱动和设备的关系总结在 l

C#连接SQL server数据库命令的基本步骤

《C#连接SQLserver数据库命令的基本步骤》文章讲解了连接SQLServer数据库的步骤,包括引入命名空间、构建连接字符串、使用SqlConnection和SqlCommand执行SQL操作,... 目录建议配合使用:如何下载和安装SQL server数据库-CSDN博客1. 引入必要的命名空间2.