【杂记】裂脑人实验和语言模型幻觉

2024-09-06 20:52

本文主要是介绍【杂记】裂脑人实验和语言模型幻觉,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

【杂记】裂脑人实验和语言模型幻觉

模型的自主意识在哪里,人的自我认知在哪里?自然而然的,“裂脑人” 这个词突然出现在我脑海里。然后随意翻了翻相关的文章,觉得这个问题和目前大模型面临的幻觉问题也高度相关,遂随笔记录。

裂脑人

什么是裂脑人?人的大脑左右半脑本来是一个整体,因为先天或者后天的原因让左右半脑分开不产生连接,就是“裂脑”。过去这个方法被作为控制恶性癫痫的治疗手段。

一些铺垫知识

  • 我们也知道左脑和右脑负责的功能是不一样的。比如语言组织,思考推理主要由左脑负责,右脑负责一些空间推理,直觉等
  • 左脑控制人身体的右半边:比如你的右眼,你的右胳膊
  • 相应的,右脑控制你身体的左半边:比如你的左眼,右胳膊

两个实验

下面加扎尼加是对于受试者(后天裂脑人)的两个实验

挥手实验->语言编造

实验者给受试者的“左眼”展示“挥手”一词(让右脑知道“挥手”信息),并让受试者按照信息行事。这时受试者便挥了挥手。

此时,实验者准备刁难一下受试者的左脑(左脑没见过“挥手”,但是知道自己挥手了),实验者问受试者你为什么刚才挥手?受试者此时犹豫了片刻之后回复到:以为刚才看见了一个朋友,所以挥了挥手。

联想实验->语言编造

实验者让受试者左眼看到一幅雪景,右眼看到一只鸡脚,然后让他在桌子上的卡片中,左右手各挑选一张有关联的卡片。

受试者由右脑控制的左手挑的是一个铲雪的铲子,而由左脑控制的右手则是挑了一只鸡。

而这一次受试者的解释是:因为看到了鸡爪所以挑选鸡,而挑铲子是因为要用它打扫鸡厩!
(这时因为受试者用语言解释的时候只能依赖左脑,而左脑知道右眼见过鸡,却不知道左眼见过雪景)
请添加图片描述

裂脑人的幻觉

上面两个例子中,受试者都产生了幻觉!产生幻觉的原因,都是由于负责推理和表达的左脑不知道仅仅传递给右脑的信息,然后做出了臆想。

模型的幻觉

铺垫了这么久,可以谈谈大模型了。我们都知道大语言模型也经常产生幻觉!当然大语言模型的幻觉的定义不是那么统一,姑且这么称呼吧。

在过去的实验中,我发现无论给模型过多的信息或者过少的信息,模型都容易产生严重的幻觉!

比如下面有一段文字(省略了很多内容)

Spam msubi是夏威夷一种流行的小吃和午餐食物,它是由... ...在日语中又被称作 ...

我问大模型,请提取上面这段内容中和 (Spam,流行小吃,午餐食物, 夏威夷) 相关的内容,大模型可以正确的回答 Spam是夏威夷一种流行小吃和午餐食物

但是!如果我问大模型请提取上面这段内容中和 (Spam,罐装,流行小吃,午餐食物, 夏威夷)相关的内容,大模型则会错误的回答 Spam是夏威夷一种流行小吃和罐装午餐食物

当然上面的例子只是在我之前某次实验提供过多信息发现模型容易产生幻觉,相应的那些由于缺少信息产生的幻觉更是数不胜数。

解决幻觉

从这里开始都是我的瞎说~

  1. 首先就是信息不能过多也不能过少,在之前的实践中我就是这么进行的,并且发现这样做确实能够一定程度的缓解幻觉。作为一个头疼医头,脚疼医脚的策略。
  2. 我猜想人的大脑能够独立并协同工作也是正常人抑制幻觉的重要能力。比如说 (a)裂脑人只依赖左脑回答问题比正常人左右脑协同工作更多产生幻觉 (b)当人似醒未醒,或者被酒精麻痹了状态下(此时大脑的前额叶并没有苏醒进入工作状态或者是酒精中毒了),人总是会胡言乱语产生大量幻觉。胡说八道的大模型类比成大脑各部分还没配合起来的人类。 人的大脑各个部分不仅可以独立工作,还可以互相监督。而目前的语言模型,并没有类似的能力(多agent的操作可能有点类似)。

这篇关于【杂记】裂脑人实验和语言模型幻觉的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/1143093

相关文章

C语言进阶(预处理命令详解)

《C语言进阶(预处理命令详解)》文章讲解了宏定义规范、头文件包含方式及条件编译应用,强调带参宏需加括号避免计算错误,头文件应声明函数原型以便主函数调用,条件编译通过宏定义控制代码编译,适用于测试与模块... 目录1.宏定义1.1不带参宏1.2带参宏2.头文件的包含2.1头文件中的内容2.2工程结构3.条件编

Go语言并发之通知退出机制的实现

《Go语言并发之通知退出机制的实现》本文主要介绍了Go语言并发之通知退出机制的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧... 目录1、通知退出机制1.1 进程/main函数退出1.2 通过channel退出1.3 通过cont

Go语言编译环境设置教程

《Go语言编译环境设置教程》Go语言支持高并发(goroutine)、自动垃圾回收,编译为跨平台二进制文件,云原生兼容且社区活跃,开发便捷,内置测试与vet工具辅助检测错误,依赖模块化管理,提升开发效... 目录Go语言优势下载 Go  配置编译环境配置 GOPROXYIDE 设置(VS Code)一些基本

深入理解Go语言中二维切片的使用

《深入理解Go语言中二维切片的使用》本文深入讲解了Go语言中二维切片的概念与应用,用于表示矩阵、表格等二维数据结构,文中通过示例代码介绍的非常详细,需要的朋友们下面随着小编来一起学习学习吧... 目录引言二维切片的基本概念定义创建二维切片二维切片的操作访问元素修改元素遍历二维切片二维切片的动态调整追加行动态

Go语言中make和new的区别及说明

《Go语言中make和new的区别及说明》:本文主要介绍Go语言中make和new的区别及说明,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1 概述2 new 函数2.1 功能2.2 语法2.3 初始化案例3 make 函数3.1 功能3.2 语法3.3 初始化

Go语言中nil判断的注意事项(最新推荐)

《Go语言中nil判断的注意事项(最新推荐)》本文给大家介绍Go语言中nil判断的注意事项,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录1.接口变量的特殊行为2.nil的合法类型3.nil值的实用行为4.自定义类型与nil5.反射判断nil6.函数返回的

Go语言数据库编程GORM 的基本使用详解

《Go语言数据库编程GORM的基本使用详解》GORM是Go语言流行的ORM框架,封装database/sql,支持自动迁移、关联、事务等,提供CRUD、条件查询、钩子函数、日志等功能,简化数据库操作... 目录一、安装与初始化1. 安装 GORM 及数据库驱动2. 建立数据库连接二、定义模型结构体三、自动迁

Go语言代码格式化的技巧分享

《Go语言代码格式化的技巧分享》在Go语言的开发过程中,代码格式化是一个看似细微却至关重要的环节,良好的代码格式化不仅能提升代码的可读性,还能促进团队协作,减少因代码风格差异引发的问题,Go在代码格式... 目录一、Go 语言代码格式化的重要性二、Go 语言代码格式化工具:gofmt 与 go fmt(一)

Go语言中泄漏缓冲区的问题解决

《Go语言中泄漏缓冲区的问题解决》缓冲区是一种常见的数据结构,常被用于在不同的并发单元之间传递数据,然而,若缓冲区使用不当,就可能引发泄漏缓冲区问题,本文就来介绍一下问题的解决,感兴趣的可以了解一下... 目录引言泄漏缓冲区的基本概念代码示例:泄漏缓冲区的产生项目场景:Web 服务器中的请求缓冲场景描述代码

Go语言如何判断两张图片的相似度

《Go语言如何判断两张图片的相似度》这篇文章主要为大家详细介绍了Go语言如何中实现判断两张图片的相似度的两种方法,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 在介绍技术细节前,我们先来看看图片对比在哪些场景下可以用得到:图片去重:自动删除重复图片,为存储空间"瘦身"。想象你是一个