强化学习实践(二):Dynamic Programming(Value \ Policy Iteration)

2024-09-03 03:52

本文主要是介绍强化学习实践(二):Dynamic Programming(Value \ Policy Iteration),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

强化学习实践(二):Dynamic Programming(Value \ Policy Iteration)

  • 伪代码
    • Value Iteration
    • Policy Iteration
    • Truncated Policy Iteration
  • 代码
  • 项目地址

伪代码

具体的理解可以看理论学习篇,以及代码中的注释,以及赵老师原著

Value Iteration

在这里插入图片描述

Policy Iteration

在这里插入图片描述

Truncated Policy Iteration

在这里插入图片描述

代码

import numpy as npfrom environment.env import Env
from environment.vis import Visclass DynamicProgramming:"""动态规划的两个方法, 实际都为Truncated Policy Iteration, 具体代码尽量复刻伪代码的逻辑"""def __init__(self, gamma: float = 0.9, env: Env = None, vis: Vis = None, render: bool = False):self.gamma = gammaself.env = envself.vis = visself.render = renderself.policy = np.zeros(shape=(self.env.state_space_size, self.env.action_space_size), dtype=int)self.qtable = np.zeros(shape=self.env.state_space_size, dtype=float)def value_iteration(self, threshold: float = 0.01) -> None:"""计算每个状态动作对的状态动作价值,然后每个状态选择最大的值对应的动作作为自己的策略,并将值作为自己的状态价值根据Contraction Mapping Theorem, qsa的计算公式满足该理论要求,通过迭代不断优化全局状态价值,并找到对应的最优策略:param threshold: 迭代结束的阈值,前后两次迭代后的全局状态价值的欧氏距离相差小于该阈值时代表优化空间已经不大,结束优化:return: None"""differ = np.infwhile differ > threshold:kth_qtable = self.qtable.copy()for state in self.env.state_space:qsa = np.zeros(shape=self.env.action_space_size, dtype=float)for action in self.env.action_space:qsa[action] = self.calculate_qvalue(state, action)self.policy[state] = np.zeros(shape=self.env.action_space_size)self.policy[state, np.argmax(qsa)] = 1self.qtable[state] = np.max(qsa)differ = np.linalg.norm(kth_qtable - self.qtable, ord=1)if self.render:self.vis.show_policy(self.policy)self.vis.show_value(self.qtable)self.vis.show()def policy_iteration(self, policy_threshold: float = 0.01, value_threshold: float = 0.01, steps: int = 10) -> None:"""step 1:从初始策略开始,求解该策略对应的全局状态价值(在这个过程中本来要无穷次迭代得到真正的状态价值,但实际会设置阈值,截断策略迭代算法)step 2:拿到第K次迭代对应的策略求解出的全局状态价值之后,利用该价值作为初始值,再进行全局状态价值优化以及策略优化这个过程其实相较于值迭代比较难理解Q1:In the policy evaluation step, how to get the state value vπk by solving the Bellman equation?A1:x=f(x)这种满足Contraction Mapping Theorem的迭代求解方式(也可以解析解matrix vector form,但是涉及矩阵逆运算会很慢O(n^3))Q2*:In the policy improvement step, why is the new policy πk+1 better than πk?A2:直观上不是很好理解就得利用数学工具了,赵老师原著Chapter4.P73页对比了前后两次迭代证明了Vπk - Vπk+1 < 0Q3*:Why can this algorithm finally converge to an optimal policy?A3:Chapter4.P75页不仅证明了能达到最优,而且引入这种PE过程会收敛得更快,证明了Vπk>Vk,同一个迭代timing,策略迭代状态价值更接近最优:param policy_threshold: 策略阈值:param value_threshold: 全局状态价值阈值:param steps: 截断的最大迭代次数,只用阈值也行,但这样更方便说明:return: None"""policy_differ = np.infself.init_policy()while policy_differ > policy_threshold:kth_policy = self.policy.copy()# step 1: policy evaluationvalue_differ = np.infwhile value_differ > value_threshold and steps > 0:steps -= 1kth_qtable = self.qtable.copy()for state in self.env.state_space:state_value = 0for action in self.env.action_space:state_value += self.policy[state, action] * self.calculate_qvalue(state, action)self.qtable[state] = state_valuevalue_differ = np.linalg.norm(kth_qtable - self.qtable, ord=1)# step 2: policy improvement 相当于上面的PE给下面提供了一个初始状态(对应策略),之前值迭代的时候是全0为初始值value_differ = np.infwhile value_differ > value_threshold:kth_qtable = self.qtable.copy()for state in self.env.state_space:qsa = np.zeros(shape=self.env.action_space_size, dtype=float)for action in self.env.action_space:qsa[action] = self.calculate_qvalue(state, action)self.policy[state] = np.zeros(shape=self.env.action_space_size)self.policy[state, np.argmax(qsa)] = 1self.qtable[state] = np.max(qsa)value_differ = np.linalg.norm(kth_qtable - self.qtable, ord=1)policy_differ = np.linalg.norm(kth_policy - self.policy, ord=1)if self.render:self.vis.show_policy(self.policy)self.vis.show_value(self.qtable)self.vis.show()def init_policy(self) -> None:"""之前值迭代可以不用初始化,因为只对policy进行了更新,现在策略迭代得初始化,因为首先就要利用policy进行PE:return: None"""random_action = np.random.randint(self.env.action_space_size, size=self.env.state_space_size)for state, action in enumerate(random_action):self.policy[state, action] = 1def calculate_qvalue(self, state: int, action: int) -> float:"""计算状态动作价值函数的元素展开式, 这里就能理解为什么环境模型为什么是这样的数据结构:param state: 当前状态:param action: 当前动作:return: 当前的状态动作价值"""qvalue = 0# immediately reward: sigma(r * p(r | s, a))for reward_type in range(self.env.reward_space_size):qvalue += self.env.reward_space[reward_type] * self.env.rewards_model[state, action, reward_type]# next state expected reward : sigma(vk(s') * p(s' | s, a))for next_state in range(self.env.state_space_size):qvalue += self.gamma * self.env.states_model[state, action, next_state] * self.qtable[next_state]return qvalueif __name__ == "__main__":start_state = [0, 0]target_state = [2, 3]forbid = [[2, 2], [2, 1], [1, 1], [3, 3], [1, 3], [1, 4]]model = DynamicProgramming(vis=Vis(target_state=target_state, forbid=forbid),env=Env(target_state=target_state, forbid=forbid),render=True)model.value_iteration()# model.policy_iteration()

项目地址

RL_Algorithms(正在逐步更新多智能体的算法,STAR HOPE(^ - ^)

这篇关于强化学习实践(二):Dynamic Programming(Value \ Policy Iteration)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/1131949

相关文章

在Java中使用OpenCV实践

《在Java中使用OpenCV实践》用户分享了在Java项目中集成OpenCV4.10.0的实践经验,涵盖库简介、Windows安装、依赖配置及灰度图测试,强调其在图像处理领域的多功能性,并计划后续探... 目录前言一 、OpenCV1.简介2.下载与安装3.目录说明二、在Java项目中使用三 、测试1.测

MyBatis-Plus 自动赋值实体字段最佳实践指南

《MyBatis-Plus自动赋值实体字段最佳实践指南》MyBatis-Plus通过@TableField注解与填充策略,实现时间戳、用户信息、逻辑删除等字段的自动填充,减少手动赋值,提升开发效率与... 目录1. MyBATis-Plus 自动赋值概述1.1 适用场景1.2 自动填充的原理1.3 填充策略

Olingo分析和实践之EDM 辅助序列化器详解(最佳实践)

《Olingo分析和实践之EDM辅助序列化器详解(最佳实践)》EDM辅助序列化器是ApacheOlingoOData框架中无需完整EDM模型的智能序列化工具,通过运行时类型推断实现灵活数据转换,适用... 目录概念与定义什么是 EDM 辅助序列化器?核心概念设计目标核心特点1. EDM 信息可选2. 智能类

Olingo分析和实践之OData框架核心组件初始化(关键步骤)

《Olingo分析和实践之OData框架核心组件初始化(关键步骤)》ODataSpringBootService通过初始化OData实例和服务元数据,构建框架核心能力与数据模型结构,实现序列化、URI... 目录概述第一步:OData实例创建1.1 OData.newInstance() 详细分析1.1.1

Olingo分析和实践之ODataImpl详细分析(重要方法详解)

《Olingo分析和实践之ODataImpl详细分析(重要方法详解)》ODataImpl.java是ApacheOlingoOData框架的核心工厂类,负责创建序列化器、反序列化器和处理器等组件,... 目录概述主要职责类结构与继承关系核心功能分析1. 序列化器管理2. 反序列化器管理3. 处理器管理重要方

虚拟机Centos7安装MySQL数据库实践

《虚拟机Centos7安装MySQL数据库实践》用户分享在虚拟机安装MySQL的全过程及常见问题解决方案,包括处理GPG密钥、修改密码策略、配置远程访问权限及防火墙设置,最终通过关闭防火墙和停止Net... 目录安装mysql数据库下载wget命令下载MySQL安装包安装MySQL安装MySQL服务安装完成

SpringBoot整合(ES)ElasticSearch7.8实践

《SpringBoot整合(ES)ElasticSearch7.8实践》本文详细介绍了SpringBoot整合ElasticSearch7.8的教程,涵盖依赖添加、客户端初始化、索引创建与获取、批量插... 目录SpringBoot整合ElasticSearch7.8添加依赖初始化创建SpringBoot项

Zabbix在MySQL性能监控方面的运用及最佳实践记录

《Zabbix在MySQL性能监控方面的运用及最佳实践记录》Zabbix通过自定义脚本和内置模板监控MySQL核心指标(连接、查询、资源、复制),支持自动发现多实例及告警通知,结合可视化仪表盘,可有效... 目录一、核心监控指标及配置1. 关键监控指标示例2. 配置方法二、自动发现与多实例管理1. 实践步骤

MySQL 迁移至 Doris 最佳实践方案(最新整理)

《MySQL迁移至Doris最佳实践方案(最新整理)》本文将深入剖析三种经过实践验证的MySQL迁移至Doris的最佳方案,涵盖全量迁移、增量同步、混合迁移以及基于CDC(ChangeData... 目录一、China编程JDBC Catalog 联邦查询方案(适合跨库实时查询)1. 方案概述2. 环境要求3.

Linux进程CPU绑定优化与实践过程

《Linux进程CPU绑定优化与实践过程》Linux支持进程绑定至特定CPU核心,通过sched_setaffinity系统调用和taskset工具实现,优化缓存效率与上下文切换,提升多核计算性能,适... 目录1. 多核处理器及并行计算概念1.1 多核处理器架构概述1.2 并行计算的含义及重要性1.3 并