This commit is contained in:
2026-08-09 21:02:42 +08:00
parent 173670e194
commit 07598f4b11
41 changed files with 3381 additions and 255 deletions

222
test1.md Normal file
View File

@@ -0,0 +1,222 @@
# RDKx5 延迟测试与优化计划
日期2026-08-06
## 1. 测试范围
- 设备RDKx5`192.168.10.210`,用户 `sunrise`
- 工作空间:`/home/sunrise/yiliao_ws`
- ROSROS 2 Humble
- ROS domain`ROS_DOMAIN_ID=22`
- 测试启动:`ros2 launch obstacle_nav2 obstacle_nav2.launch.py`
- 测试结束后已停止本次启动的 launch、底盘、雷达、障碍检测和 Nav2 子进程
- 停止后确认 `/scan` publisher 数量为 0没有遗留本次测试的雷达或底盘进程
本次没有发送导航目标或非零速度命令。测试期间 `/cmd_vel``/cmd_vel_nav` 没有非零输出,里程计速度为 0。由于雷达扇区存在约 0.62 m 近障碍,且系统 CPU 负载较高,没有执行实车运动和底盘 watchdog 的实际动作测试。
## 2. 测试结果
新启动实例的 Nav2 lifecycle 节点成功进入 `active`,并且 TF 检查通过。此前旧实例曾加载过期的 `/tmp/launch_params_*`,导致 local costmap 等待 `odom_combined`;重启后当前 profile 使用 `odom`,该问题消失。
### 2.1 消息链路
独立 rclpy 订阅,稳定窗口约 20 秒:
| 话题 | 平均间隔 | P95 | P99 | 最大间隔 | 时间戳年龄 |
| --- | ---: | ---: | ---: | ---: | ---: |
| `/scan` | 82.1 ms | 87.4 ms | 109.5 ms | 117.5 ms | P99 10.6 ms最大 113.5 ms |
| `/obstacles` | 82.0 ms | 88.5 ms | 104.7 ms | 115.9 ms | P99 18.2 ms最大 24.7 ms |
| `/odom_combined` | 50.1 ms | 71.4 ms | 81.5 ms | 112.4 ms | P95 18.8 ms最大 28.4 ms |
结论:雷达和障碍检测平均链路延迟不高,但存在 100 ms 级别长尾odom 约 20 Hz反馈周期本身约 50 ms。
### 2.2 代价地图
当前默认 launch 实际加载 `nav2_profile_10.yaml`,运行时参数为:
```yaml
local_costmap:
update_frequency: 5.0
publish_frequency: 2.0
global_costmap:
update_frequency: 1.0
publish_frequency: 1.0
```
有效话题为 `/local_costmap/costmap_raw``/global_costmap/costmap_raw`,类型为 `nav2_msgs/msg/Costmap`
实测:
- local costmap约 1.67 Hz平均间隔 598 ms最大约 602 ms
- global costmap约 0.75 Hz平均间隔约 1337 ms最大约 2001 ms
源码 `nav2_params.yaml` 中虽然已经是 local `10 Hz / 4 Hz`,但默认 launch 没有使用这个文件。因此此前提高频率的修改没有进入本次实际运行链路。
### 2.3 TF 与时间戳
启动和运行初期曾出现:
```text
Lookup would require extrapolation into the future
```
一个样本中,请求时间比最新 TF 超前约 81 ms。稳定运行后连续约 20 秒没有继续增加 TF 失败计数,但启动阶段曾记录 10 条 `ObstacleArrayLayer: TF failed`
这说明 20 ms TF 查询约束会暴露雷达时间戳和 odom TF 的长尾。问题不是平均延迟,而是偶发的未来时间查询;仅增大 lookup timeout 不能完全解决请求时间已经超出 TF 缓存的问题。
### 2.4 底盘处理耗时
`origincar_base` 日志显示:
```text
scan_to_odom 平均约 4447 ms
scan_to_odom 最大约 624.6 ms
```
这仍然不满足平均小于 25 ms、P99 小于 45 ms 的目标。该长尾会直接影响 odom TF、costmap TF 查询和控制闭环。
### 2.5 雷达元数据
8 秒采样约 98 帧,约 375 个 range 点:
- `scan_time`0 到 122 ms平均约 75.2 ms
- `time_increment`0 到 0.327 ms平均约 0.201 ms
- 实际消息间隔约 82 ms
平均值接近实际雷达周期,但存在 `scan_time=0` 的异常样本。当前障碍检测主要使用 `header.stamp`,暂时没有阻塞运行;后续做去畸变或点时间补偿前必须处理这些异常值。
## 3. DDS UDP 根因分析
### 3.1 直接证据
`obstacle_nav2.launch.py` 在第 144 至 146 行为所有包含的节点设置:
```python
SetEnvironmentVariable(
name='FASTRTPS_DEFAULT_PROFILES_FILE',
value=fastdds_profile_path)
```
该 XML 的核心配置为:
```xml
<useBuiltinTransports>false</useBuiltinTransports>
<userTransports>
<transport_id>udp_transport</transport_id>
</userTransports>
```
这会关闭 FastDDS 内置传输,包含同机进程间通常使用的 shared memory只保留 UDPv4。于是底盘、TF、Nav2 各 server、costmap 和障碍检测之间的同机通信也通过 UDP loopback 完成。
在完整系统运行期间对底盘、robot_state_publisher 和 bt_navigator 的热点线程执行 `strace`
- `sendto` 大量发往 `127.0.0.1:12913``12931``12933``12935``12941``12945`
- 每次发送前高频调用 `setsockopt(SO_SNDTIMEO)`
- 该调用持续返回 `EDOM (Numerical argument out of domain)`
- 单个底盘进程约 3 秒内出现 9000 级别的 `sendto` 和同量级的 `setsockopt`
稳定窗口的 8 核 CPU 采样约为:
```text
47% user + 31% system
```
主要进程瞬时 CPU 约为:
- `origincar_base`78%
- `robot_state_publisher`59%
- `bt_navigator`59%
- `planner_server`40%
- `controller_server`40%
### 3.2 谁导致了 UDP 流量
结论不是“obstacle_scanner 单独导致”,而是:
1. `fastdds_udp_only.xml` 强制整套 launch 使用 UDP-only禁用了同机 shared memory这是高 UDP 流量和高系统调用开销的首要放大器。
2. 完整 Nav2/底盘图中的多个节点同时发布和订阅 TF、odom、costmap、障碍和 lifecycle 数据,所有这些进程间通信都被放到了 UDP loopback。
3. `foxglove_bridge` 使用同一 ROS domain订阅多个高频话题会增加 DDS reader 数量和数据转发负载,但它不是唯一根因。停止本次 Nav2 后Foxglove 的瞬时 CPU 采样降到约 0.4%,说明高负载主要随完整 ROS 图出现。
4. 当前独立运行的 `static_transform_publisher` 瞬时 CPU 约 0.2%,不是主要 CPU 根因。
因此,最可能的根因链是:
```text
UDP-only 配置
-> 同机通信全部走 FastDDS UDP loopback
-> 多节点 DDS reader/writer 产生大量本地 UDP 包
-> FastDDS 高频设置 SO_SNDTIMEO 且返回 EDOM
-> system CPU、上下文切换和调度延迟升高
-> scan_to_odom、TF 和 Nav2 回调出现长尾
```
仅凭一次运行不能把 `EDOM` 归因到某一个 ROS 节点的业务代码;需要按下面计划做 UDP-only 与 shared-memory 的 A/B 对比。现有证据已经足以把 `fastdds_udp_only.xml` 列为第一优先级排查对象。
## 4. 优化计划
### 阶段 0建立可重复基线
1. 保持当前 `ROS_DOMAIN_ID=22`,关闭 Foxglove单独启动底盘、雷达、障碍检测和 Nav2。
2. 固定采样 60 秒:`/scan``/obstacles``/odom_combined``/local_costmap/costmap_raw``/tf`
3. 记录每个话题的平均、P95、P99、最大间隔和消息时间戳年龄。
4. 同时记录 8 核 CPU、上下文切换、FastDDS UDP 端口和 `setsockopt EDOM` 次数。
验收:同一配置重复两次,关键指标差异小于 10%。
### 阶段 1确认并修复 DDS 传输配置
1. A 组:当前 `fastdds_udp_only.xml`
2. B 组:移除 `FASTRTPS_DEFAULT_PROFILES_FILE`,使用 FastDDS 默认 shared memory + UDP。
3. C 组:显式配置 shared memory + UDP仅在需要跨主机时保留 UDP不关闭内置传输。
4. 每组重复阶段 0 的 60 秒采样。
5. 统计 `strace -c``sendto``setsockopt``futex`,确认 `SO_SNDTIMEO -> EDOM` 是否消失。
6. Foxglove 单独做一组开启/关闭对比,避免把桥接器负载误判为 Nav2 根因。
优先实现:默认 launch 不再强制 UDP-only。若确实需要跨主机通信再使用同时启用 shared memory 和 UDP 的 profile并限制网卡/接口范围。
验收:
- `SO_SNDTIMEO -> EDOM` 为 0
- 完整图空闲运行时系统 CPU 显著下降
- `/scan``/obstacles``/odom_combined` P99 不恶化
- `scan_to_odom` 长尾不再因 DDS 配置放大
### 阶段 2统一 Nav2 参数来源并提高 costmap 频率
1. 明确 `nav2_params.yaml``nav2_profile_10.yaml``nav2_profile_11.yaml` 的职责。
2. 默认 launch 不要继续硬编码与实际调参目标不一致的 profile。
3. 如果 profile 10 是默认实车配置,将 local costmap 的 update/publish 调整到目标值;建议先验证 `10 Hz / 810 Hz`,不要一次直接追求更高。
4. global costmap 保持较低频率,避免把 CPU 消耗在不影响即时避障的全局地图上。
5. 重新测 `/local_costmap/costmap_raw` 的实际频率,而不是只检查 YAML。
验收local costmap 发布 P95 间隔接近 100125 ms且 CPU 不出现持续饱和costmap update 不产生 deadline 或 missed-cycle 日志。
### 阶段 3修复 TF 时间戳长尾
1. 对比 `/scan` header、`/obstacles` header、odom TF 发布时间和当前 ROS 时间。
2. 对未来时间请求做明确策略:短暂等待、丢弃异常帧或使用最新可用 TF不能让单个回调阻塞整个障碍链。
3. 保持 `odom``base_footprint``laser_link` 帧名统一,禁止旧配置回退到 `odom_combined`
4. 对雷达时间元数据做校验:`scan_time <= 0` 时使用最近有效周期,并限制异常跳变;`time_increment` 必须与 range 数量一致。
验收:连续 60 秒无 `extrapolation into the future`;障碍消息丢弃率为 0TF 时间戳年龄 P99 小于 20 ms或对超限帧有明确计数和降级行为。
### 阶段 4优化底盘处理时序
1.`scan_to_odom` 计算和串口收发的耗时分开统计。
2. 找出 624 ms 长尾对应的线程、锁等待、日志和内存分配。
3. 检查 DDS 高负载修复后 `origincar_base` 的 CPU 和回调耗时是否恢复。
4. 保持底盘 TX 周期 20 ms、PC watchdog 150 ms随后与 STM32 固件 watchdog 联调。
验收:平均处理耗时小于 25 msP99 小于 45 ms不允许持续出现大于 50 ms 的控制周期;命令停止后 150200 ms 内归零。
### 阶段 5Nav2 控制和实车验证
1. 仅在阶段 14通过后启用 MPPI 运动测试。
2. 先在开阔区域发送短距离、低速度、带终点姿态的目标。
3. 记录 MPPI 循环耗时、`cmd_vel_nav -> cmd_vel -> odom` 响应和实际舵角响应。
4. 再测试近障碍和急转弯,不同时修改多个 critic 参数。
验收MPPI 平均循环小于 25 msP99 小于 45 ms障碍从 `/scan` 到 costmap 的端到端延迟满足目标;无持续恢复行为、振荡或控制周期丢失。
## 5. 当前结论
当前还不能宣称系统达到 50100 ms 障碍反应目标。雷达到障碍检测的平均链路已经接近 8090 ms但代价地图约 600 ms 发布一次DDS UDP-only 引起的高 CPU/高系统调用负载,以及底盘 `scan_to_odom` 的 624 ms 长尾仍是主要阻塞项。下一步应优先做 DDS A/B对比结果出来前不建议继续调 MPPI critic 权重。