使用AirSim的项目#
飞行器#
感知#
从模拟环境收集的里程计数据 - 比较最小二乘估计器(LSQ)和扩展卡尔曼滤波器(EKF)进行传感器融合
P-Agent:使用 Pedras 和 AirSim 训练自主代理识别并获取包裹
屋顶着陆 - 融合 Polylidar3D 和深度学习,从 3D 点云中识别平面
使用光流和扩展焦点 (Focus of Expansion) 对微型飞行器 (MAV) 进行基于运动的物体检测
规划#
多代理路由 - 一个通过使用导航库来控制多架无人机的开发库
移动机器人在主动感知覆盖路径规划方案中的路径规划 - 基于在线接收的已捕获图像信息调整机器人速度
强化学习#
奖励塑造技术 Hind Sight Reward Shaping - 利用贝尔曼方程的基本原理和当前最先进的深度强化学习算法(如 DQN)中的经验重放。
将强化学习应用于无人机模拟 - 包括:根据无人机前方的红色感应进行移动、根据颜色检测来试验无人机的持续动作。
从演示中学习:Stable Baselines 2.10 的模仿学习基准
近端策略优化 (PPO) 实现四轴飞行器在走廊环境中的自主导航
Airsim, Stable Baselines3, 强化学习
基于PPO的四轴飞行器自主导航 - 用于四轴飞行器在走廊环境中的自主导航。其中每隔 4 米设置一个带有圆形开口的方块供无人机穿过。预期是智能体能够顺利穿过这些开口而不会与方块发生碰撞
设计一个强化学习空中交通管制员代理 - 使其能够承担现实生活中的空中交通管制员的职责,利用城市空中交通来指挥垂直起降机场周围的电动垂直起降飞行器。该问题被表述为一个马尔可夫决策过程,并使用PPO作为强化学习算法。
控制#
手动设计的控制器 - 此环境是一个 Gym API,专门用于学习无地图导航和飞行稳定性
大模型#
DroneVQA:在模拟四旋翼无人机上部署基于 Transformer 的视觉问答 (VQA) 人工智能模型进行视觉检查 - 通过比较答案准确性、主题理解、处理速度和模型训练改进等关键因素,比较开源模型的性能以及在无人机应用中进行微调的难易程度。用户可以在虚拟环境中驾驶无人机,并根据无人机摄像头的拍摄内容提出问题。生成了可解释的人工智能 (XAI) 结果可视化效果,从人工智能模型的角度展示提供的提示和图像,突出显示影响模型结论的关键因素以及最佳答案的权重。用户还可以选择模拟环境天气效应,例如雨、雪、灰尘和雾,以及镜头模糊、像素损坏和断线等摄像头缺陷
端到端#
利用神经网络飞越狭窄缝隙 - 一种端到端的规划和控制方法
基于迁移学习 (TL) 的方法,通过深度强化学习减少训练深度神经网络进行自主导航所需的机载计算量 - 对网络进行端到端训练。这些训练好的元权重随后在模拟测试环境中用作网络的初始化器,并针对最后几个全连接层进行微调。为了验证该方法的鲁棒性,我们模拟了无人机动力学和环境特性的变化。包含真实DJI Tello 无人机上
设计#
数据#
生成数据和对应的Ground Truth - 包括RGB相机、标准化差异数据、3D 点云
数据收集教程 - 包括蓝图说明、 使用 AirSim 进行 3D 点云重建
在AirSim中操纵无人机并在训练期间提取图像/视频的概念验证
适用于VLN数据集的注释软件,用于注释每个导航步骤指令中的引用对象
工具#
适用于 AirSim Multirotor 模拟器的 OpenAI Gym 环境
无人机强化学习(RL)应用的可编程引擎(PEDRA-2.0) - 其他 相似项目
OpenAI Gym 的 AirSim 接口 - 支持两种无人机控制类型:离散位置控制和连续速度控制
Airsim + Python + Docker 示例 - 包括 ROS2 + Docker turtlesim 示例
FLS(飞行光斑)显示器 - 能够通过占据空间中的物理体积来呈现真实或虚拟的三维物体的显示器,我们需要尺寸仅为数百微米的微型无人机,并配备一个或多个可发出不同颜色和亮度的光源
地图#
推理模拟环境中可能存在的任意投影系统 - 使用虚幻引擎构建的德国维滕一小块街区的示例。模拟环境是一个基于 OSM 的地理参考世界,采用 UTM32N 投影坐标系。通过 GPS 位置控制四旋翼飞行器降落在建筑物上。
比赛#
方程式无人驾驶赛车 - 包括素材构建流程、模仿学习(TODO)
无人机在狭窄倾斜缝隙中快速飞行 - 本科论文
定制#
人#
多模态人机交互(Human-in-the-loop, HITL)学习 - 整合眼神注视和自然语言,实现人机交互学习。预测的凝视和真实凝视对比
使用人类交互和强化学习实时教导学习代理完成不同的任务 - 学习周期应用于教导四旋翼飞行器如何基于人机交互和强化学习降落在着陆台上
人类角色被设置为在设计的样条路径上行走 - 对于动态防撞问题,可以使用以下包含行走人类角色的地图来收集数据,以训练强化学习代理,为Gym 风格环境
车#
对 Udemy 教程《应用深度学习——完整的自动驾驶汽车课程》概念流程的测试 - 使用 Keras(Tensorflow 的包装器)教汽车如何自动驾驶
测试 Airsim API,并训练汽车使用强化学习来查找和导航到物体
自动赛车的强化学习 - 使用软演员评论家 (SAC) 算法和变分自动编码器 (VAE)。
通用 ROS2 包,用于使用不同的 API 控制各种模拟中的车辆