• <noscript id="e0iig"><kbd id="e0iig"></kbd></noscript>
  • <td id="e0iig"></td>
  • <option id="e0iig"></option>
  • <noscript id="e0iig"><source id="e0iig"></source></noscript>
  • ROS+Bebop2無人機+YOLO算法實現無人機視角的實時目標檢測

    前言:

    很久之前,用TK1玩過一段時間的ROS,再加上各種硬件(Arduino、激光雷達、編碼電機等),模仿著做過Turtlebot小車,實現了部分Turtlebot部分的功能,最后因為雷達被我玩燒了,所以,就玩完了。
    最近,身邊有幾臺Bebop2無人機,然后又在玩深度學習的目標檢測,因此,就嘗試了一下將目標檢測算法和無人機結合在一起玩一玩。
    話不多說,先看玩成功的視頻鏈接:
    B站:https://www.bilibili.com/video/av37356955?from=search&seid=10773049982467763230
    YouTube:https://www.youtube.com/watch?v=sgqNDEImGak&t=206s
    效果圖

    目錄:
    第一部分:系統框架簡介;
    第二部分:系統架構搭建詳解;
    第三部分:相關算法以及功能包代碼的修改;
    第四部分:框架整體測試(無人機控制+無人機圖像處理(yolo實時檢測算法))

    第一部分:系統框架簡介
    控制系統采用:ROS(robot operate system) 版本為:kinetic(貌似ubuntu16.04系統只支持kinetic版本的ros)
    控制端介紹(華碩筆記本):i7-7700HQ,GTX-1050(4G), 16G-DDr4,等……(大致電腦配置,并不一定要這么高的配置,只是為了介紹而已)
    無人機介紹:Parrot——Bebop-2無人機;
    無人機開發包:bebop_autonomy, teleop_twist_keyboard;(均可在GitHub 上clone下來)
    檢測算法:Yolo-V3(版本可以自行根據需求改動v1,v2 both ok,蘿卜白菜各有喜愛);

    第二部分:系統架構搭建詳解
    ROS-kinetic安裝(參考:http://wiki.ros.org/kinetic/Installation/Ubuntu)
    1. setup source.list

    sudo sh -c 'echo "deb http://packages.ros.org/ros/ubuntu $(lsb_release -sc) main" > /etc/apt/sources.list.d/ros-latest.list'
    

    2. setup your keys

    sudo apt-key adv --keyserver hkp://ha.pool.sks-keyservers.net:80 --recv-key
    421C365BD9FF1F717815A3895523BAEEB01FA116
    

    3. installation

    sudo apt-get update
    sudo apt-get install ros-kintic-desktop-full
    

    4. initialize rosdep

    sudo rosdep init
    rosdep update
    

    5. environment setup

    echo "source /opt/ros/kinetic/setup.bash" >> ~/.bashrc$ source ~/.bashrc
    

    工作空間的創建以及相關資源包的編譯
    Workspace的創建與bebop-2的安裝
    (參考: https://www.ncnynl.com/archives/201701/1259.html)

    1. 依賴包的安裝
    sudo apt-get install build-essential python-rosdep python-catkin-tools
    
    1. 創建和initialize workspace
    mkdir -p ~/bebop_ws/src && cd ~/bebop_ws
    catkin init
    cd src
    git clone https://github.com/AutonomyLab/bebop_autonomy.git src/bebop_autonomy 
    
    1. 更新賴庫和安裝依賴(包括parrot_arsdk)
    rosdep update
    rosdep install --from-paths src -i
    
    1. 編譯工作空間
    catkin build -DCMAKE_BUILD_TYPE=RelWithDebInfo
    

    Teleop_twist_keyboard下載及編譯

    cd ~/bebop_ws/src
    git clone https://github.com/ros-teleop/teleop_twist_keyboard.git
    cd teleop_twist_keyboard
    mkdir build 
    cd build 
    cmake ..
    make -j8
    

    Darknet-ros下載及編譯

    cd ~/bebop_ws/src
    git clone https://github.com/leggedrobotics/darknet_ros.git
    cd ..
    catkin_make -DCMAKE_BUILD_TYPE=Release
    catkin build darknet_ros -DCMAKE_BUILD_TYPE=Release
    

    到此,整個系統的搭建已經完成,接下即為具體代碼的調試過程介紹,如果中間安裝遇到相關問題,請自行百度;在編譯yolo算法,會涉及到電腦整體環境問題(cuda,cudnn,opencv的安裝可看我上一篇博客),請自行按照需求安裝好。
    接下來所做的調試,我會假定你已經將上述所有的環境安裝以及編譯成功;

    第三部分:相關算法以及功能包代碼的調整
    【在編輯此部分內容之前,需要簡單介紹一下。在ROS操作系統里面,相關信息的獲取是采用消息的訂閱以及發布的形式來進行數據傳輸的,因此,我們只需要了解好各個功能的節點,通過其他算法訂閱節點信息來實現我們所需要的功能。
    當然,這是整個思路,具體的實現過程,還需要仔細分析代碼,同時利用ROS的附加功能去檢查整體的節點框架(rqt_graph),通過分析節點圖來進行相關數據的獲取。】
    在進行接下來的代碼修改前,我已經對bebop_autonomy開發包做了簡單的了解,以及節點的分析;
    1. 控制部分代碼調整
    該部分代碼修改較為簡單,進入teleop_twist_keyboard文件夾下,打開teleop_twist_keyboard.py代碼,找到節點消息發布相關代碼,將這行代碼修改如下:

    Pub = rospy.Publisher(‘bebop/cmd_vel’, Twist, queue_size = 1)
    

    改完這行代碼,請重新編譯整個工作空間,當然也可單獨編譯改功能包;
    2. yolo檢測算法代碼部分修改
    進入darknet_ros文件夾下,找到config文件夾,并且進入打開ros.yaml文件,打開后,找到camera_reading這段代碼,將topic修改為:

    /bebop/image_raw
    

    修改完后,我們已經完成了yolo算法對視屏流的訂閱,只要無人機視頻傳輸回筆記本,我們啟動檢測算法,算法會自動對傳輸回來的視頻流進行檢測;(注意:改完代碼后需重新編譯工作空間,可以用catkin
    build指令對整個工作空間編譯,也可單獨編譯這一個文件夾)

    在這里插入圖片描述
    第四部分:整體框架基本功能的測試(無人機控制+yolov3檢測算法demo)在測試整體算法之前,帶上無人機,找一個空曠的地帶,安全第一

    1. 打開無人機,讓筆記本與無人機Wi-Fi連接;
    2. 啟動ROS操作系統—打開一個新的終端,輸入指令:
    roscore 
    
    1. 啟動無人機圖傳—打開一個新的終端,首先source一下工作空間:
    source ~/bebop_ws/devel/setup.bash
    roslaunch bebop_tools bebop_nodelet_iv.launch
    

    (運行完這行代碼后,無人機的圖傳會顯示在筆記本桌面端,若無顯示請檢查問題)

    1. 讓無人機起飛/降落—再開一個終端,并且輸入指令:
    source ~/bebop_ws/devel/setup.bash
    rostopic pub –once bebop/takeoff std_msgs/Empty   (起飛)
    rostopic pub –once bebop/land std_msgs/Empty   (降落)
    
    1. 啟動無人機控制代碼—開啟一個新的終端,并輸入指令:
    source ~/bebop_ws/devel/setup.bash
    rosrun teleop_twist_keyboard teleop_twist_keyboard.py
    

    此時,控制端已經開啟,操作方式為鍵盤操作:
    [i]:控制無人機前進; [k]:中斷飛行指令;[,]:控制無人機后退;
    [j]:控制無人機左轉;[l]:控制無人機右轉;
    還有幾個控制指令,不做詳述;[u],[o],[m],[.]
    控制指令還可調節為大寫,如何控制請自行操作設置;

    6.啟動yolo檢測算法對無人機視頻進行實時檢測—開啟一個新的終端,并輸入指令:

    source ~/bebop_ws/devel/setup.bash
    roslaunch darknet_ros yolov3.launch
    

    此時,檢測算法已啟動,終端會彈出新的窗口,顯示算法的實時檢測效果;

    備注:控制無人機攝像頭移動指令為: rostopic pub –once bebop/camera_control geometry_msgs/Twist 再按下tab按鍵自動補齊即可
    至此,無人機的整個環境已經搭建成功,同時,也通過測試了。

    道路千萬條,安全第一條!!! 切記!!!!無人機的通信采用的是WiFi,所以測試時注意外界干擾以及控制距離,切記,切記!!!!!

    該文檔內所有的資源均來自github以及其它相關論壇,均為開源算法,相關鏈接已經貼在步驟內,若有不足請多多諒解。當你搭建好后,你可以訓練自己的模型,可用來做其他物體的檢測,或者做目標的跟蹤,或者視覺slam,你喜歡怎么做就怎么做。

    版權聲明:本文為weixin_38106878原創文章,遵循 CC 4.0 BY-SA 版權協議,轉載請附上原文出處鏈接和本聲明。
    本文鏈接:https://blog.csdn.net/weixin_38106878/article/details/88166969

    智能推薦

    電腦空間不夠了?教你一個小秒招快速清理 Docker 占用的磁盤空間!

    Docker 很占用空間,每當我們運行容器、拉取鏡像、部署應用、構建自己的鏡像時,我們的磁盤空間會被大量占用。 如果你也被這個問題所困擾,咱們就一起看一下 Docker 是如何使用磁盤空間的,以及如何回收。 docker 占用的空間可以通過下面的命令查看: TYPE 列出了docker 使用磁盤的 4 種類型: Images:所有鏡像占用的空間,包括拉取下來的鏡像,和本地構建的。 Con...

    requests實現全自動PPT模板

    http://www.1ppt.com/moban/ 可以免費的下載PPT模板,當然如果要人工一個個下,還是挺麻煩的,我們可以利用requests輕松下載 訪問這個主頁,我們可以看到下面的樣式 點每一個PPT模板的圖片,我們可以進入到詳細的信息頁面,翻到下面,我們可以看到對應的下載地址 點擊這個下載的按鈕,我們便可以下載對應的PPT壓縮包 那我們就開始做吧 首先,查看網頁的源代碼,我們可以看到每一...

    Linux C系統編程-線程互斥鎖(四)

    互斥鎖 互斥鎖也是屬于線程之間處理同步互斥方式,有上鎖/解鎖兩種狀態。 互斥鎖函數接口 1)初始化互斥鎖 pthread_mutex_init() man 3 pthread_mutex_init (找不到的情況下首先 sudo apt-get install glibc-doc sudo apt-get install manpages-posix-dev) 動態初始化 int pthread_...

    統計學習方法 - 樸素貝葉斯

    引入問題:一機器在良好狀態生產合格產品幾率是 90%,在故障狀態生產合格產品幾率是 30%,機器良好的概率是 75%。若一日第一件產品是合格品,那么此日機器良好的概率是多少。 貝葉斯模型 生成模型與判別模型 判別模型,即要判斷這個東西到底是哪一類,也就是要求y,那就用給定的x去預測。 生成模型,是要生成一個模型,那就是誰根據什么生成了模型,誰就是類別y,根據的內容就是x 以上述例子,判斷一個生產出...

    猜你喜歡

    styled-components —— React 中的 CSS 最佳實踐

    https://zhuanlan.zhihu.com/p/29344146 Styled-components 是目前 React 樣式方案中最受關注的一種,它既具備了 css-in-js 的模塊化與參數化優點,又完全使用CSS的書寫習慣,不會引起額外的學習成本。本文是 styled-components 作者之一 Max Stoiber 所寫,首先總結了前端組件化樣式中的最佳實踐原則,然后在此基...

    基于TCP/IP的網絡聊天室用Java來實現

    基于TCP/IP的網絡聊天室實現 開發工具:eclipse 開發環境:jdk1.8 發送端 接收端 工具類 運行截圖...

    19.vue中封裝echarts組件

    19.vue中封裝echarts組件 1.效果圖 2.echarts組件 3.使用組件 按照組件格式整理好數據格式 傳入組件 home.vue 4.接口返回數據格式...

    劍指Offer39-調整數組順序使奇數位于偶數前面

    一開始想著用冒泡排序的方法來做,但是bug還是很多,后來看了評論區答案,發現直接空間換時間是最簡單的,而且和快排的寫法是類似的。...

    【一只蒟蒻的刷題歷程】【藍橋杯】歷屆試題 九宮重排 (八數碼問題:BFS+集合set)

    資源限制 時間限制:1.0s 內存限制:256.0MB 問題描述 如下面第一個圖的九宮格中,放著 1~8 的數字卡片,還有一個格子空著。與空格子相鄰的格子中的卡片可以移動到空格中。經過若干次移動,可以形成第二個圖所示的局面。 我們把第一個圖的局面記為:12345678. 把第二個圖的局面記為:123.46758 顯然是按從上到下,從左到右的順序記錄數字,空格記為句點。 本題目的任務是已知九宮的初態...

    精品国产乱码久久久久久蜜桃不卡