• 其他栏目

    李新

    • 教授 博士生导师 硕士生导师
    • 主要任职:高性能计算中心主任、计算机系统结构专委会委员
    • 其他任职:深兰人工智能应用研究院(山东)院长
    • 性别:男
    • 毕业院校:中国科学院软件研究所
    • 学历:研究生(博士后)
    • 学位:工学博士学位
    • 在职信息:在职
    • 所在单位:软件学院
    • 入职时间: 2008-06-13
    • 学科:软件工程其他专业
      计算机系统结构
      计算机应用技术
    • 办公地点:山东大学软件园校区科研楼212

    访问量:

    开通时间:..

    最后更新时间:..

    无人机智能巡检

    无人机综合管理和智能分析平台

    一、项目介绍

    该系统基于大疆无人机开发,可以分为控制无人机飞行的移动端、对各种数据进行综合管理与分析的后台管理系统、机器学习服务集群以及接口服务器。该系统是一个无人机、飞手、任务等进行综合管理并对无人机回传数据进行管理分析的综合平台。

    该系统架构如下图所示:


     

    系统内部结构图:

     

    二、移动端主要功能

    2.1无人机自动执行飞行任务


    用户运行App,使用手机号和密码登录系统后,进入任务列表界面

                                    

    在任务列表页面点击“查看”进入飞行任务详情界面,可对后台设定的无人机航线进行增删改查,并可将任务数据加载到无人机上,任务详情界面如下:

    在任务列表界面点击“执行”进入系统主界面,点击左侧的“开始”图标可控制无人机执行设定好的飞行任务。无人机在执行任务过程中App会绘制无人机的飞行路线并记录无人机的轨迹数据和飞行状态数据,同时将这些数据实时上传到后台服务器。执行任务界面如下:

                                   

    2.2实时识别无人机回传图像

    App的图像回传界面,用户可点击左侧识别按钮,选择想要识别的目标物体,开启识别线程,对回传图像进行实时识别。目前已实现了对基本物体的识别和对车牌的识别,识别效果图如下:

       

    车牌识别


    2.3精准降落

    App的图像回传界面,用户可点击左侧的“ 自动降落”按钮,在弹出的对话框中根据停机坪的位置选择降落点,界面如下: 

    用户选择好降落点后,点击确定,App会自动飞往降落点然后将镜头摆至垂直向下方向,开启停机坪识别线程,开启虚拟摇杆功能,在每次识别过程中计算停机坪偏离图像中心的距离,根据回传图像中停机坪的位置通过虚拟摇杆控制无人机水平移动和下降,调整无人机与停机坪的相对位置,使无人机不断接近停机坪并最终精确降落到停机坪上,降落过程效果图如下:

                 

    2.4 直播功能

    用户在App的图像回传界面点击右侧的“直播”按钮,填写想要推送直播视频的RTMP服务器地址,界面如下:

                 

    点击右侧的“开始”按钮,App会将当前App界面中的运行画面进行实时推送,使用支持网络视频播放的播放器可实时查看直播内容。

      

    三、后台管理系统主要功能

    无人机综合管理与智能分析平台包括无人机数据可视化概览、基本信息(部门、飞手、无人机、配件、电子围栏)管理、任务管理、现场直播、识别结果、图片视频库、消息管理、统计报表等功能。

    3.1 基本信息管理

    对于无人机相关的基本信息,该管理系统提供基本的查看、添加、编辑、删除、搜索功能,界面如下图所示:

                 

     

    3.2 任务规划

    管理人员可以通过后台管理系统规划飞行任务,任务规划界面如下图所示,管理者可以在地图上选择位置点作为飞行点,并为其添加相关信息,各个位置点相连形成飞行轨迹,并将飞行任务同步到服务器以供移动端执行。

                  


    对于无人机的实际飞行轨迹会通过移动端传到服务器,同步到管理系统的实际轨迹列表中,查看实际飞行轨迹的效果如下图所示:

                  

                   

     

    3.3 现场直播

    点击现场直播按钮,用户可以查看指定RTMP地址的直播,如下图所示:

                     

     

     

     四、关键技术

    4.1 Mobile SDK

    大疆Mobile SDK是一个软件开发包,为开发者提供了控制大疆无人机的接口,该开发包封装了无人机飞行控制的基础功能(如稳定飞行、电池管理、信号传输和通信),从而简化了应用程序的开发。Mobile SDK主要包括以下内容:

    1.可以导入AndroidIOS应用的程序库或框架

    2.飞行模拟器和可视化工具

    3.示例代码和教程

     

    4.2 图像识别相关技术

    App实时识别图像的功能使用的模型和权重文件,是由Yolov2_Tiny网络模型对含有目标物体图像的数据集进行训练生成的;使用NCNN加速前向计算框架实现移动端的识别模型和权重文件的加载以及图像识别;使用Android NDK编译JNI编写的图像识别函数生成.so动态链接库供App调用,实现图像识别。

     

    4.3 web管理网站相关技术

    web管理网站开发采用vue框架,界面使用element-ui,后台接口采用spring boot框架,此外直播采用RTMP协议,地图显示与操作采用高德地图SDK

     

     

    四、参与人员及分工

    数据库设计和原型设计:李新老师

    Android App:张浩、董思远

    后台接口:刘吉发

    旧版后台管理网站:李新老师、邓淑芳

    新版后台管理网站:邓淑芳

    机器学习模型训练:刘洁、张钰

    界面设计、美化(App、网站界面):邓淑芳