開源Ceph管理平臺Inkscope部署手冊
一.前情提要
關于inkscope就不做過多介紹了，就是ceph的一個開源管理控制平臺，跟ceph官方的calamary以及intel的VSM差不多一類，只是各自側重點不一樣。
相對而言，因為inkscope使用的是ceph自帶的restapi，因此是比較輕量級的，ceph集群相關的信息直接從API調，系統層面的信息抓取是通過本地一個代理程序抓取，然后寫入inkscope所在節點的mongodb里。
1.1 官方地址
inkscope角色介紹
inkscope主要的角色有三種： 1. web管理控制臺：這個角色需要安裝flask和mongodb以提供接口，方便前端界面angular-js調用 2. cephprobe：這個一般是安裝在mon節點，整個集群安裝一個即可，主要是獲取ceph的一些信息將其寫入mongodb中;使用5000端口提供服務 3. sysprobe：這個主要是獲取集群所有節點的硬件監控信息，如CPU、內存、硬盤燈，集群內所有節點都需要安裝。 4. radosgw： 是ceph對外提供對象存儲服務的服務，本例中用于對象存儲相關的管理，會使用80端口提供http服務;
1.2 inkscope-packaging
***的版本中，已經提供了ubuntu下的deb安裝包，項目地址，deb包及作用介紹如下：
- inkscope-common : 包含inkscope的默認配置文件以及其他進程(cephprobe,sysprobe)啟動所需的依賴文件，所有相關節點都需要安裝
- inkscope-admviz : 包含inkscope的web控制臺文件，含接口和界面，僅需要安裝一個，該節點上同時需要按章flask和mongodb
- inkscope-cephrestapi: 用于安裝啟動 ceph rest api 的腳本，僅需要安裝在提供api接口的節點上
- inkscope-cephprobe: 用于安裝啟動 cephprobe 的腳本(整個集群只需要一個)
- inkscope-sysprobe : 安裝用于所有mon和osd的sysprobe 所需要腳本
二.測試環境
本次測試ceph集群共有三個節點：ceph1(10.1.35.85),ceph2(10.1.35.86),ceph3(10.1.35.87);
三個節點都是mon節點，也都是osd節點，每個節點3個osd。
根據前面的角色以及安裝包的介紹，三個節點的分配及所需安裝包如下(inkscope-common包所有節點都需要因此省略)：
#p#
三.安裝
3.1 安裝web管理控制臺
3.1.1 按章軟件包和依賴
該節點使用php以及wsgi實現界面，本地接收其他節點傳過來的數據存入本地mongodb，同時會調用rados命令,
又使用flask框架構建接口，因此需要使用下面的命令安裝依賴
- apt-get install python-pip apache2 libapache2-mod-wsgi mongodb python-ceph
- pip install flask requests simplejson -i http://pypi.mirrors.ustc.edu.cn/simple #使用國內pip源安裝
- dpkg -i inkscope-admviz_1.2.0-0.deb inkscope-common_1.2.0-0.deb inkscope-sysprobe_1.2.0-0.deb
3.1.2 配置apache2服務
安裝完nkscope-admviz后默認虛擬主機配置文件位于/etc/httpd/conf.d/inkScope.conf，將其拷貝到/etc/apache2/sites-available 中。修改32行為下面這句， 注釋掉 33行
- ProxyPass /ceph-rest-api/ http://10.1.35.86:5000/api/v0.1/
- #ProxyPass /shell http://$IP:4200/
這里將 rest-api_srv 修改為ceph2的IP，規劃中，ceph2的角色是cephprobe。
同時將25和35行的ErrorLog和CustomLog的值里面的httpd修改為apache2，因為apache2的工作路徑已經換了
修改 /etc/apache2/ports.conf 文件，增加下面
- Listen 8080
- NameVirtualHost *:8080
完整inkScope.conf文件如下：
- root@ceph3:/etc/apache2/sites-available# cat inkScope.conf
- <VirtualHost *:8080>
- ServerName localhost
- ServerAdmin webmaster@localhost
- DocumentRoot /var/www/inkscope
- <Directory "/var/www/inkscope">
- Options All
- AllowOverride All
- </Directory>
- ScriptAlias /cgi-bin/ /usr/lib/cgi-bin/
- <Directory "/usr/lib/cgi-bin">
- AllowOverride None
- Options +ExecCGI -MultiViews +SymLinksIfOwnerMatch
- Order allow,deny
- Allow from all
- </Directory>
- WSGIScriptAlias /inkscopeCtrl /var/www/inkscope/inkscopeCtrl/inkscopeCtrl.wsgi
- <Directory "/var/www/inkscope/inkScopeCtrl">
- Order allow,deny
- Allow from all
- </Directory>
- ErrorLog /var/log/apache2/error_inkscope.log
- # Possible values include: debug, info, notice, warn, error, crit,
- # alert, emerg.
- LogLevel warn
- ProxyRequests Off # we don't want a "forward proxy", but only a "Reverse proxy"
- ProxyPass /ceph-rest-api/ http://10.1.35.86:5000/api/v0.1/
- #ProxyPass /shell http://$IP:4200/
- CustomLog /var/log/apache2/access.log combined
- </VirtualHost>
運行下面的命令，啟用apache2的proxy模塊和inkScope.conf虛擬主機
- sudo a2enmod proxy_http
- sudo a2ensite inkScope.conf
- sudo service apache2 restart
現在打開瀏覽器訪問 10.1.35.87:8080/ 應該就可以看到首頁，只是暫時沒有ceph集群的相關數據而已。
#p#
3.1.3 開啟mongodb遠程連接
修改 /etc/mongodb.conf ，將bind_ip 修改為 0.0.0.0，取消 port = 27017 依據前面的注釋，如下：
- bind_ip = 0.0.0.0
- port = 27017
3.2 安裝cephprobe
在cephprobe節點主要是提供ceph-rest-api并抓取ceph的信息存入mongodb中。所需軟件包及依賴安裝如下：
- apt-get install python-dev
- pip install pymongo psutil -i http://pypi.mirrors.ustc.edu.cn/simple
- dpkg -i inkscope-common_1.2.0-0.deb inkscope-sysprobe_1.2.0-0.deb inkscope-cephrestapi_1.2.0-0.deb inkscope-cephprobe_1.2.0-0.deb
啟動ceph-rest-api服務： /etc/init.d/ceph-rest-api start
3.3 radosgw服務配置
在ceph1提供radosgw服務，具體radosgw的安裝在這里不做詳述，請參見ceph官方文檔或者內部手冊。這里需要新建一個管理用戶，并賦予相關權限，以便在界面上直接操作radosgw。
- radosgw-admin user create --uid=inkscope --display-name="Inkscope admin" \
- --access-key=accesskey --secret=secretkey \
- --caps="users=*;metadata=*;buckets=*"
這里sccess和secret的具體的值可以根據喜好自行修改。
3.4安裝sysprobe
在其他沒有承擔特殊任務的節點上安裝sysprobe
- apt-get install python-dev
- pip install pymongo psutil -i http://pypi.mirrors.ustc.edu.cn/simple
- dpkg -i inkscope-common_1.2.0-0.deb inkscope-sysprobe_1.2.0-0.deb
3.5修改inkscope配置文件并啟動服務
inkscope的配置文件就一個，位于 /opt/inkscope/etc/inkscope.conf ，
這里面需要修改的主要有： 1. ceph_rest_api：在本例中即為ceph2的ip 2. mongodb_host：即為ceph3所在節點，管理節點 3. radosgw_url：即為ceph1所在節點 4. radosgw_key和radosgw_secret：在ceph1上新建管理用戶時指定的兩個key
最終版如下：
- {
- "ceph_conf": "/etc/ceph/ceph.conf",
- "ceph_rest_api": "10.1.35.86:5000",
- "mongodb_host" : "10.1.35.87",
- "ceph_rest_api_subfolder": "",
- "mongodb_set" : "mongodb0:27017,mongodb1:27017,mongodb2:27017",
- "mongodb_replicaSet" : "replmongo0",
- "mongodb_read_preference" : "ReadPreference.SECONDARY_PREFERRED",
- "mongodb_port" : 27017,
- "mongodb_user":"ceph",
- "mongodb_passwd":"monpassword",
- "is_mongo_authenticate" : 0,
- "is_mongo_replicat" : 0,
- "cluster": "ceph",
- "status_refresh": 3,
- "osd_dump_refresh": 3,
- "pg_dump_refresh": 60,
- "crushmap_refresh": 60,
- "df_refresh": 60,
- "cluster_window": 1200,
- "osd_window": 1200,
- "pool_window": 1200,
- "mem_refresh": 60,
- "swap_refresh": 600,
- "disk_refresh": 60,
- "partition_refresh": 60,
- "cpu_refresh": 30,
- "net_refresh": 30,
- "mem_window": 1200,
- "swap_window": 3600,
- "disk_window": 1200,
- "partition_window": 1200,
- "cpu_window": 1200,
- "net_window": 1200,
- "radosgw_url": "http://10.1.35.85:80",
- "radosgw_admin": "admin",
- "radosgw_key": "ainkscope",
- "radosgw_secret": "sinkscope"
- }
將該文件拷貝到所有節點的/opt/inkscope/etc/ 目錄中，然后重啟對應服務：
- /etc/init.d/sysprobe start
- /etc/init.d/cephprobe start
- /etc/init.d/ceph-rest-api start
對應節點上啟動對用服務。
#p#
四.安裝web console
如果你是ubuntu14.04，直接安裝：
- sudo apt-get install shellinabox
如果不是，點擊這里下載deb包安裝。
或者點擊這里下載其他對應發行版的包。
修改配置文件， /etc/default/shellinabox :
- SHELLINABOX_ARGS="--no-beep -t"
不適用SSL協議，然后重啟服務
- service shellinabox restart
修改apache2虛擬主機配置文件，添加代理 /etc/apache2/site-available/inkScope.conf
在 ProxyPass /ceph-rest-api/ ... 這一行后添加下面的：
- ProxyPass /shell http://<hostname>:4200/
這里的 hostname 就是安裝shellinabox的主機地址
重啟apache2
- service apache2 restart
注意：貌似需要谷歌瀏覽器，否則輸入沒反應。
