阿里云國(guó)際站經(jīng)銷商,主營(yíng)阿里云,騰訊云,華為云,亞馬遜aws,谷歌云gcp,微軟云az,免費(fèi)開(kāi)戶,代充值優(yōu)惠大,聯(lián)系客服飛機(jī)@jkkddd
SAE日志導(dǎo)入Kafka最佳實(shí)踐
前提條件購(gòu)買(mǎi)Kafka實(shí)例,并創(chuàng)建Topic和Group供SAE應(yīng)用使用。具體信息,請(qǐng)參見(jiàn)創(chuàng)建Kafka資源。
創(chuàng)建或部署SAE應(yīng)用時(shí),開(kāi)通日志收集到Kafka日志服務(wù)功能。具體信息,請(qǐng)參見(jiàn)設(shè)置日志收集至Kafka。
確認(rèn)是否成功采集消息到Kafka。具體信息,請(qǐng)參見(jiàn)查詢消息。
創(chuàng)建阿里云Elasticsearch實(shí)例。具體信息,請(qǐng)參見(jiàn)創(chuàng)建阿里云Elasticsearch實(shí)例。
創(chuàng)建阿里云Logstash實(shí)例。具體信息,請(qǐng)參見(jiàn)創(chuàng)建阿里云Logstash實(shí)例。
步驟一:創(chuàng)建Group
本步驟介紹如何創(chuàng)建阿里云Elasticsearch所屬的Group。
登錄消息隊(duì)列Kafka版控制臺(tái)。
在概覽頁(yè)面的資源分布區(qū)域,選擇地域。
在實(shí)例列表頁(yè)面,單擊目標(biāo)實(shí)例名稱。
在左側(cè)導(dǎo)航欄,單擊Group 管理。
在Group 管理頁(yè)面,單擊創(chuàng)建 Group。
在創(chuàng)建 Group面板的Group ID文本框輸入Group的名稱,在描述文本框簡(jiǎn)要描述Group,并給Group添加標(biāo)簽,單擊確定。
創(chuàng)建完成后,在Group 管理頁(yè)面的列表中顯示已創(chuàng)建的Group。
步驟二:創(chuàng)建索引
本步驟介紹如何通過(guò)阿里云Elasticsearch創(chuàng)建索引,接收消息隊(duì)列Kafka版的數(shù)據(jù)。
登錄阿里云Elasticsearch控制臺(tái)。
在左側(cè)導(dǎo)航欄,單擊Elasticsearch實(shí)例。
進(jìn)入目標(biāo)實(shí)例。
在頂部菜單欄處,選擇資源組和地域。
在Elasticsearch實(shí)例中單擊目標(biāo)實(shí)例ID。
在左側(cè)導(dǎo)航欄,選擇配置與管理 > 可視化控制。
在Kibana區(qū)域中,單擊私網(wǎng)入口或公網(wǎng)入口。
私網(wǎng)入口:開(kāi)啟Kibana私網(wǎng)訪問(wèn)后(默認(rèn)未開(kāi)啟),才會(huì)顯示。具體操作,請(qǐng)參見(jiàn)配置Kibana公網(wǎng)或私網(wǎng)訪問(wèn)白名單。
在Kibana登錄頁(yè)面,輸入用戶名和密碼,單擊Log in。
參數(shù)說(shuō)明如下。
用戶名:默認(rèn)為elastic。您也可以創(chuàng)建自定義用戶,具體操作請(qǐng)參見(jiàn)通過(guò)Elasticsearch X-Pack角色管理實(shí)現(xiàn)用戶權(quán)限管控。
密碼:對(duì)應(yīng)用戶的密碼。elastic用戶的密碼在創(chuàng)建實(shí)例時(shí)設(shè)定,如果忘記可重置。重置密碼的注意事項(xiàng)和操作步驟,請(qǐng)參見(jiàn)重置實(shí)例訪問(wèn)密碼。
在Kibana控制臺(tái)的左側(cè)導(dǎo)航欄,選擇Management > Dev Tools。
執(zhí)行以下命令,創(chuàng)建索引。
步驟三:創(chuàng)建管道
本步驟介紹如何通過(guò)阿里云Logstash創(chuàng)建管道。成功部署管道后,數(shù)據(jù)將持續(xù)地從消息隊(duì)列Kafka版導(dǎo)入到阿里云Elasticsearch。
登錄阿里云Elasticsearch控制臺(tái)。
進(jìn)入目標(biāo)實(shí)例。
在頂部菜單欄處,選擇地域。
在Logstash實(shí)例中單擊目標(biāo)實(shí)例ID。
在左側(cè)導(dǎo)航欄,單擊管道管理。
在管道列表頁(yè)面,單擊創(chuàng)建管道。
在創(chuàng)建管道任務(wù)配置向?qū)ы?yè)面,配置相關(guān)參數(shù)。
在Config配置頁(yè)簽,配置相關(guān)參數(shù)并單擊下一步。
本文的參數(shù)配置以Kafka數(shù)據(jù)導(dǎo)入Elasticsearch為例。參數(shù)的更多信息,請(qǐng)參見(jiàn)通過(guò)配置文件管理管道。
管道ID:自定義。
在管道參數(shù)配置頁(yè)簽,配置相關(guān)參數(shù),單擊保存并部署。
本示例以默認(rèn)配置為準(zhǔn),您可以按需修改。
在提示對(duì)話框,單擊確認(rèn)。
步驟四:搜索數(shù)據(jù)
您可以在Kibana控制臺(tái)搜索通過(guò)管道導(dǎo)入阿里云Elasticsearch的數(shù)據(jù),確認(rèn)數(shù)據(jù)是否導(dǎo)入成功。
登錄阿里云Elasticsearch控制臺(tái)。
進(jìn)入目標(biāo)實(shí)例。
在頂部菜單欄處,選擇資源組和地域。
在Elasticsearch實(shí)例中單擊目標(biāo)實(shí)例ID。
在左側(cè)導(dǎo)航欄,選擇配置與管理 > 可視化控制。
在Kibana控制臺(tái)的左側(cè)導(dǎo)航欄,選擇Management > Dev Tools。
登錄Kibana控制臺(tái)的具體步驟,請(qǐng)參見(jiàn)創(chuàng)建索引步驟5~7。
執(zhí)行以下命令,搜索數(shù)據(jù)。
心靈雞湯:
標(biāo)題:阿里云服務(wù)器購(gòu)買(mǎi),阿里云賬號(hào)免實(shí)名注冊(cè)
地址:http://www.homechexinc.com/kfxw/64333.html