高頻大數(shù)據(jù)解決方案 1_第1頁
高頻大數(shù)據(jù)解決方案 1_第2頁
高頻大數(shù)據(jù)解決方案 1_第3頁
高頻大數(shù)據(jù)解決方案 1_第4頁
高頻大數(shù)據(jù)解決方案 1_第5頁
已閱讀5頁,還剩25頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

VoltDB高頻大數(shù)據(jù)解決方案電信領(lǐng)域計費和權(quán)限管理,用戶數(shù)據(jù)個性化營銷廣告優(yōu)化,觀眾分組能源與傳感器領(lǐng)域智能電網(wǎng)/電表,資產(chǎn)跟蹤與管理,實時交通與地理位置證券市場風(fēng)控管理,市場數(shù)據(jù)管理基礎(chǔ)設(shè)施數(shù)據(jù)管道,批次->實時,流媒體的ETL系統(tǒng)中的高頻數(shù)據(jù)2SmartMeter高度切合領(lǐng)域更快:讀/寫

負載

延時/吞吐量電信呼叫數(shù)據(jù)記錄管理網(wǎng)站數(shù)據(jù)分析、欺詐偵測在線游戲小額交易支付電子廣告兌換服務(wù)基于位置的無線服務(wù)金融貿(mào)易監(jiān)控低頻率運行高頻率運行數(shù)據(jù)來源資金市場寫/索引所有交易,存儲逐筆交易資料顯示整合交易者的風(fēng)險呼叫初始請求實時授權(quán)認可欺詐偵測分析入站

HTTP請求訪問者登陸、分析、警告流量圖形分析在線游戲等級分數(shù)定義的間隔執(zhí)行玩家

“最好成績”排行榜狀態(tài)查找實時廣告交易系統(tǒng)匹配形式因素,下單規(guī)范,競價/詢價報告廣告效能無線設(shè)備位置感應(yīng)器位置更新,服務(wù)品質(zhì),事物處理事物處理上的數(shù)據(jù)分析VoltDB應(yīng)用案例VoltDB應(yīng)用/方案的高吻合目標行業(yè)行業(yè)電信和網(wǎng)絡(luò)金融服務(wù)廣告科技能源和應(yīng)用資本市場電子商務(wù)/零售業(yè)在線游戲以上絕不是僅有的行業(yè)!其它行業(yè)種類戰(zhàn)略性大數(shù)據(jù)項目早期使用者感應(yīng)器驅(qū)動的環(huán)境關(guān)鍵技術(shù)特性ACID全事務(wù)支持靈活的擴展性錯誤恢復(fù)可持久化到硬盤內(nèi)嵌OLAP導(dǎo)出連接器基于網(wǎng)絡(luò)的異步集群復(fù)制6關(guān)鍵特性:線性擴展7增加一個新結(jié)點到VoltDB集群可以有限提升集群的最大吞吐量,也可以增加整個集群的內(nèi)存容量集群的大小對應(yīng)用來說是透明的關(guān)鍵特性:線性擴展(續(xù))右邊表格源自于獨立的測試機構(gòu)Percona,標示出線性擴展到每秒150萬次的運算和最高推斷值達到30個服務(wù)器。這個表也表明VoltDB線性擴展具備K-Safety關(guān)鍵特性:內(nèi)置異?;謴?fù)/HA功能9分區(qū)就是復(fù)制的單位事務(wù)復(fù)制操作(不是更改記錄)使用Active/Active同步復(fù)制方式應(yīng)用只有在所有復(fù)制節(jié)點都提交(或者回滾)后才會收到成功(或者失?。┑捻憫?yīng)關(guān)鍵特性:基于網(wǎng)絡(luò)的數(shù)據(jù)庫集群復(fù)制10VoltDB包括一個網(wǎng)絡(luò)復(fù)制Agent這個Agent將事物異步從主集群(可讀可寫)復(fù)制到備集群(只讀)異步的方式最大限度容忍網(wǎng)絡(luò)可能出現(xiàn)的問題整合:高性能導(dǎo)出并行導(dǎo)出接近最大線速基于事先建立的連接HadoopCSVJDBC(PostgreSQL,MySQL,Oracle)NetezzaVerticaVoltDB建立了一個基于事務(wù)的,可持久化的導(dǎo)出框架在VoltDB完成高質(zhì)量、實時分析、實時響應(yīng),并把結(jié)果數(shù)據(jù)通過VoltDBExport導(dǎo)出到OLAPVoltDB管理和監(jiān)控Nagios腳本LogstoLog4jJMXVoltDB企業(yè)管理器每一個節(jié)點都有一個內(nèi)置網(wǎng)絡(luò)服務(wù)器特殊的系統(tǒng)程序VoltDB的一個典型架構(gòu)ERPCRMHROrdersCartRecom-mendationUserMgt.ClickStreamInvPersonal-izationDatawarehouseHadoopTraditionalOLTPVelocityOLTPloginssensorsimpressionsordersauthorizationsclickstradesInteractiveReal-timeAnalyticsHistoricalAnalyticsExploratory

AnalyticsAnalyticresultsenrichdecisionmaking使用方案中會包含VoltDB的目標客戶理想的銷售機會IdealProspectCharacteristics初期采用者高速率-增長中的交易處理率尋求競爭差異事務(wù)處理–需要做出決策創(chuàng)建新的apps數(shù)據(jù)吞吐量用盡水平分區(qū)Sharding–目前使用手工操作其次尋求削減成本-準備使用云端ACID–不能做到最終一致性就無法生存次要銷售機會對風(fēng)險抱保守的態(tài)度使用傳統(tǒng)數(shù)據(jù)庫可以解決問題很少使用到高速決策非結(jié)構(gòu)化數(shù)據(jù)、文件數(shù)據(jù)庫復(fù)雜的查詢和分析特別巨大的數(shù)據(jù)J2EE,HibernateWindows/Unix/COBOLarchitecturebias吸引用戶使用VoltDB的原因(條件)公司的戰(zhàn)略同大數(shù)據(jù)相關(guān)新的應(yīng)用部署,而不是在現(xiàn)有應(yīng)用上轉(zhuǎn)換數(shù)據(jù)庫額外的數(shù)據(jù)來源于在線數(shù)據(jù)為了獲取性能、分區(qū)等使用費自然的技術(shù)手段面臨來自于創(chuàng)新的競爭壓力Oracle不能滿足性能的需求、授權(quán)或者對于降低硬件成本的需求公司需要圍繞特定技術(shù)尋求發(fā)展實時數(shù)據(jù)分析基于內(nèi)存的數(shù)據(jù)庫

Datameer-從桌面到服務(wù)器可視化大數(shù)據(jù)分析平臺Datameer–可視化大數(shù)據(jù)分析平臺Datameer開放式結(jié)構(gòu)Datameer可視化操作、分析與展示界面28.io海量數(shù)據(jù)的綜合信息查詢分析平臺

現(xiàn)代公司的信息量往往大爆炸

種類

容量速率企業(yè)數(shù)據(jù)被儲存在孤立的數(shù)據(jù)

倉庫中

28io–海量數(shù)據(jù)的綜合信息查詢分析平臺解決方案可視化了的查詢的查詢及處理圖層結(jié)構(gòu)化數(shù)據(jù)/半結(jié)構(gòu)化數(shù)據(jù)/非結(jié)構(gòu)化數(shù)據(jù)

JSONiq查詢語言:非關(guān)聯(lián)數(shù)據(jù)庫的結(jié)構(gòu)化查詢語言自動并行運算RESTAPI實時NoSQL(MongoDB,CouchDB,...)SQLthroughJDBCFileStores(S3,GlusterFS,…)JSON,XMLRelationalText,Pdf,HTM..Otherdatastores...其它數(shù)據(jù)格式商業(yè)應(yīng)用WebServices(Salesforce,Zendesk,…)JSON,XML連接與查詢分析28.ioUnifiedInformationAccessPlatformContentsourcesstoringdocuments,emails,books,articles,webpages,etc.RelationalDatabaseFilesystemThird-PartyContentFeeds(XML,HTML,ZIP,etc.)NoSQLDatabaseQueryacrossdisparatecontentrepositoriesEditors,ContentCuratorsSearch,reuse,repurposecontentWebSites,Portals,WebAppsMobileAppsDynamicallyrenderanddelivercontentinmultipleformats……CustomContentFeedsSeparateTask-SpecificRepository(e.g.,MongoDB)Optionallyimportcontentintoatask-specificrepositoryContentdestinationsCuratedcontent,Masterindices,Markup/structureforrepurposing,Migratedcontentfromretiredsources查詢語言JSONiqHadoop同28.io架構(gòu)對比S3ETLHDFSMapReduce結(jié)果S328.io結(jié)果Hadoop28.io運行45分鐘35秒幾個小時數(shù)據(jù)科學(xué)家費時2小時開發(fā)MapreduceCode商業(yè)用戶費時20分鐘建立JSONiq查詢讓W(xué)eb數(shù)據(jù)成為你的數(shù)據(jù)庫ConnotateConnotate–智能化的Web數(shù)據(jù)抽取工具WebAgent(數(shù)據(jù)抽取的工具)可自動自主的運行。根據(jù)您的要求輸出結(jié)構(gòu)化數(shù)據(jù)集(通常是CSV格式或則是XML格式)

Connotate使網(wǎng)絡(luò)數(shù)據(jù)變成了您的數(shù)據(jù)庫在Connotate的幫助下,您可以在網(wǎng)絡(luò)上獲得您需要的結(jié)構(gòu)化有用的數(shù)據(jù)評價:給用戶帶來前所未有的商業(yè)價值28大數(shù)據(jù)廠商聯(lián)盟分銷推薦產(chǎn)品29集群優(yōu)化性能優(yōu)化性能優(yōu)化快速部署安全管理平臺優(yōu)化NOSQL分析平臺層數(shù)據(jù)抽取集成層Hasoop優(yōu)化層即使道路坎坷不平,車輪也要前進;即使江河波濤洶涌,船只也航行。。8月-248月-24Saturday,August3,2024世界會向那些有目標和遠見的人讓路。。00:29:2400:29:2400:298/3/202412:29:24AM差之毫厘,謬以千里?!巍り懢艤Y。8月-2400:29:2400:29Aug-2403-Aug-24凡能獨立工作的人,一定能對自己的工作開辟一條新的路線。。00:29:2400:29:2400:29Saturday,August3,2024不把半步、一步積累起來,就不能走到千里遠的地方,不把細流匯聚起來,就不能形成江河大海。。8月-248月-2400:29:2400:29:24August3,2024君子認為說得多做得少是可恥的。。2024年8月3日12:29上午8月-248月-24你的形象價值百萬。。03八月202412:29:24上午00:29:248月-24賺錢之道很多,但是找不到賺錢的種子,便成不了事業(yè)家。。八月2412:29上午8月-2400:29August3,2024嚴禁違章操作,確保安全生產(chǎn)。。2024/8/30:29:2400:29:2403August2024軍隊無放任,學(xué)校無放任,此今日世界各共和國之道例。軍隊放任,則將不能以令,學(xué)校放任,則師不能以教;將不能令則軍敗,師不能教則學(xué)校敗,其為國忠,莫此之尤。。12:29:24上午12:29上午00:29:248月-24我絕不悲觀。我要爭取多活。我要為我們的社會主義祖國工作到生命的最后一息。。

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論