tag 架構

標籤
貢獻299
403
05:15 PM · Oct 25 ,2025

@架構 / 博客 RSS 訂閱

Java烘焙師 - 架構師必備:實時對賬與離線對賬

背景 在跨系統之間的數據寫入場景下,上下游系統極有可能因為網絡超時/抖動、或寫本地DB與調外部接口不能同時成功等原因,而出現數據不一致的問題,因此需要有及時發現不一致問題、並自動修復的能力。下面結合筆者的經驗,把對賬做個總結。 需要注意的是,這裏提的對賬不特指資金對賬,而是跨系統的字段對賬,如B端與C端系統之間的對賬。 對賬的指標 判斷對賬是否做得好,主要看這幾個指標: 完備性:確保所有字段都

對賬 , 架構 , 一致性

收藏 評論

鏡舟科技 - 什麼是列存儲(Columnar Storage)?深度解析其原理與應用場景

列存儲的基本概念:顛覆傳統的數據組織方式 列存儲(Column Storage)是一種革命性的數據庫存儲技術,它通過按列而非按行組織數據,從根本上改變了數據的物理存儲結構。與傳統行存儲數據庫不同,列式數據庫將每一列的數據連續存儲在一起,而不是將每一行的數據存儲在一起。這種看似簡單的存儲結構變化,卻為分析型查詢帶來了質的飛躍。 要理解列存儲的本質,我們可以通過一個簡單的例子來説明。假設有一個包含用户

架構 , 數據庫 , starrocks , 數據分析 , olap

收藏 評論

騰訊藍鯨智雲 - DevOps 組織的建設密碼:人才勝任力模型全解析

本文來自騰訊藍鯨智雲社區用户: CanWay 為什麼需要構建DevOps組織級人才勝任力模型 縱覽DevOps在中國的整個發展過程,在18、19年之前,業內一般將其定義為1.0階段,相對更重工程,以往提到的DevOps人才主要指的是在持續交付方面的工程師,如CI、配置管理、相關工具設計與開發等的工程師,畫像相對較簡單。 但在之後,DevOps逐漸進入2.0階段,更強調的是軟件交付端到端的全生命週期

服務器 , 運維自動化 , devsecops , devops , 架構

收藏 評論

鏡舟科技 - 數據湖典型架構解析:2025 年湖倉一體化解決方案

數據湖架構概述:從傳統模型到 2025 年新範式 數據湖作為存儲海量異構數據的中央倉庫,其架構設計直接影響企業數據價值的釋放效率。傳統數據湖架構主要關注數據的存儲和管理,而 2025 年的數據湖架構已經演變為更加智能化、自動化的綜合性數據平台。 數據湖本質上是一個存儲庫,允許企業以原生格式存儲各類數據,包括結構化、半結構化和非結構化數據。與傳統數據倉庫相比,數據湖採用“讀時模式”(schema-o

架構 , starrocks , 數據分析 , 數據湖 , 數據處理

收藏 評論

鏡舟科技 - 什麼是關係型數據庫?全面解析 RDBMS 核心原理與應用實踐

關係型數據庫基礎:定義與核心概念 關係型數據庫(Relational Database)是一種基於關係模型的數據庫管理系統,它以表格(table)的形式存儲數據,並通過結構化查詢語言(SQL)進行數據操作。作為當今最主流的數據庫類型,關係型數據庫以其嚴格的數據一致性、完整性和可靠性,成為企業信息系統的基石。 關係型數據庫的核心特徵 關係型數據庫區別於其他類型數據庫的關鍵特徵包括: 表格化數據結

關係型數據庫 , rdbms , 架構 , starrocks , 物化視圖

收藏 評論

鏡舟科技 - 2025 年非關係型數據庫全面指南:類型、優勢

非關係型數據庫的分類與特點 隨着數據量呈指數級增長和數據類型日益多樣化,傳統關係型數據庫在處理海量非結構化數據時面臨着嚴峻挑戰。非關係型數據庫(NoSQL)應運而生,它摒棄了傳統關係模型的約束,採用更靈活的數據存儲方式,為大數據時代的多樣化需求提供瞭解決方案。 2025 年,非關係型數據庫已經發展成為數據基礎設施的重要組成部分,根據其數據模型和存儲特點,可以將非關係型數據庫分為以下幾大類型: 鍵

架構 , starrocks , 分析引擎 , SQL , 非關係型數據庫

收藏 評論

鏡舟科技 - 告別 T+1!解密金融級實時數據平台的構建與實踐

在數字金融浪潮下,數據處理的“實時性”已不再是加分項,而是逐漸成為決定業務價值的核心競爭力。 然而,金融機構在追求實時的道路上,往往陷入一個新的困境:實時分析系統與離線大數據平台形成了兩套獨立的“煙囱”,數據孤島、口徑不一、運維複雜、成本高昂等問題隨之而來。如何打破壁壘,在統一的平台上實現對實時流數據和海量歷史數據的統一管理與高性能分析,成為了當下金融機構的核心訴求。 一、業務困境:傳統“T+1”

架構 , starrocks , flink , 數據湖 , 金融行業

收藏 評論

泊浮目 - 未來數據庫硬件-網絡篇

本文在綠泡泡“狗哥瑣話”首發於2025.2.17 -關注不走丟。 最近看到一篇不錯的文章,叫做“Modern Hardware for Future Databases”,裏面從幾個方向講了下現在數據庫的硬件發展趨勢,今天先來説説網絡篇。 內容中,一位大佬對(獲過圖靈獎的大佬)OLTP系統進行了一些基準測試,發現TCP-IP協議棧對於總體CPU使用率是佔在47~68%。如果使用的網絡帶寬增加,這

雲計算 , 架構 , 數據庫

收藏 評論

vivo互聯網技術 - 號碼生成系統的創新實踐:遊戲週週樂幸運碼設計

作者: vivo 互聯網服務器團隊- Zhang Jing 本文以遊戲週週樂的幸運碼為切入點,針對其生成過程中涉及的隨機性、唯一性及高併發等特點,設計了一種基於號段+子碼的創新架構。該方案不僅在生成速度上表現突出,還顯著提升了存儲效率,同時降低了擴容成本,為類似的號碼生成系統提供了設計上的新思路和啓發。 文章太長?1分鐘看圖抓住核心觀點👇 一、業務背景 用户可通過完成相關任務獲取週週樂幸運碼,

redis , 高併發 , 架構 , 後端

收藏 評論

百度Geek説 - BaikalDB 架構演進實錄:打造融合向量化與 MPP 的 HTAP 查詢引擎

導讀 BaikalDB作為服務百度商業產品的分佈式存儲系統,支撐了整個廣告庫海量物料的存儲和OLTP事務處理。隨着數據不斷增長,離線計算時效性和資源需求壓力突顯,基於同一份數據進行OLAP處理也更為經濟便捷,BaikalDB如何在OLTP系統內實現適合大數據分析場景的查詢引擎以應對挑戰? 01 BaikalDB應對OLAP場景的挑戰 BaikalDB是面向百度商業產品系統的需求而設計的分佈式存儲系

數據 , 架構 , 分佈式

收藏 評論

float64 - ByteByteGo學習筆記:URL短鏈服務設計

引言 在互聯網技術日新月異的今天,URL短鏈服務已經成為日常網絡生活中不可或缺的一部分。每當想要分享一個冗長的網頁鏈接,或者需要在對字符數量敏感的平台(如社交媒體、短信等)發佈鏈接時,URL短鏈服務都能將長長的URL地址精簡成短小、易於傳播的鏈接。例如,將冗長的 https://www.systeminterview.com/q=chatsystemc=loggedinv=3i=long 縮短為

學習 , 設計原則 , 架構 , 後端

收藏 評論

不止極客 - 百萬架構師第二十五課:分佈式架構的基礎:分佈式系統的基石TCP-IP通訊協議|JavaGuide

原文鏈接 通訊協議在分佈式架構中的核心應用 深入料及TCP/IP和UDP/IP通信協議 TCP流量整形 基於Java自身技術實現系統通訊 多任務處理及優化 瞭解什麼是NIO 組播協議 Multicast 從集中式的架構到分佈式架構粗粒度的架構模型圖 相當於是在整個架構層面上去做一個分層,分層以後會存在按照某一個領域去切分的服務層,存在web層。 ​ 如果我們以前是在一個獨立的服

tcp , 架構 , 網絡 , 分佈式 , 後端

收藏 評論

百度Geek説 - 百度視頻搜索架構演進

導讀 隨着信息技術的迅猛發展,搜索引擎作為人們獲取信息的主要途徑,其背後的技術架構也在不斷演進。本文詳細闡述了近年來視頻搜索排序框架的重大變革,特別是在大模型技術需求驅動下,如何從傳統的多階段級聯框架逐步演變為更加高效、靈活的端到端排序框架。 01 背景 過去近十年,搜索引擎的主流框架為多階段級聯框架,分為召回,粗排,精排幾個階段。在每個階段中,系統會基於相關性、質量、時效性和點擊率等維度獨立建模

視頻 , 架構 , 百度

收藏 評論

凌虛 - 圖解計算機網絡:一條 HTTP 請求的網絡拓撲之旅

引言 常見的網絡拓撲結構如下圖所示: 在此拓撲中,終端設備通過 WiFi 連接到路由器,路由器再連接到光貓(或終端設備通過移動網絡 4G/5G 連接到基站),之後 ISP 網絡服務提供商接管網絡通信,將請求最終轉發至應用服務器。 從用户設備發出的 HTTP 請求是如何穿越網絡的?我們將深入探討這一過程。 HTTP 請求的網絡旅途 OSI 網絡體系結構 先從計算機網絡的基礎架構開始: 上圖展示了

架構 , 程序員 , 計算機網絡 , 後端 , 前端

收藏 評論

得物技術 - Bookie存儲架構源碼剖析|得物技術

一、Pulsar存儲架構簡析 Pulsar作為新一代MQ中間件,在底層架構設計上充分貫徹了存算分離的思想,broker與Bookeeper兩個組件獨立部署,前者負責流量的調度、聚合、計算,後者負責數據的存儲,這也契合了雲原生下k8s大行其道的時代背景。Bookeeper又名Bookie ,是一個單獨的存儲引擎。在組件關係上,broker深度依賴Bookie,內部集成了 Bookie的client端

mq , 架構 , 源碼分析 , JAVA , pulsar

收藏 評論

Meng小羽 - Phoenix框架 從0到1設計業務併發框架 怎麼組織設計一個框架

上篇文章主要講了設計 Phoenix 框架前的遇到的問題和設計框架的思路 《 Phoenix 框架 從0到1設計業務併發框架 小米商城產品站革新之路》,本篇文章主要講一下如何設計框架的。 不死鳥併發框架,是自動構建有向圖按照深度進行構建併發組並進行併發調用結果的框架。 產品站業務靜態接口與動態接口都需要調用大量的後台服務進行獲取數據進行業務編排,而各個併發調用之間又相互存在依賴,採用併發組設計拆解

框架 , 架構 , JAVA , 併發 , 後端

收藏 評論

百度Geek説 - 千萬級高性能長連接Go服務架構實踐

作者 | glstr 導讀 移動互聯網時代,長連接服務成為了提升應用實時性和互動性的基礎服務。本文主要介紹了百度系內基於golang實現的統一長連接服務。主要從統一長連接功能實現和性能優化等角度,描述了統一長連接服務在設計、開發和維護過程中面臨的問題和挑戰,重點介紹瞭解決相關問題和挑戰的解決方案和實踐經驗。 全文7631字,預計閲讀時間20分鐘。 01 摘要 移動互聯網時代,用户對服務的

長連接 , 高併發 , 架構 , go

收藏 評論

註銷 - Monolithic Architecture 的優缺點分析

在討論軟件架構的時候,你可能會聽到術語 Monolithic Architecture,或者叫做 單體架構。這是一種經典的軟件系統設計,它是將所有的功能組件集中在一個單一的程序包中,這個程序包就是我們所説的 單體。 在 單體架構 中,所有的業務功能和邏輯都是緊密集成在一個應用程序中的。這個應用程序是由許多不同的組件構成的,這些組件負責處理各種業務邏輯,如用户界面(UI)、數據訪問和處理、業務邏輯等

express , 架構設計 , 架構 , JAVA , 後端

收藏 評論

Apifox - 精通多環境多服務調試:在微服務架構中做到遊刃有餘

在 微服務 架構中,項目被分解成多個獨立的模塊,每個模塊對應一個微服務。這些微服務各自承擔不同的任務,例如用户管理、支付處理或訂單管理。它們可以使用不同的技術棧,獨立開發、測試和部署。微服務之間通過 API 等方式進行通信,以協同完成應用程序的各項功能。 當我們測試項目各個模塊的功能時,就需要選擇相應的服務以建立連接,確保每個模塊都能正常運行。在這個背景下,我們需要一種方法,將項目中每個模塊的接口

環境變量 , 微服務 , 架構 , 調試 , 後端

收藏 評論

nullwy - I/O 多路複用與網絡服務器併發策略

原文:https://nullwy.me/2023/07/io-multiplexing-network-server/ 如果覺得我的文章對你有用,請隨意讚賞 目前主流的網絡服務器,網絡 I/O 相關的底層最核心的技術都是 I/O 多路複用(I/O Multiplexing),比如 Apache HTTP Server、Nginx、Redis 等。本文嘗試解釋各種 I/O 模型,包括解

服務器 , socket , network , 架構 , io

收藏 評論

京東雲開發者 - Backbone前端框架解讀

作者: 京東零售 陳震 一、 什麼是Backbone 在前端的發展道路中,前端框架元老之一jQuery對繁瑣的DOM操作進行了封裝,提供了鏈式調用、各類選擇器,屏蔽了不同瀏覽器寫法的差異性,但是前端開發過程中依然存在作用域污染、代碼複用度低、冗餘度高、數據和事件綁定煩瑣等痛點。 5年後,Backbone橫空出世,通過與Underscore、Require、Handlebar的整合,提供了一個輕量和

vue.js , backbone.js , 前端框架 , 架構 , mvc

收藏 評論

AutoMQ - 騰訊音樂如何基於 AutoMQ 降低 Kafka 50%+ 成本

編輯導讀:騰訊音樂娛樂集團作為中國在線音樂娛樂服務的領航者,旗下擁有 QQ 音樂、酷狗音樂、酷我音樂和全民 K 歌等眾多國民級移動音頻應用。每天,這些產品都會產生海量的用户行為和業務數據,為精準推薦、用户增長和商業化等核心業務提供着源源不斷的數據驅動力。在這一切背後,一個強大、穩定且高效的 Kafka 流系統是支撐其業務持續創新和發展的關鍵。 然而,隨着業務的飛速發展,傳統的自建 Kafk

中間件 , 架構 , 雲原生

收藏 評論

mob64ca1419a401 - charles 抓取 tcp charles如何抓包https

本文詳細介紹如何在Mac上使用Charles抓包工具,包括下載、安裝及免費使用方法。通過設置電腦IP地址和手機代理,實現對HTTP和HTTPS流量的捕獲。特別講解了HTTPS抓包的設置過程,涉及SSL證書安裝、代理配置等關鍵步驟。 介紹一款抓包工具,一般我在windows下使用Fiddler抓包,Fiddler使用教程這裏就不講了,重點介紹使用mac時的抓包

抓包 , charles 抓取 tcp , 操作系統 , HTTP , HTTPS , 架構 , 後端開發

收藏 評論

編程小天才 - flinkkafka吞吐量 flink為什麼吞吐量大

雙十一流量洪峯已經過去,身為大數據工程師的你,還在苦學Spark、Hadoop、Storm,卻還沒搞過Flink?每年雙十一,阿里都在Flink實時計算技術的驅動下全程保持了“如絲般順滑”,基於Flink的阿里巴巴實時計算平台簡直強·無敵。 最恐怖的是,阿里幾乎每年的實時計算峯值都達到了破紀錄的每秒40億條記錄,數據量也達到了驚人的7TB每秒,相當

js , Vue , 架構 , 後端開發 , flinkkafka吞吐量 , HTML , Javascript

收藏 評論