博客 RSS 訂閱

mob64ca141a683a - spark shuffle優化介紹 - double

Spark Shuffle性能優化:數據重分佈的“加速器” 在Spark分佈式計算中,Shuffle操作(如groupByKey、reduceByKey)是性能瓶頸的核心場景。它涉及跨節點數據重分佈,其效率直接影響作業執行時間。以下通過關鍵優化策略實現“加速器”效果: 1. 減少Shuffle數據量 原理:降低網絡傳輸

spark , 性能優化 , 序列化 , 大數據 , 後端開發 , harmonyos

收藏 評論

數據小探 - (一)Spark簡介-Java&Python版Spark

從 5MB 到 1.6GB 數據:Java/Scala/Python 在 Spark 中的性能表現全解析 arXiv:2510.19012 (cross-list from cs.DC) Comparative analysis of large data processing in Apache Spark usi

Scala , 後端開發 , JAVA , harmonyos , Python

收藏 評論

BiliWu - 使用Azure Bastion連接到AKS羣集

出於安全的原因,很多客户現在將AKS羣集改為了私有部署模式,這樣可以有效的避免羣集API的暴露,提高安全性。但在使用私有羣集時,除非將個人電腦接入到和AKS羣集相同的網絡,否則無法使用kubectl進行羣集資源的部署和管理。這也就意味着需要使用專線、S2S VPN或P2S VPN鏈路來確保個人PC可以與AKS羣集通信。 當然,如果不想使用專線或VPN的鏈接,也可以通過在虛擬

雲平台 , kubernetes , 雲計算 , azure , 技術人為什麼要寫博客? , 堡壘機 , 安全 , Bastion

收藏 評論

數據小築 - java語言代碼大全

基礎語法 1. Hello World public class HelloWorld { public static void main(String[] args) { System.out.println("Hello, World!"); } } 講解 這是一個典型的Jav

System , 開發語言 , JAVA , 前端開發 , Javascript , Python

收藏 評論

mob64ca1404baa2 - Python量化交易入門_黑馬程序員的技術博客

一、量化 1.1、目的 大模型量化的主要目的是壓縮模型參數,降低計算複雜度,提高推理效率。 存儲優化:將高精度的浮點型參數轉換為低精度的整數參數,減少模型存儲空間。 計算加速:使用低精度整數進行計算,降低計算複雜度,提高推理速度。 硬件適配:某些硬件(如嵌入式設備、移動端芯片)對低精度計算支持更好,量化可以提高 適配性。

數據 , 數位 , 權重 , 人工智能 , 前端開發 , Javascript , Python

收藏 評論

香奈兒 - Kafka為什麼要拋棄ZooKeeper?

Kafka 拋棄 Zookeeper 的背景 早期的 Kafka 嚴重依賴 Zookeeper 完成集羣元數據管理和控制器選舉等核心功能。Zookeeper 作為分佈式協調服務,雖然成熟穩定,但隨着 Kafka 規模擴大和功能迭代,逐漸暴露出以下問題: 性能瓶頸:Zookeeper 的寫操作需通過 Leader 節點同步到 Foll

數據同步 , zookeeper , 元數據 , 分佈式 , jquery , kafka , 前端開發

收藏 評論

風華正茂的AI - 金倉數據庫字段_KingbaseES數據庫水平分區技術—人大金倉_weixin

KingbaseES分區表管理:Python大數據量存儲策略 一、分區表設計原則 分區鍵選擇 時間字段(如create_time):適合時序數據 業務主鍵(如user_id):適合分佈式查詢 使用哈希分區時:$$ \text{partition_num} = \text{hash}(key)

開發語言 , SQL , 分區表 , 前端開發 , Javascript , Python

收藏 評論

技術極客傳奇 - Linux基礎知識之---文件系統層級結構 - achuDk的空間 -

MyViewOfLinuxSystems架構剖析:文件系統層級與存儲設備關係詳解 你是否曾疑惑,當在Linux系統中保存文件時,數據究竟是如何從應用程序到達硬盤的?為什麼刪除文件後空間不會立即釋放?本文將通過MyViewOfLinuxSystems項目提供的系統架構圖,一步步解析Linux文件系統層級與存儲設備之間的關係,讀完後你將清晰理解

文件系統 , 數據 , 後端開發 , x系統 , Python

收藏 評論

技術博客達人 - 使用WebRTC實現語音通話,視頻通話 - coding源的個人空間 -

Ant Design XWebRTC集成:在AI應用中添加實時音視頻對話功能引言:AI應用的實時交互痛點與解決方案 你是否遇到過AI對話應用只能發送文字消息的侷限?在客服、在線教育等場景中,實時音視頻溝通能顯著提升用户體驗。本文將展示如何在基於Ant Design X構建的AI應用中集成WebRTC技術,實現實時音視頻對話功能。讀完本文後,你將能夠

音視頻 , 視頻通話 , 前端開發 , ide , Javascript

收藏 評論

巨浪888 - 用AI讓藏品説話項目開發筆記

你去過博物館嗎?站在玻璃展櫃前,看着千年前的陶俑、青銅器,除了旁邊的簡介牌,你對它的前世今生一無所知。文物不會説話,但我們能用AI讓它“活”一次。全國有近6千家博物館,但九成以上缺乏沉浸式導覽能力。AR導覽設備租金昂貴,NFT數字藏品門檻高、手續費勸退。於是我想做一個APP產品,不用額外硬件,不用耗流量,手機 Web/APP 拍張文物照,或喊一句 “這是哪裏”,30 秒就能生成

AIGC二三事 , 3d , 人工智能 , 深度學習 , 4D , Web

收藏 評論

mob64ca13ff5b03 - html5 - React驗證碼組件實現

📖 前言 在現代Web應用中,驗證碼系統是保障安全的重要組成部分。本文將詳細介紹如何從零開始構建一個功能完整的驗證碼圖片管理系統,涵蓋前端React開發、後端接口對接、狀態管理等關鍵技術點。 🎯 項目概述 系統功能: 驗證碼圖片列表展示與分頁 關鍵詞搜索過濾 批量選擇與刪除 單個驗證碼答案實時

搜索 , 後端開發 , 驗證碼 , typescript , 前端 , Python

收藏 評論

博納軟雲之玉面飛龍 - JAVA上門家政同城服務系統源碼微信小程序+微信公眾號+APP+H5

JAVA上門家政同城服務系統:全渠道數字化解決方案的技術架構與商業價值 一、系統架構優勢與行業前景分析 在O2O生活服務行業數字化轉型的浪潮中,基於SpringBoot+MyBatisPlus+MySQL技術棧構建的上門家政同城服務系統,通過微信小程序、微信公眾號、APP、H5等多端觸達,實現了家政服務資源的智能化調度與精細化運營。該系統採用微服務架構設計,支持高併發

ico , redis , 功能實現 , 後端開發 , JAVA

收藏 評論

boyboy - pinterest中國站

寫國內類pinterest網站的對比,但是目前來看,除了一直領先的堆糖與半路橫空殺出的花瓣交惡混戰之外,其他的網站無論是從流量上還是從產品本身來説都還距這兩個業內領先者有不小的差距, 寫出來感覺沒有太大的意義。所以,這次只能華麗麗地當一次標題黨了。 Pinterest模式在中國的可行性分析。 論文範兒出來了有木有,親!可惜啊,我

pinterest中國站 , 娛樂 , 生活 , 雲計算 , 電子商務 , 雲原生 , 互聯網

收藏 評論

歲月靜好呀 - nuscenes座標系參數

座標轉換的相關問題(橢球體、投影、座標系統、轉換、BEIJING54、XIAN80等... 最近需要將一些數據進行轉換,用到了一點座標轉換的知識,發現還來這麼複雜^_^,覺得自己真是愧對了武漢大學以及中科院這麼多年培養我,讓我上了好多課卻從來沒有好好聽,今天才知道其實很有用!不多廢話,給您分享下我的座標轉換之路。 P

dataset , System , transformation , 架構 , 後端開發 , parameters , nuscenes座標系參數

收藏 評論

wukongmazi - Docker + Spring Boot:天生一對的完美部署

使用Docker部署Spring Boot項目能極大簡化環境配置和應用分發。下面是一個清晰的操作流程,以及一些常見問題的解決方法。 🚀 部署Spring Boot項目到Docker 要將Spring Boot項目部署到Docker,主要流程是:準備項目、創建Docker鏡像、運行Docker容器。以下是關鍵步驟: 準備Spr

Spring Boot , yyds乾貨盤點 , 後端開發 , springboot , JAVA , 容器部署 , Docker

收藏 評論

mob64ca13fe9c58 - masterarchive文件夾有什麼用

橫槍立馬觀核景 主持過後,先由格蠹科技創始人張銀奎介紹了CoreSight技術背景。他先從自身對調試技術的一些理解入手,借用梁肇新博士的名言——“好代碼是調試出來的”,表達了自己的看法,即:好芯片也是調試出來的。 張銀奎回顧了ARM芯片的歷史,ARM從一個跟在X86“老大哥”身後的小弟,一

芯片 , 大數據 , hive , 內核 , 編程語言 , Linux , 人工智能

收藏 評論

網絡安全守衞 - openCV 單目測距demo

量子位 吃完的螃蟹殼是幹垃圾還是濕垃圾? 或者,裹上一層黑科技,讓它變身「火星車」,饞哭隔壁家小孩。 更硬核的是,這樣一台螃蟹火星車,並非只是一個模型。 它支持 WiFi 無線圖傳、控制,手指在手機上移向哪裏,車就跟着往哪裏走。 能實現激光測距,限定目標距離: 還有慣性傳感單元: 甚至還有 AI 功

機器學習 , 單目測距代碼 , openCV 單目測距demo , 目標跟蹤 , 人工智能 , 閉環控制 , 公眾號

收藏 評論

EasyV數字孿生可視化 - 數字孿生物流:以某物流企業數字孿生智慧鋼鐵倉儲定位系統建設為例

1.建設背景 國家“十四五”規劃明確提出加快現代物流數字化、智能化轉型,基於國家數字經濟 戰略及企業數字化轉型要求,鋼鐵物流作為重點領域,其倉儲環節的智能化升級被列為政策重點支持方向。某物流企業作為鋼鐵物流龍頭企業,隨着物流行業安全標準要求的不斷 提升,其企業業務增長與戰略佈局都有所調整,庫存管理盲區、作業監管低效、風險響應 滯後、跨域信息割裂和作業協同低效等問題嚴重阻礙

數據 , 物聯網 , 自定義 , 數據可視化 , 人工智能

收藏 評論

智能創新者 - odps sql和hive sql的區別

ORACLE是數據庫,有客户端和服務器;     其,具體下載,可見http://www.oracle.com/technetwork/database/enterprise-edition/downloads/index.html   PLSQL Developer只是第三方工具,服務於ORACLE,類似的工具還有Toad,sqlplus,

developer , 大數據 , hive , PLSQL

收藏 評論

雲端創新者 - 圖像識別兩條線有沒有搭接

  在家中擁有一份類似於下圖的定製黑白或彩色線條裝飾地圖,可以説是一件非常賞心悦目的事情;而這類定製裝飾地圖往往都具有比較高的價格,總是讓我們望而卻步。這時,我們可以嘗試自己獲取相關地圖素材,DIY一份屬於自己的定製地圖。   而自己製作這樣一份定製裝飾地圖最大的問題就是——如何獲取地圖中的道路、建築、水體等線條呢?本文就介紹幾種獲取地圖中

線條地圖 , 圖像識別兩條線有沒有搭接 , 線稿地圖 , 人工智能 , 計算機視覺 , 路網 , 地圖輪廓

收藏 評論

mob6454cc6d3e23 - 下載地圖mbtiles

百度地圖有四種,一種是基於衞星地圖的百度衞星地圖,一種是基於街道圖的百度電子地圖,另外兩種分別是電子地圖大字體地圖和衞星地圖大字體地圖,適合做廣告噴繪打印等。這裏講解如何下載基於街道圖的百度電子地圖。 1.選擇地圖 打開水經注萬能地圖下載器,點擊左上角的地圖圖標,在顯示的地圖列表中選擇“百度地圖”。 選擇百度地圖 在左上方的菜單欄

下載地圖mbtiles , 電子地圖 , 衞星地圖 , 架構 , 後端開發 , 百度

收藏 評論

Python數據分析 - yolo目標檢測實際流程圖

Yolo v2 論文名稱 Yolo9000:Better,Faster,Stronger 該論文實際上包含了2個模型,Yolov2 和 Yolo9000,Yolo v2 是在 Yolo v1 基礎上進行了改進, 此外作者提出了一種 檢測和分類 的聯合訓練方法,並用該方法在 COCO 檢測數據集 和 ImageNet 分類數據集上訓練 Yolo v2,把得到的模型稱為 Yol

數據集 , 卷積 , 寬高 , yolo目標檢測實際流程圖 , 人工智能 , 計算機視覺

收藏 評論

易軟項目平台分享 - 2025過度定製項目進度管理軟件,平均多花20%預算!

2025年,企業數字化轉型進入深水區,項目進度管理軟件成為業務落地的核心支撐。但行業調研顯示,超過60%的企業在軟件定製化過程中出現預算超支,過度定製導致的平均額外支出高達20%。對於CIO、IT決策者及安全合規官而言,面對公有云巨頭與私有化工具的“嘈雜選擇”,真正的挑戰並非信息匱乏,而是缺乏一套清晰、公正的評估框架,以平衡定製化需求與成本可控、安全合規的核心訴求。本文將從評估標準建立、主流產

軟件工程

收藏 評論

gulaotou - python 補全html href

作者:方倍工作室 本文介紹支付寶中當面付下屬的條碼支付、掃碼支付、訂單查詢、退款申請的集成開發過程。 本文分為以下五個部分: 條碼支付和掃碼支付介紹 申請應用 密鑰生成及配置 API及SDK集成 條碼支付、掃碼支付、訂單查詢、退款申請 一

python 補全html href , 支付寶 , 密碼學 , 數據庫 , 後端開發 , Json , Python

收藏 評論