使用虛擬機與 Linux 容器進行軟體測試 概述 在現代 DevOps 與 CI/CD 流程中,測試環境的快速、可複製性與安全性已成為…
標籤: CPU 推理
-
DeepSeek-R1 (7B) 純 CPU 部署實戰:低成本企業級推理優化指南
本文分享在 CPU 环境下部署 DeepSeek-671B 的经验。核心策略为最小化模型尺寸、利用多核并行、动态量化以及优化内存管理。硬件配…

-
DeepSeek-R1 (70B) 純 CPU 部署實錄:打破 GPU 壟斷的硬體選型與量化優化
本文探討 DeepSeek-671B 在 CPU 上的部署,針對資安及成本考量,提供硬體選型、效能測試與優化建議。基於 Intel Xeon…

North Korea-linked Actors Exploit React2Shell to Deploy New EtherRAT Malware
北韓相關駭客組織正利用 React2Shell 漏洞,部署新型 EtherRAT 勒索軟體。攻擊者利用 React 前端框架缺陷注入惡意 JavaScript,建立 Web Shell 後植入 EtherRAT。EtherRAT 透過以太坊智能合約,以加密 ERC-20 代幣交易傳遞指令,實現隱匿控制。此攻擊模式結合…
DeepSeek-R1 CPU 部署 (下):利用 GGUF 與 llama.cpp 榨乾伺服器極限
前言:為什麼 PyTorch/ONNX 還不夠快? 在上一篇中,我們探討了 Intel Xeon 與 AMD EPYC 的硬體極限。然而,使用原本的 PyTorch (Hugging Face Transformers) 甚至 ONNX Runtime 跑大模型時,我們常會發現 CPU 使用率忽高忽低,記憶體頻寬利用率不佳。 這就是 llama.cpp…
GrayBravo 擴大 MaaS 版圖:詳解 CastleLoader 利用 Steam 隱藏 C2 的四大攻擊集群
GrayBravo 惡意組織利用 CastleLoader 惡意載體,擴展其惡意即服務(MaaS)模式。CastleLoader 常與 CastleRAT 搭配,後者具備遠端控制、資料竊取等功能,並能隱藏於合法進程中。GrayBravo 主要針對製造業/工控系統、醫療保健、金融服務等領域發起攻擊,竊取敏感資料並滲透目標…
AI顛覆市場研究:Cashew Research 挑戰900億美元產業
Cashew Research 以 AI 改寫 $90B 市場研究產業 Cashew Research 於 2025 年 12 月正式推出「Cashew In…
Prime Security募資2千萬美元,AI代理式安全架構問世!
Prime Security完成20萬美元A輪融資,打造代理式安全架構 Prime Security於今日公布已成功完成20萬美元A輪融…
AI自主客戶服務
若有任何需求可以直接詢問專業AI客服

