读「大模型时代的基础架构:大模型算力中心建设指南」
第1章 AI与大模型时代对于基础架构的需求 机器学习的核心认知 机器学习算法(尤以大模型、AI 为代表),本质是通过叠加多个线性幂函数,逼近现实世界的数学模型;计算这些函数的核心过程是 调参 ,该过程涉及海量乘加运算,因此具备并行乘加能力的 GPU、TPU 等专用硬件,在该场景下的性价比远高于通用…
TOPIC
12 篇相关文章
第1章 AI与大模型时代对于基础架构的需求 机器学习的核心认知 机器学习算法(尤以大模型、AI 为代表),本质是通过叠加多个线性幂函数,逼近现实世界的数学模型;计算这些函数的核心过程是 调参 ,该过程涉及海量乘加运算,因此具备并行乘加能力的 GPU、TPU 等专用硬件,在该场景下的性价比远高于通用…
📎 入门LVM,简单说说LVM中的LV、VG和PV,以及如何创建它们 存储的分类 按照物理介质分类 机械硬盘 HDD 特点:磁盘旋转存储,成本低,容量大,速度较慢(寻道时间影响数据的访问速度 优点:适合海量数据的存储)(冷数据、归档 缺点:随机读写性能差 固态硬盘SSD 特点:基于闪存芯片,随机读…
some basic concepts chart one helm package it containers all resources definitions necessary to run one application, tool, or service inside of a k8s…
📎 背景 时常有这样的需求:复制xx pod 的yaml信息到剪切板中 pbcopy 是macos中内置的工具,可以将终端输出复制到系统剪切板 同时可以使用 pbpaste 将剪切板中的内容输出到终端
为什么要内存对齐 平台原因 :各个硬件平台对存储空间的处理上有很大的不同。一些平台对某些特定类型的数据只能从某些特定地址开始存取。比如,有些架构的CPU在访问一个没有进行对齐的变量的时候会发生错误,那么在这种架构下编程必须保证字节对齐。 性能原因 :内存对齐可以提高存取效率。比如,有些平台每次读都是…
是什么 在 Go 语言中, sync/atomic 包提供了底层的原子操作,用于对整数类型和指针类型进行原子性的读写和修改 原子操作是不可分割的操作,确保多个 goroutine 并发访问共享数据时,操作不会被中断 CPU指令级别的支持 现代CPU架构提供了一组专门的指令,用于支持原子操作。 这些指…
什么是内存泄漏 程序运行中,动态分配的内存未能正确释放或回收,导致内存一直被占用不能被正确释放,可能导致最终内存耗尽 系统资源耗尽 :严重的内存泄漏可能会导致系统内存耗尽,进而引发系统崩溃或其他程序无法正常运行。 程序崩溃 :如果程序无法分配到足够的内存,它可能会崩溃,尤其是在没有进行异常处理的情况…
分布式系统稳定性保障:限流、熔断与降级完全指南 在分布式系统中,服务间依赖关系错综复杂,任何一个节点的异常都可能引发连锁反应,最终导致整个系统雪崩。限流、熔断、降级是应对流量冲击、故障传播和部分失效的三大核心机制。本文将系统梳理这三者的概念、关系、算法原理、代码实践与最佳配置,帮助你构建真正健壮的后…
什么是pprof pprof 是 Go 提供的性能剖析工具,允许开发者查看 CPU、内存、Goroutine 以及其他资源的使用情况 启动pprof 一旦你的应用程序运行并且 pprof 启用后,你可以通过浏览器或命令行工具访问 pprof 数据。常见的端点包括: CPU profile : htt…
内存模式设置 测试环境 go环境安装 client 10.80.51.7 linux系统资源状况 数据格式 测试结果 数据规模 300w、500w 行数据规模下的sqlite的 内存模式下 的TPS、QPS 数据插入结束后,开始模拟真实的应用场景(读多写少) 查询1w次,每次查询100次 插入3k条…
uuid 是什么 uuid的全称是 universally unique identifier ,即通用唯一识别号,它由16字节(128byte)组成,可以用于唯一的标识信息。 格式为 8 4 4 4 12的16进制格式 使用 分隔 不同的UUID版本 1. UUID v1 (基于时间) UUID…
我的linux学习笔记~ linux目录结构 目录 说明 / 根目录,只能包含目录,不能包含具体文件。 /bin 存放可执行文件。很多命令就对应/bin目录下的某个程序,例如 ls、cp、mkdir。/bin目录对所有用户有效。 /dev 硬件驱动程序。例如声卡、磁盘驱动等,还有如 /dev/nul…