肖彬：大模型推理框架升级之路  2024-12-22

今天分享的是：肖彬：大模型推理框架升级之路 报告共计：26页 本次分享主要介绍了百川智能在大模型推理框架性能优化方面的工作，从量化、投机采样、TTFT与TPOT优化、通信优化四个专项展开： 1. 量化：通过多种量化方式降低显存占用和访存量，如Weight-int8 + KV_cache-int8、Activation int8、Weight-int4 + kv_cache-int4等，还在开发At...

11月21日基金净值：华安锦源0-7年金融债定开债最新净值1.0248，涨0.07%  2024-12-19

本站消息，11月21日，华安锦源0-7年金融债定开债最新单位净值为1.0248元，累计净值为1.1508元，较前一交易日上涨0.07%。历史数据显示该基金近1个月上涨0.28%，近3个月上涨1.14%，近6个月上涨2.08%，近1年上涨4.28%。该基金近6个月的累计收益率走势如下图： 华安锦源0-7年金融债定开债为债券型-长债基金，根据最新一期基金季报显示，该基金资产配置：无股票类资产，债券占净...