news 2026/4/3 5:49:52

log_softmax和sigmoid防止溢出原理

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
log_softmax和sigmoid防止溢出原理

1sum_softmax推理

指数函数的输出永远最大只有 1,前面常量不涉及指数计算基本不会溢出。

2 sigmoid的安全处理

对于常见操作

# 极易下溢出!如果 logits 很小,pred 变成 0,log(0) 报错
pred = torch.sigmoid(logits)
loss = torch.nn.BCELoss()(pred, target)

torch的内部自动处理了下溢出,数值绝对稳定 torch.nn.BCEWithLogitsLoss()(logits, target)处理策略:

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/2/27 22:04:12

ModbusTCP通信实现:STM32平台深度剖析

从零构建工业级ModbusTCP通信:STM32实战全解析你有没有遇到过这样的场景?一台PLC要读取现场某个温湿度传感器的数据,但设备之间相距百米、布线复杂,传统的RS-485总线不仅速率低、节点少,还容易受干扰。更头疼的是&…

作者头像 李华
网站建设 2026/4/2 7:23:41

STM32量产编程中JFlash脚本使用教程

如何用JFlash脚本实现STM32高效量产烧录?一个工程师的实战笔记最近在做一款基于STM32F4系列的新产品试产,客户要求首批交付5000台,时间紧、任务重。最让我头疼的不是硬件设计或软件功能,而是量产编程环节——怎么才能又快又稳地把…

作者头像 李华
网站建设 2026/4/1 15:32:51

手把手教你使用hal_uartex_receivetoidle_dma构建稳定工控链路

用好STM32的“空闲线检测DMA”,让工控通信稳如磐石在工业现场,串口通信是PLC、传感器、HMI之间最基础也是最关键的桥梁。但你有没有遇到过这样的问题:Modbus报文偶尔丢帧?高速数据下CPU跑满,系统卡顿?调试时…

作者头像 李华
网站建设 2026/3/27 16:32:44

JSON配置文件在嵌入式端的解析实战案例

让配置“活”起来:一个嵌入式工程师的JSON实战手记最近在调试一款基于STM32的工业传感器节点时,客户提出了这样一个需求:“能不能不改固件就能切换工作模式?”——这听起来简单,但背后却牵动了整个系统的架构设计。我们…

作者头像 李华
网站建设 2026/3/28 3:09:31

74194双向移位时序分析:超详细版时序图讲解

74194双向移位时序图精讲:从波形到实战的深度拆解你有没有遇到过这样的情况?明明控制信号都接对了,时钟也稳定输出,可数据就是“走偏”——LED流水灯不按预期方向流动,或者并行加载的数据一进芯片就错位。问题很可能出…

作者头像 李华
网站建设 2026/4/1 8:20:39

UDS诊断协议在CANoe中的仿真测试:实战案例

UDS诊断协议在CANoe中的仿真测试:从零构建实战系统一个典型的开发困境你正在参与一款新能源电驱控制单元(ECU)的软件开发。项目进入中期,硬件尚未完全就绪,但整车厂已要求提供完整的UDS诊断接口文档,并准备…

作者头像 李华