有一个需求是要在一个云监控的状态值中存储多个状态(包括可同时存在的各种异常、警告状态)使用了位运算机制在一个int型中存储。
现在监控日志数据量非常大(亿级别)需要对数据按每小时、每天进行聚合,供在线报表使用。
状态分了3个级别:正常(0)、警告(1)、异常(2),聚合时需要使用max选择最差的状态,就需要对状态值进行处理加上级别和状态位个数,就要借助bigint型来做运算了,
问题是再将bigint 转为 int时获取原始状态值时,SQLServer报错了:
消息 8115,级别 16,状态 2,第 1 行
将 expression 转换为数据类型 int 时出现算术溢出错误。
因为状态码中已经用到了 0x80000000, 出现了符号位的问题。
写了一个转换函数解决了。
CREATE FUNCTION [dbo].[BigintToInt]
(
@Value bigint
)
RETURNS int
AS
BEGIN
-- 是否有int符号位
IF @Value 0x80000000 > 0 RETURN @Value 0xFFFFFFFF | 0xFFFFFFFF00000000
-- 无符号位
RETURN @Value 0xFFFFFFFF
END
您可能感兴趣的文章:- linux mysql 报错:MYSQL:The server quit without updating PID file
- mysql报错:MySQL server version for the right syntax to use near type=InnoDB的解决方法
- SQL Server附加数据库报错无法打开物理文件,操作系统错误5的图文解决教程
- mysql启动报错MySQL server PID file could not be found
- SQL Server 2005/2008 导入导出数据常见报错解决方法
- SQLServer中bigint转int带符号时报错问题解决方法
- SQL Server2005打开数据表中的XML内容时报错的解决办法
- SQL Server作业报错特殊案例分析
- sql server利用不同语种语言显示报错错误消息的方法示例