使用CEILING时,CASE表达式返回错误的值


11

我遇到了一个问题,就是CASE表达式无法返回我期望的结果。

作为测试,我添加了一个十进制变量并对它运行相同的CASE表达式,它运行良好,返回的结果与我期望的一样(将值四舍五入IsGun=1。但是当我CASE对另一个十进制值运行相同的表达式时,它总是返回CEILING()函数的值,并且永远不会返回原始值。

这是SQL代码:

DECLARE @Num decimal(8,2);
    set @Num = 12.54;
    WITH PQ AS
    ( 
        SELECT 
            UPC, 
            Price1, 
            DBID,
            AVG(Price1) OVER (PARTITION BY UPC) AS Price1Avg
        FROM
            vProducts_PriceQty_Union
    )
    SELECT 
        PQ.UPC,
        PQ.Price1,
        PQ.Price1Avg,
        (CASE WHEN p.IsGun = 1 THEN CEILING(@Num) ELSE @Num END) AS UsingVar,
        CAST(
            (CASE WHEN P.IsGun = 1 THEN CEILING(PQ.Price1Avg) ELSE PQ.Price1 END)
             AS NUMERIC(8,2))
        AS PriceAdj,
        PQ.DBID,
        P.IsGun
    FROM
        PQ
     INNER JOIN
        products P ON PQ.UPC = P.UPC

以下是结果片段:

UPC             Price1      Price1Avg   UsingVar    PriceAdj    DBID  IsGun
942000899195    14.9900     14.990000   12.54       15.00       1       0
980420671300    29.9900     29.990000   12.54       30.00       1       0
980420671310    29.9900     29.990000   12.54       30.00       1       0
980426713020    29.9900     29.990000   12.54       30.00       1       0
980426713120    29.9900     29.990000   12.54       30.00       1       0
000998622130    319.0000    319.000000  13.00       319.00      1       1
000998624730    314.0000    314.000000  13.00       314.00      1       1
000998624970    419.0000    419.000000  13.00       419.00      1       1
008244284754    1015.0000   1015.000000 13.00       1015.00     2       1
010633012288    267.0000    267.000000  13.00       267.00      6       1

这是来自vProducts_PriceQty_Union的数据:

UPC             Price1  Price2  Quantity    DBID
942000899195    14.9900 0.0000  2.00        1
980420671300    29.9900 0.0000  3.00        1
980420671310    29.9900 0.0000  1.00        1
980426713020    29.9900 0.0000  2.00        1
980426713120    29.9900 0.0000  1.00        1

从前五个IsGun = 0中可以看到,CASE使用固定变量的第一个表达式返回的UsingVar值是我们期望的12.54。对于最后五个,它还返回我们期望的值13。

但在第二CASE表达式(完全相同的逻辑),则PriceAdj使用CEILING上他们中的每一个单一的功能,而不管是否IsGun = 1或没有。

为什么查询不返回预期结果?

在一些用于联合的表的视图的数据类型价格1Price2分别SMALLMONEY十进制(8,2) 。从那以后,我将它们全部更改为十进制(8,2),但这并不影响结果。

Answers:


11

重现该问题:

SELECT *, (CASE
    WHEN IsGun=1 THEN CEILING(Price1Avg)
    ELSE Price1 END)
FROM (
    SELECT UPC, IsGun, Price1,
           AVG(CAST(Price1 AS numeric(8, 2))) OVER (PARTITION BY UPC) AS Price1Avg
    FROM (
        VALUES ('A', 0, 14.99),
               ('B', 0, 29.99),
               ('C', 1, 319.00),
               ('D', 1, 314.00)
        ) AS x(UPC, IsGun, Price1)
    ) AS sub;

这里发生的是CEILING(PQ.Price1Avg)产生一个numeric(38, 0)

根据文档CEILING()尽管小数位数(小数位数)可能会发生变化,但的输出类型与输入的基本数据类型相同。

  • AVG()在我的测试中,该函数返回numeric(38, 6)
  • CEILING()但是,该列上的函数输出numeric(38, 0)

验证:

SELECT CEILING(CAST(123.45 AS numeric(38, 6)))

解决方法是,您可以显式转换CEILING()函数的输出,这应该为您提供正确的结果:

SELECT *, (CASE
    WHEN IsGun=1 THEN CAST(CEILING(Price1Avg) AS numeric(8, 2)) -- Explicit CAST.
    ELSE Price1 END)
FROM (
    SELECT UPC, IsGun, Price1,
           AVG(CAST(Price1 AS numeric(8, 2))) OVER (PARTITION BY UPC) AS Price1Avg
    FROM (
        VALUES ('A', 0, 14.99),
               ('B', 0, 29.99),
               ('C', 1, 319.00),
               ('D', 1, 314.00)
        ) AS x(UPC, IsGun, Price1)
    ) AS sub;

还应注意,case语句不能返回多种不同的类型,但是IIF表达式可以,因此建议这样做。
亚当·马丁

2
@AdamMartin不正确。一个iif被扩大了出来case。它从两个选项中返回具有最高数据类型优先级类型。对于同一列,任何表达式都不可能在一行中返回数据类型X,而在另一行中返回数据类型Y。
马丁·史密斯

@Daniel,最有帮助。一旦我对每个输出进行CAST(x AS NUMERIC(8,2)),它就会返回我正在寻找的结果。非常感谢您和这个社区!
Rodney G
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.