将UTF-8 varbinary(max)转换为varchar(max)

时间:2020-10-14 13:54:40

标签: sql-server tsql

我有一个varbinary(max)列,其中包含已压缩的UTF-8编码文本。我想使用SQL Server的UTF-8功能将这些数据解压缩并在T-SQL中作为varchar(max)使用。

我正在寻找一种从varbinary(max)转换为varchar(max)时指定编码的方式。我设法做到这一点的唯一方法是创建一个表变量,该表变量的列具有UTF-8归类,并将varbinary数据插入其中。

DECLARE @rv TABLE(
    Res varchar(max) COLLATE Latin1_General_100_CI_AS_SC_UTF8 
)

INSERT INTO @rv
SELECT SUBSTRING(Decompressed, 4, DATALENGTH(Decompressed) - 3) WithoutBOM
FROM
    (SELECT DECOMPRESS(RawResource) AS Decompressed FROM Resource) t

我想知道是否有一种不涉及插入表变量的更优雅,更有效的方法。

更新:

将其归结为一个不处理字节顺序标记或压缩的简单示例:

我将字符串“ Hello?” UTF-8编码,而没有将BOM表存储在变量@utf8Binary

DECLARE @utf8Binary varbinary(max) = 0x48656C6C6F20F09F988A

现在,我尝试将其分配给各种基于char的变量并打印结果:

DECLARE @brokenVarChar varchar(max) = CONVERT(varchar(max), @utf8Binary)
print '@brokenVarChar = ' + @brokenVarChar

DECLARE @brokenNVarChar nvarchar(max) = CONVERT(varchar(max), @utf8Binary)
print '@brokenNVarChar = ' +  @brokenNVarChar 

DECLARE @rv TABLE(
    Res varchar(max) COLLATE Latin1_General_100_CI_AS_SC_UTF8 
)

INSERT INTO @rv
select @utf8Binary

DECLARE @working nvarchar(max)
Select TOP 1 @working = Res from @rv

print '@working = ' + @working

其结果是:

@brokenVarChar = Hello 😊
@brokenNVarChar = Hello 😊
@working = Hello ?

因此,我能够使用此间接方法正确解码二进制结果,但我想知道是否存在更直接(且可能更有效)的方法。

3 个答案:

答案 0 :(得分:6)

我不喜欢这种解决方案,但这是我必须解决的问题(由于ADS中的一个错误,我最初认为它不起作用)。一种方法是在UTF8归类中创建一个新数据库,然后将该值传递给该数据库中的函数。由于数据库采用UTF8排序规则,因此默认排序规则将与本地排序规则不同,并且将返回正确的结果:

CREATE DATABASE UTF8 COLLATE Latin1_General_100_CI_AS_SC_UTF8;
GO
USE UTF8;
GO
CREATE OR ALTER FUNCTION dbo.Bin2UTF8 (@utfbinary varbinary(MAX))
RETURNS varchar(MAX) AS
BEGIN
    RETURN CAST(@utfbinary AS varchar(MAX));
END
GO
USE YourDatabase;
GO
SELECT UTF8.dbo.Bin2UTF8(0x48656C6C6F20F09F988A);

但是,这并不是特别“漂亮”。

答案 1 :(得分:4)

有一个未记录的黑客:

DECLARE @utf8 VARBINARY(MAX)=0x48656C6C6F20F09F988A;

SELECT CAST(CONCAT('<?xml version="1.0" encoding="UTF-8" ?><![CDATA[',@utf8,']]>') AS XML)
       .value('.','nvarchar(max)');

结果

Hello ?

即使在没有新 UTF8 排序规则的版本中也能工作...

更新:将其作为函数调用

这可以很容易地包装在标量函数中

CREATE FUNCTION dbo.Convert_UTF8_Binary_To_NVarchar(@utfBinary VARBINARY(MAX))
RETURNS NVARCHAR(MAX)
AS
BEGIN
    RETURN
    (
    SELECT CAST(CONCAT('<?xml version="1.0" encoding="UTF-8" ?><![CDATA[',@utfBinary,']]>') AS XML)
           .value('.','nvarchar(max)')
    );
END
GO

或者像这样的内联表值函数

CREATE FUNCTION dbo.Convert_UTF8_Binary_To_NVarchar(@utfBinary VARBINARY(MAX))
RETURNS TABLE
AS
    RETURN
    SELECT CAST(CONCAT('<?xml version="1.0" encoding="UTF-8" ?><![CDATA[',@utfBinary,']]>') AS XML)
           .value('.','nvarchar(max)') AS ConvertedString
GO

这可以在 FROM 之后使用,或者 - 更合适 - 与 APPLY

一起使用

答案 2 :(得分:2)

DECLARE @utf8Binary varbinary(max) = 0x48656C6C6F20F09F988A;
DECLARE @brokenNVarChar nvarchar(max) = concat(@utf8Binary, '' COLLATE Latin1_General_100_CI_AS_SC_UTF8);
print '@brokenNVarChar = ' +  @brokenNVarChar;