如何确保字符串是UTF-8?

时间:2014-05-29 11:17:03

标签: java scala utf-8 character-encoding

如何在Scala中将此字符串the surveyÂ’s rules转换为UTF-8

我尝试过这些道路,但不起作用:

scala> val text = "the surveyÂ’s rules"
text: String = the surveyÂ’s rules

scala> scala.io.Source.fromBytes(text.getBytes(), "UTF-8").mkString
res17: String = the surveyÂ’s rules

scala> new String(text.getBytes(),"UTF8")
res21: String = the surveyÂ’s rules

好的,我已经以这种方式解决了。不是转换,而是简单的阅读

implicit val codec = Codec("US-ASCII").onMalformedInput(CodingErrorAction.IGNORE).onUnmappableCharacter(CodingErrorAction.IGNORE)

val src = Source.fromFile(new File (folderDestination + name + ".csv"))
val src2 = Source.fromFile(new File (folderDestination + name + ".csv"))

val reader = CSVReader.open(src.reader())

2 个答案:

答案 0 :(得分:9)

请注意,当您在没有参数的情况下调用text.getBytes()时,您实际上获得了一个字节数组,表示平台的默认编码中的字符串。例如,在Windows上,它可能是一些单字节编码;在Linux上它已经是UTF-8了。

要正确,您需要在getBytes()方法调用中指定确切的编码。对于Java 7及更高版本,请执行以下操作:

import java.nio.charset.StandardCharsets

val bytes = text.getBytes(StandardCharsets.UTF_8)

对于Java 6,请执行以下操作:

import java.nio.charset.Charset

val bytes = text.getBytes(Charset.forName("UTF-8"))

然后bytes将包含UTF-8编码的文本。

答案 1 :(得分:5)

只需将JVM的file.encoding参数设置为UTF-8,如下所示:

-Dfile.encoding=UTF-8

确保UTF-8是默认编码。

使用scala可能是scala -Dfile.encoding=UTF-8