UnicodeEncodeError:“charmap”编解码器无法对位置0中的字符“\x80”进行编码：字符映射到<undefined>

Question

我有一个字符串，它由我的IDE（非常旧的Boa构造函数）自动转换为字节码。 现在我想把它转换成unicode，以便在特定的机器上用编码（windows上的cp1252或Linux上的utf-8）打印出来。

我用两种不同的方法。其中一个在工作另一个不在工作。但为什么呢？

这里是工作版本：

#!/usr/bin/python
# vim: set fileencoding=cp1252 :

str = '\x80'
str = str.decode('cp1252') # to unicode
str = str.encode('cp1252') # to str
print str

这里是不工作的版本：

#!/usr/bin/python
# vim: set fileencoding=cp1252 :

str = u'\x80'
#str = str.decode('cp1252') # to unicode
str = str.encode('cp1252') # to str
print str

在版本1中，我通过decode函数将str转换为unicode。 在版本2中，我通过字符串前面的u将str转换为unicode。 但我想，这两个版本会完全一样吗？

Answer 1

str.decode不只是在字符串文本前面加上u。它将输入字符串的字节转换为有意义的字符（即Unicode）。

然后调用encode将这些字符转换为字节，因为您需要“打印”，将它们输出到终端或任何其他操作系统实体（如GUI窗口）。

所以，关于你的具体任务，我相信你想要的是：

s = '\x80'
print s.decode('cp1251').encode(platform_encoding)

其中'cp1251'是IDE的编码，而platform_encoding是当前系统的编码变量。

---

在回复您的评论时：

But the str.decode should have used the source code encoding (from line 2 in the file) to decode. So there should not be a difference to the u

这是错误的假设。来自Defining Python Source Code Encodings

The encoding information is then used by the Python parser to interpret the file using the given encoding.

所以set fileencoding=cp1252只是告诉解释器在解析第str = '\x80'行时如何将[通过编辑器输入的]字符转换为字节。在str.decode调用期间不使用此信息。

你也在问，u'\x80'是什么？\x80简单地解释为\u0080，这显然不是您想要的。看看这个问题-Bytes in a unicode Python string。