我们来说说 Python 中是如何存储字符的，先来看一个乱码的例子。新建一个 demo.py 文件，文件存储格式为utf-8文件中内容如下。
前言 曾几何时 Python 中文乱码的问题困扰了我很多很多年，每次出现中文乱码都要去网上搜索答案，虽然解决了当时遇到的问题但下次出现乱码的时候又会懵逼，究其原因还是知其然不知其所以然。现在有的小伙伴为了躲避中文乱码的问题甚至代码中不使用中文，注释和提示都用英文，我曾经也这样干过，但这并不是解决问题，而是逃避问题，今天我们一起彻底解决 Python 中文乱码的问题。
近日，有位小伙伴向我请教，在爬取某网站时，网页的源代码出现了中文乱码问题。之前关于爬虫乱码有很多粉丝的各式各样的问题，今天恋习Python与大家一起总结下关于网络爬虫的乱码处理。注意，这里不仅是中文乱码，还包括一些如日文、韩文 、俄文、藏文之类的乱码处理，因为他们的解决方式 是一致的，故在此统一说明。
编写一个python文件后，执行该python文件后，就会产生一个与其同名的pyc文件，改文件就是python编译之后产生的字节码，事实上，本节并不关心这个，本节的重点是来了解和学习python的编码和解码，python的解释器在加载.py文件执行的时候，会对内容进行编码，默认是ascill，为了更好的扩展python语言，就产生了unicode的编码，我们写个在编写中文的时候,在中文前面加u，这时候编码就是unicode。
最近在使用GDAL读写Shp格式中的属性字段的时候也遇到了中文乱码的问题，总结下自己遇到的情况。
计算机里面，编码方法有很多种，英文的一般用ascii,而中文有unicode，utf-8,gbk,utf-16等等。
character-set-server/default-character-set：服务器字符集，默认情况下所采用的。 character-set-database：数据库字符集。 character-set-table：数据库表字符集。 优先级依次增加。所以一般情况下只需要设置character-set-server，而在创建数据库和表时不特别指定字符集，这样统一采用character-set-server字符集。 character-set-client：客户端的字符集。客户端默认字符集。当客户端向服务器发送请求时，请求以该字符集进行编码。 character-set-results：结果字符集。服务器向客户端返回结果或者信息时，结果以该字符集进行编码。 在客户端，如果没有定义character-set-results，则采用character-set-client字符集作为默认的字符集。所以只需要设置character-set-client字符集。
如果你需要在Linux中操作windows下的文件，那么你可能会经常遇到文件编码转换的问题。Windows中默认的文件格式是GBK(gb2312)，而Linux一般都是UTF-8。下面介绍一下，在Linux中如何查看文件的编码及如何进行对文件进行编码转换。
相同点：python解释器是解释执行文件内容的，因而python解释器具备读py文件的功能，这一点与文本编辑器一样
字符串在java中统一用unicode表示( 即utf-16 LE) , 对于 String s = "你好哦!"；如果源码文件是GBK编码, 操作系统（windows）默认的环境编码为GBK，那么编译时, JVM将按照GBK编码将字节数组解析成字符，然后将字符转换为unicode格式的字节数组，作为内部存储。当打印这个字符串时，JVM 根据操作系统本地的语言环境，将unicode转换为GBK，然后操作系统将GBK格式的内容显示出来。 当源码文件是UTF-8, 我们需要通知编译器源码的格式，javac -encoding utf-8 ... , 编译时，JVM按照utf-8 解析成字符，然后转换为unicode格式的字节数组， 那么不论源码文件是什么格式，同样的字符串，最后得到的unicode字节数组是完全一致的，显示的时候，也是转成GBK来显示（跟OS环境有关） 乱码如何产生？本质上都是由于字符串原本的编码格式与读取时解析用的编码格式不一致导致的。 例如：String s = "你好哦!"; System.out.println( new String(s.getBytes(),"UTF-8")); //错误，因为getBytes()默认使用GBK编码， 而解析时使用UTF-8编码，肯定出错。 其中 getBytes() 是将unicode 转换为操作系统默认的格式的字节数组，即"你好哦"的 GBK格式，new String (bytes, Charset) 中的charset 是指定读取 bytes 的方式，这里指定为UTF-8,即把bytes的内容当做UTF-8 格式对待。 如下两种方式都会有正确的结果，因为他们的源内容编码和解析用的编码是一致的。 System.out.println( new String(s.getBytes(),"GBK")); System.out.println( new String(s.getBytes("UTF-8"),"UTF-8")); 那么，如何利用getBytes 和 new String() 来进行编码转换呢？ 网上流传着一种错误的方法：GBK--> UTF-8: new String( s.getBytes("GBK") , "UTF-8); ,这种方式是完全错误的，因为getBytes 的编码与 UTF-8 不一致，肯定是乱码。但是为什么在tomcat 下，使用new String(s.getBytes("iso-8859-1") ,"GBK") 却可以用呢？
在Python2.X及Python3有时经常碰到各种中文乱码的情况，这里整理了相关各种情况汇总。
NSI码（American National Standards Institute）
编码问题我仍旧没搞懂，最根本的从哪里来就没搞懂。当页面发送请求，编码到后台是什么编码呢？好吧，我默认的都是utf-8.后台接收参数后，可以在控制台打印出来，我也不清楚是什么编码。然后，就是数据库问题。 在mysql数据库，首先会设置mysql安装的字符集为utf-8,然后在连接的jdbc上注明characterEncoding是utf-8.一直这样统一下去，没有出现乱码。 连接oracle就出现问题了，我使用的一个已经安装好的oracle数据库。字符集是American，us7ascii.我插入和查询的中文
【引自程序犹如人生的博客】为什么说乱码是中国程序员无法避免的话题呢？这个首先要从编码机制上说起，大家都是中文和英文的编码格式不是一样，解码也是不一样的！如果中国的程序员不会遇到乱码，那么只有使用汉语编程。汉语编程是怎么回事，我也不大清楚，应该是前年吧！我一朋友给我介绍汉语编程，怎么不错不错？当时因为学习忙没去关注这个，等我闲了，那个朋友不弄这个，问他，他也不说不大清楚，最后自己对这个学习也不了了之了。
重新登录之后生效。 现在查看一下当前设置： [plain] view plain copy
然后，大多数人的做法是，调用encode/decode进行调试，并没有明确思考为何出现乱码
计算机要处理各种字符，就须要将字符和二进制内码相应起来，这样的相应关系就是字符编码。
来源：xybaby自荐投稿 www.cnblogs.com/xybaby/p/7814299.html 程序员都自视清高，觉得自己是创造者，经常鄙视不太懂技术的产品或者QA。可悲的是，程序员之间也相互鄙视，程序员的鄙视链流传甚广，作为一个Python程序员，自然最关心的是下面这幅图啦 我们项目组一值使用Python2.7，虽然我们也知道Python3的诸多好处，也曾经蠢蠢欲动过，但由于各种历史原因，以及业务的压力，我们只可能继续使用Python2.7。更悲哀的是，我们组不是那么international
为什么说乱码是中国程序员无法避免的话题呢？这个首先要从编码机制上说起，大家都是中文和英文的编码格式不是一样，解码也是不一样的！如果中国的程序员不会遇到乱码，那么只有使用汉语编程。汉语编程是怎么回事我也不大清楚，应该是前年吧，我一朋友给我介绍汉语编程，怎么不错不错？当时因为学习忙没去关注这个，等我闲了，那个朋友不弄这个，问他他也不说不大清楚，最后自己对这个学习也不了了之了。
最近业务中需要用 Python 写一些脚本。尽管脚本的交互只是命令行 + 日志输出，但是为了让界面友好些，我还是决定用中文输出日志信息。
最开始电脑的字符集是ASCII，英文在ASCII中每个字母占1个字节，但ASCII不支持中文，所以后来出现了Unicode；
大家都知道，不同字符编码，其在内存占用的字节数不一样。如 ASCII编码字符占用1个字节,UTF-8编码的中文字符是3字节,GBK为2个字节。
解决办法：在界面的右下角找到 UTF-8 ，单击之，在弹出的列表中选中GBK 在弹出框内选中Reload
大家好，又见面了，我是你们的朋友全栈君。 字符乱码的事，估计大家都遇到过，很烦，什么utf-8、GBK、GB2312转来转去，不知道什么时候才能转正常。我们做个试验，如果你是windows系统，打开记事本，新建一个文件，输入”联通”两个字之后，保存，关闭，然后再次打开，出现了什么现象？乱码！那你赶紧去找IT吧，你中招了！开玩笑的，这是著名的“windows联通之谜事件”。继续往下看，后面会有谜底的解释。那么我们就讨论下字符编码哪些事吧，首先我们看几个真实遇到的乱码的故障实例。
我们在处理文件、浏览网页、编写程序时，时不时会碰到乱码的情况。乱码几乎总是令人心烦，让人困惑。希望通过本节和下节文章，你可以自信从容地面对乱码，恢复乱码。 谈乱码，我们就要谈数据的二进制表示，我们已经在前两节谈过整数和小数的二进制表示，接下了我们将讨论字符和文本的二进制表示。 由于内容比较多，我们将分两节来介绍。本节主要介绍各种编码，乱码产生的原因，以及简单乱码的恢复。下节我们介绍复杂乱码的恢复，以及Java中对字符和文本的处理。 编码和乱码听起来比较复杂，文章也比较长，但其实并不复杂，请耐心阅读，让我们
背景 公司有一个数据处理线，上面的数据经过不同环境处理，然后上线到正式库。其中一个环节需要将数据进行处理然后导入到另外一个库(Sql Server)。这个处理的程序是老大用python写的，处理完后进
-多年互联网运维工作经验，曾负责过大规模集群架构自动化运维管理工作。 -擅长Web集群架构与自动化运维，曾负责国内某大型金融公司运维工作。 -devops项目经理兼DBA。 -开发过一套自动化运维平台（功能如下）： 1)整合了各个公有云API，自主创建云主机。 2)ELK自动化收集日志功能。 3)Saltstack自动化运维统一配置管理工具。 4)Git、Jenkins自动化代码上线及自动化测试平台。 5)堡垒机，连接Linux、Windows平台及日志审计。 6)SQL执行及审批流程。 7)慢查询日志分析web界面。
计算机由美国人发明，最早的字符编码为ASCII，只规定了英文字母数字和一些特殊字符与数字的对应关系。最多只能用 8 位来表示（一个字节），即：2**8 = 256，所以，ASCII码最多只能表示 256 个符号
中文在编程中真实后娘养的，各种坑爹，python3下中文乱码这个问题抓破了头皮，头疼。看了alex的文章，才有种恍然大悟的感觉(链接在底部)。
今天中午，我突然想搞清楚 Unicode 和 UTF-8 之间的关系，就开始查资料。
最近在使用 Python3.4 做一些脚本实现，发现对于编码的处理上和 Python2.6 有很大的不同，就此机会把相关知识做个梳理，方便需要的时候查阅。
Java Source File 中Default encoding 改写成UTF-8(你所需的编码类型) 然后Update，OK确定就可以了。
最近业务中需要用 Python 写一些脚本。尽管脚本的交互只是命令行 + 日志输出，但是为了让界面友好些，我还是决定用中文输出日志信息。 很快，我就遇到了异常： UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-3: ordinal not in range(128) 为了解决问题，我花时间去研究了一下 Python 的字符编码处理。网上也有不少文章讲 Python 的字符编码，但是我看过一遍，觉得自己可以讲得
python2不是以unicode作为基本代码字符类型，碰到乱码的几率是远远高于python3，但即便如此，相信很多人，也不想随意的迁移到python3，这里就总结几个我平常碰到的问题及解法。 文件中无法使用中文注释 处理方法： 在代码中增加# -*- coding=UTF-8 -*-，一般加在文件头部第一行，如果第一行是脚本标志，则放在第二行（实际仍然是python正本的第一行）。 随后将文件另存为UTF-8格式。 此方法可以解决注释中有中文，及字符串立即数中包含中文的问题。 unicode中文变
因为中文的特殊编码，导致 Python2 和 Python3 使用过程中的各种编码问题，如果不清楚其中的关联关系，那么这就一直是个大坑，不是懵逼就还是懵逼，所以就目前碰到的情况彻底梳理下 Python2 和 Python3 中编码的关系和区别，以作备忘。
原作者：阮一峰(ruanyifeng.com），现重新整理发布，感谢原作者的无私分享。
我们在使用JenKins编译Android项目时，特别是进入到Gradle脚本执行的时候。出现错误后，很容易出现中文乱码情况。
UNICODE,GBK,UTF-8区别 简单来说，unicode，gbk和大五码就是编码的值，而utf-8,uft-16之类就是这个值的表现形式．而前面那三种编码是一兼容的，同一个汉字，那三个码值是完全不一样的．如＂汉＂的uncode值与gbk就是不一样的，假设uncode为a040，gbk为b030，而uft-8码，就是把那个值表现的形式．utf-8码完全只针对uncode来组织的，如果ＧＢＫ要转ＵＴＦ－８必须先转uncode码，再转utf-8就ＯＫ了． 详细的就见下面转的这篇文章． 谈谈Unicode编码，简要解释UCS、UTF、BMP、BOM等名词 这是一篇程序员写给程序员的趣味读物。所谓趣味是指可以比较轻松地了解一些原来不清楚的概念，增进知识，类似于打RPG游戏的升级。整理这篇文章的动机是两个问题： 问题一： 使用Windows记事本的“另存为”，可以在GBK、Unicode、Unicode big endian和UTF-8这几种编码方式间相互转换。同样是txt文件，Windows是怎样识别编码方式的呢？ 我很早前就发现Unicode、Unicode big endian和UTF-8编码的txt文件的开头会多出几个字节，分别是FF、FE（Unicode）,FE、FF（Unicode big endian）,EF、BB、BF（UTF-8）。但这些标记是基于什么标准呢？ 问题二： 最近在网上看到一个ConvertUTF.c，实现了UTF-32、UTF-16和UTF-8这三种编码方式的相互转换。对于Unicode(UCS2)、GBK、UTF-8这些编码方式，我原来就了解。但这个程序让我有些糊涂，想不起来UTF-16和UCS2有什么关系。 查了查相关资料，总算将这些问题弄清楚了，顺带也了解了一些Unicode的细节。写成一篇文章，送给有过类似疑问的朋友。本文在写作时尽量做到通俗易懂，但要求读者知道什么是字节，什么是十六进制。 0、big endian和little endian big endian和little endian是CPU处理多字节数的不同方式。例如“汉”字的Unicode编码是6C49。那么写到文件里时，究竟是将6C写在前面，还是将49写在前面？如果将6C写在前面，就是big endian。如果将49写在前面，就是little endian。 “endian”这个词出自《格列佛游记》。小人国的内战就源于吃鸡蛋时是究竟从大头(Big-Endian)敲开还是从小头(Little-Endian)敲开，由此曾发生过六次叛乱，一个皇帝送了命，另一个丢了王位。 我们一般将endian翻译成“字节序”，将big endian和little endian称作“大尾”和“小尾”。 1、字符编码、内码，顺带介绍汉字编码 字符必须编码后才能被计算机处理。计算机使用的缺省编码方式就是计算机的内码。早期的计算机使用7位的ASCII编码，为了处理汉字，程序员设计了用于简体中文的GB2312和用于繁体中文的big5。 GB2312(1980年)一共收录了7445个字符，包括6763个汉字和682个其它符号。汉字区的内码范围高字节从B0-F7，低字节从A1-FE，占用的码位是72*94=6768。其中有5个空位是D7FA-D7FE。 GB2312支持的汉字太少。1995年的汉字扩展规范GBK1.0收录了21886个符号，它分为汉字区和图形符号区。汉字区包括21003个字符。 从ASCII、GB2312到GBK，这些编码方法是向下兼容的，即同一个字符在这些方案中总是有相同的编码，后面的标准支持更多的字符。在这些编码中，英文和中文可以统一地处理。区分中文编码的方法是高字节的最高位不为0。按照程序员的称呼，GB2312、GBK都属于双字节字符集 (DBCS)。 2000年的GB18030是取代GBK1.0的正式国家标准。该标准收录了27484个汉字，同时还收录了藏文、蒙文、维吾尔文等主要的少数民族文字。从汉字字汇上说，GB18030在GB13000.1的20902个汉字的基础上增加了CJK扩展A的6582个汉字（Unicode码0x3400-0x4db5），一共收录了27484个汉字。 CJK就是中日韩的意思。Unicode为了节省码位，将中日韩三国语言中的文字统一编码。GB13000.1就是ISO/IEC 10646-1的中文版，相当于Unicode 1.1。 GB18030的编码采用单字节、双字节和4字节方案。其中单字节、双字节和GBK是完全兼容的。4字节编码的码位就是收录了CJK扩展A的6582个汉字。例如：UCS的0x3400在GB18030中的编码应该是8139EF30，UCS的0x3401在GB18030中的编码应该是8139EF31。 微软提供了GB18030的升级包，但这个升级包只是提供了一
首先我们先得知道windows下的中文是GBK编码，VS2019也是GBK编码，所以在windows里编程中文最好就是用GBK编码。
如果出现了中文乱码，我们只要看： character_set_client —客户端的编码 character_set_connection —连接的编码(传输时的编码) character_set_results — 最后的输出编码
话说六年级二班有小明、小红两位同学，最近班上开了英语课，学着学着有些无聊，这时候小明想给小红传纸条，但是又担心被发现，突然小明灵机一动，在草纸上写下了一串数字12 9 11 5 21，然后就传给了小红，小红看了一眼莫名其妙，这时候小明冲着小红指了指自己英语书后面的字母表，小红看了几眼字母表，顿时明白过来，原来字母表上面有编号，小红按照编号，将这一串数字转换出来，得到的是like u，羞得小红脸色发红，这可真成了“小红”……
概念各种编码ASCII编码各个国家的编码统一编码从mysql中读取数据的编解码历程
Windows>>Pereferences>>General>Editors>>Spelling>>Encoding选项下选择other，然后输入”UTF-8″
本文介绍了Python2写入CSV文件时中文乱码问题的原因、解决方案和具体操作步骤。首先介绍了CSV文件中中文乱码问题的原因，然后给出了两种解决方案。在方案一中，介绍了如何对字符串进行编码处理。在方案二中，介绍了如何使用codecs库的open方法来指定打开文件的语言编码，从而解决中文乱码问题。
在 IntelliJ IDEA 中开发的 Java 程序 , 参考 【IntelliJ IDEA】导出可执行 JAR 包 博客 , 导出可执行 Java 程序 ;
在git中出现中文乱码的解决方案 https://blog.csdn.net/tyro_java/article/details/53439537
Windows 早期采用多字节编码，的确容易出现乱码问题。随着 Windows 全面转向 Unicode 编码，多语言的支持得到完美解决，出现中文乱码的问题就很少出现。出现乱码问题一般是 GBK 编码的文件当做 utf8 编码打开，或者 utf8编码的文件当做 GBK 编码打开。这种情况也多出现在 Linux 和 Windows 之间交换文件。
中文乱码问题在我们日常开发中司空见惯，那么乱码问题是如何产生的呢？又怎样去解决乱码问题呢？本文将结合基本概念和例子展开阐述，希望大家有收获。
stl 宏定义，使string和wstring通知支持 #ifdef _UNICODE #define tstring wstring #else #define tstring string #endif // _UNICODE #boost boost boost::log 只创建文件ascii文件，unicode需要转换后写入文件 wstring 转string boost::locale::conv::from_utf(wstr, “GBK”); string转wstring
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频
